山陕甘会馆位于开封市徐府街中段路北。徐府是明代周定王长女兰阳郡主的丈夫、中山王徐达的孙子徐茂先的府第，特别显赫，所在的街道称为徐府街。明亡以后，府宅荒废。清初山西、陕西商人在此建成会馆，会馆前建关帝庙。会馆及关帝庙始建的时间无考，据调查关帝庙大殿悬有乾隆三十年（1765年）匾额，足证关帝庙及会馆已有悠久历史。光绪末年，甘肃商人参加会馆后，改称山陕甘会馆。会馆是三省同乡聚会和贸易场所，被称之为"中州之盛观"。乾隆时期小说《歧路灯》，是描写河南省城开封的一幅民俗画卷，书中所提山陕会馆即此处，可见昔日之盛。现会馆建筑已全部改观，仅存关帝庙，仍习称山陕甘会馆。
山陕甘会馆集中国古代建筑、雕刻、油漆、彩绘之大成，是一座极为珍贵罕见的艺术宫，尤以砖雕、木雕、石雕为佳，巧夺天工，堪称会馆"三绝"。
现存会馆建筑，有砖雕照壁、掖门、戏楼、钟楼、鼓楼、牌楼、大殿、卷棚、拜殿、配殿以及偏殿、廊房、堂戏楼等。整个会馆建筑雄伟，飞檐交错，五彩纷呈，是一座设计精美、布局严谨的古建筑群。其建筑艺术闻名遐迩，是中国古代建筑艺术宝库中的一颗璀璨明珠。
临街的青砖照壁，高8.6米，宽16.5米，厚0.65米，为庑殿顶，上覆绿色琉璃瓦，基础为一米高的青石须弥座，里外檐下5层砖雕，布满各种图像，有梅兰山水，有飞禽走兽，有博古图案，有人物花卉，并有32个龙头垂柱散布其间，精心构思和雕琢的艺术形象，组成了一幅幅绚丽多姿的画面，是砖雕艺术的珍品。照壁两面中心还各有一砖雕花框，北面框角各有一夔龙石雕，中心有圆形石雕二龙戏珠，外沿四周呈正方形，环以小龙，精致瑰丽，栩栩如生。
照壁两侧掖门由两根柱子和抱鼓石擎撑，门高7米，为庑殿顶，上覆绿色琉璃瓦，檐下为十一踩斗拱，朱门金钉的大门和照壁相互排列，十分壮观。
进掖门后，是一个八字墙的庭院，向北是一座高9.7米的戏楼，戏楼坐南朝北，楼两侧垂花门楼，将前后分成两个院落。过戏楼，东西是两座有砖室底座重檐歇山顶的钟楼和鼓楼，高约12米，内有通柱4根，檐柱12根，上覆绿色琉璃瓦，正脊为行龙花雕，脊中饰葫芦宝瓶，四周额枋布满浮雕和人物故事，内容有"普天同庆"、"昭君出塞"、"古城会"、"踏雪寻梅"等。钟鼓楼下相对辟门，有木梯可登楼俯瞰全景，钟鼓可击，钟声嘹亮，鼓音浑厚。
向北，在中轴线上是一座牌楼，高约11米，为六柱五楼三牌坊，飞檐叠起，昂嘴密布，垂柱环绕，气势雄伟。牌楼上部中心向南有一方2米高的匾额，竖书"大义参天"，向北有一同样匾额上书"流芳千古"。牌楼由6根柱子擎撑，东西对称，各呈三角形。上部横枋相连，顶部中间突起，形成飞檐五楼，为庑殿顶，绿色琉璃瓦，檐下是十一踩斗拱以及玲珑的木雕垂柱、人物透雕和8幅彩画。下部有高2米的6个抱鼓石，上面雕有云鹤、凤凰、山石、龙虎、人物故事和图案，雕工精湛。牌楼底座四周为石条所筑，高出地面，有踏步可上。这座牌楼在力学、美学以及建筑艺术方面都有重要的学术价值。
牌楼东西两侧是16间配殿，檐柱以里有走廊相通，外檐布满木雕，雕工层次分明，玲珑剔透、生动逼真，有楼台亭阁、船桥山石、珍禽奇兽、花卉树木，还有各种人物132个，有的行走，有的乘马，有的奔驶，有的弹唱，有的对话，有的射箭，饮酒笙歌，行拳漫吟，各种画面构成了一幅幅趣味丛生的故事。
牌楼以北的大殿、卷棚和拜殿，是一座连为一体的建筑，面积为540平方米，拜殿面阔3间，为单檐歇山挑檐，四边出厦，绿色琉璃瓦，正脊为二龙戏珠琉璃浮雕透脊，十分精致。卷棚与大殿均面阔5间，大殿为单檐琉璃硬山，正脊为行龙琉璃浮雕，建筑宏伟宽敞，有柱子48根，有的柱础高达0.7米，上下雕有4层，形状不同。下层四角有4个小狮，三层中间四面雕有各种形象，有假山、仙鹤、龙虎、麒麟、鹿马、怪兽、二羊抵角、花卉树木及海涛、太阳等，造型生动。
卷棚内有一座长2.6米、宽0.88米、高0.85米，正面雕有众仙聚会的石案，建造于清嘉庆十二年（1807年）。在拜殿内外檐布满浮雕，外檐浮雕有的厚达尺余，盘龙、凤凰、花卉和松鼠横贯其间，10个玲珑秀丽的透雕垂柱各呈异彩，呈现出一派龙腾凤舞、花枝斗艳的奇观。
大殿两侧，还各有一座对称的庭院，各有垂花门一个和偏殿、卷棚以及堂戏楼。
会馆还是一个龙的世界，现存各种形式的雕龙达300余条。
山陕甘会馆于清嘉庆十二年（1807年）、嘉庆十七年（1812年）、道光四年（1824年）、道光十四年（1834年）、道光十八年（1838年）、同治三年（1864年）、光绪二十八年（1902年）及1933年均有修葺。光绪二十八年在殿北建有春秋楼一座，现已无存。民国时期，这里曾是西北中学、西北小学所在地。日军侵华期间，又成为日军"华北五省特务机关总部"。建国后，改为徐府街小学。人民政府多次拨款修葺，又迁走学校，辟为游览胜地。1986年8月，复建会馆西院和中轴线后殿的前大殿。1987年，对大殿、拜殿和卷棚进行维修，重建了东、西掖门。
1989年，修复了戏楼两侧的垂花门和会馆两偏院的北殿、卷棚及戏楼。1992年，对会馆拜殿、东西配房及钟鼓楼、牌楼的部分木雕进行彩绘。2000年、2002年，分别对会馆西垂花门、西厢房进行整修。
2001年6月，山陕甘会馆被公布为全国重点文物保护单位。
