河南省位于中国中部偏东，面积为16.7万平方公里。地势西高东低，北、西、南三面分别由太行山、伏牛山、桐柏大别山环绕，间有断陷盆地，东部为宽阔的平原。其中山地和丘陵占全省总面积的44.3％（其中山地约占26％，丘陵约占18％），平原占55.7％。全省地貌大致由豫北、豫西、豫南山地和黄淮海平原、南阳盆地五个分区组成。
豫北山地位于黄河以北，是向东南凸出的弧形山脉，为海拔1000～1500米的单面山。山地东西两侧地形显著不同：西北坡和缓，逐渐倾入山西高原；东南坡险峻，陡落于黄河冲积平原。山前有海拔300～400米的丘陵；山间多小型盆地，较大的有林县、沁阳等盆地。
豫西山地位于黄河以南、南阳盆地以北，是秦岭山脉向东延续的4支余脉。它在河南省西部呈扇形向东北和东南展开，构成面积广大的豫西山地。山地海拔在1000～2000米，部分山峰超过2000米，山脉向东逐渐降低、分散，形成低山丘陵。南支伏牛山脉呈西北——东南走向环绕于南阳盆地北侧；中间两支为熊耳山和外方山；北支小秦岭为河南最高山脉，主峰老鸦岔海拔2413.8米。
豫南山地包括桐柏、大别山脉，自西北向东南延伸，横亘于豫、鄂、皖边境。其中东部的大别山以低山为主，一般山势低缓，山体较破碎；西部的桐柏山脉山势也较低，海拔约800米，主要由低山丘陵组成；山地中分布有一些小盆地。它们共同构成了长江与淮河的分水岭。
黄淮海平原位于河南省东部，是中国黄淮海大平原的重要组成部分。黄河以南，平原略向东南倾斜；黄河以北，平原略向东北倾斜。平原高度多在海拔100米以下，东部降至50米左右，南部沿淮河一带的一些地方海拔在30米上下，是省内最低处。整个平原地势平坦、土层深厚，地下水丰富，为河南省的主要农业区。
南阳盆地也称南阳平原，为省内伏牛山、桐柏山和湖北省的武当山所环抱。盆地地势平坦，北高南低，海拔80～150米，土壤肥沃，是河南省的重要农业生产基地之一。
在全国宏观地貌格局中，河南处在第二和第三级地貌台阶，既有中国地貌自西向东突变的特点，又有由北向南过渡的性质。西北和东南部为山地丘陵，东、北和西南部为广阔的平原和盆地。地势平坦的黄淮海大平原和南阳盆地是河南的两大平原。豫西山区和豫南的桐柏——大别山，分别构成了黄河、淮河与长江三大水系的分水岭。黄河以北大部分地区则属海河流域。
