秦朝统一后,在全国范围内推行郡县制。河南省黄河以南地区(按当时黄河流向)分属三川、颍川、南阳、砀、东、陈6郡;黄河以北地区属河内、邯郸2郡;豫南的信阳、固始等地则属衡山、九江2郡。其中,三川郡下置有“河南县”(治今洛阳),是“河南”作为正式政区名称的开始。
秦朝的统一,促进了河南地区的经济发展。《盐铁论》中所载秦代10个富冠海内的天下名都,河南境内有“魏之温、轵,韩之荥阳,楚之宛,郑之阳翟,三川之二周”。但是,由于秦朝仅传2世历15年,国家统一为社会、经济、文化发展创造的有利条件还没有充分显示出来,中原地区很快就再一次陷入战火之中。
公元前209年,不堪忍受地主盘剥和暴吏酷刑的900戌卒,在阳城(今登封东南)农民陈胜和阳夏(今太康)农民吴广领导下,发动了中国历史上第一次大规模的农民起义。贫苦农民纷纷参加,义军迅速壮大到数万人,并在陈县(今淮阳)建立了张楚政权。半年后,在秦军残酷镇压下,陈胜、吴广领导的农民义军失败了。但是他们第一次公开提出了“王侯将相,宁有种乎”的反叛口号,揭开了中国历史上农民武装反抗封建统治的帷幕,沉重地打击了封建统治阶级,推动了社会生产力的发展。
陈胜、吴广起义失败后,刘邦、项羽领导的两支义军不断发展壮大。公元前206年,刘邦率义军攻入咸阳,秦朝灭亡。项羽自立为西楚霸王,封刘邦为汉王。刘邦准备充分之后,与项羽进行了争夺最高统治权的楚汉战争。河南是楚汉战争的主要战场,两军对峙在荥阳(今荥阳西北)、成皋(今荥阳西北)间,约定以鸿沟为界,东属楚,西归汉。公元前202年,刘邦打败项羽,即帝位,建立汉朝,史称西汉。