西晋（265～316年）265年，司马氏代魏，建立西晋王朝，仍以洛阳为国都。280年，西晋出兵江南，灭掉孙吴政权，结束了三国分立局面，中国再次恢复统一。
西晋在政区建置上基本因袭曹魏，国都洛阳等地设司州，以司隶校尉统之，为中央直辖区，统辖区域与曹魏时期相比有所扩大，郡县数量增加。地方政权实行州、郡、县3级制，并大加分封宗室，全国各地设置了众多封国。当时全国共设19个州（司、兖、豫、冀、并、幽、平、雍、秦、凉、梁、益、宁、青、徐、荆、扬、交、广），在西北地区设西域长史府，各地所封王国相当于郡。
据晋武帝太康二年（281年）的行政区划，河南省分属司、豫、兖、荆等州辖治。各州所属郡（国）县情况如下：
1、司州
河南郡：洛阳（国都，司隶校尉、河南尹均驻城内，洛阳市东）、河南（洛阳市）、巩县（巩县西南）、河阴（孟津县北）、新安（渑池县东）、缑氏（偃师县东南）、阳城（登封县东南）、新城（伊川县西南）、陆浑（嵩县东北）、梁县（临汝县西）、阳翟（禹县）、成皋（荥阳县西北）、偃师（偃师县东南）。
荥阳郡：荥阳（郡治，荥阳县东北）、京县（郑州市西南）、密县（密县东南）、卷县（原阳县西）、阳武（原阳县东南）、苑陵（新郑县东北）、中牟（中牟县东）、开封（开封市南）。
弘农郡：弘农（郡治，灵宝县北）、湖县（灵宝县西）、陕县（三门峡市西）、宜阳（宜阳县西）、黾池（洛宁县西）。
上洛郡：卢氏（卢氏县）。
汲郡：汲县（郡治，汲县西）、朝歌（淇县）、共县（辉县）、林虑（林县）、获嘉（新乡市西）、修武（获嘉县）。
河内郡：野王（郡治，沁阳县）、州县（温县东北）、怀县（武陟县西南）、平皋（温县东）、河阳（孟县西）、沁水（济源县东）、轵县（济源县南）、山阳（焦作市东南）、温县（温县西）、武德（武陟县东）。
魏郡：长乐（安阳市东）、安阳（安阳市南）、荡阴（汤阴县）、内黄（内黄县西北）、黎阳（浚县东北）。
顿丘郡：顿丘（郡治，清丰县西南）、繁阳（内黄县西北）、阴安（南乐县西南）、卫县（清丰县南）。
2、豫州
颍川郡：许昌（郡治，许昌市东）、长社（长葛县东北）、颍阴（许昌市）、临颍（临颍县西北）、郾县（郾城县西南）、邵陵（漯河市东）、鄢陵（鄢陵县北）、新汲（扶沟县西南）、长平（西华县东北）。
汝南郡（汝南郡名称据《晋书》卷14《地理》上，《中国历史地图集》第三册为汝南国）：新息（郡治，息县）、南安阳（息县西）、安成（平舆县南）、慎阳（正阳县北）、北宜春（确山县东）、朗陵（确山县南）、阳安（确山县北）、上蔡（上蔡县西南）、平舆（平舆县北）、定颍（西平县东北）、灈阳（遂平县东）、南顿（项城县西）、汝阳（周口市西南）、吴房（遂平县）、西平（舞阳县东南）。
襄城郡：襄城（郡治，襄城县）、繁昌（临颍县西北）、郏县（郏县）、定陵（舞阳县北）、父城（平顶山市西北）、昆阳（叶县）、舞阳（舞阳县西北）。
梁国：睢阳（治所，商丘县）、蒙县（商丘市东北）、虞县（虞城县北）、宁陵（宁陵县东南）、谷熟（商丘县东南）、项县（沈丘县）、阳夏（太康县）、武平（鹿邑县西北）、苦县（鹿邑县）、鄢县（柘城县北）
汝阴郡：新蔡（新蔡县）、褒信（新蔡县南）。
弋阳郡：弋阳（郡治，潢川县西）、西阳（光山县西南）、軑县（罗山县东）、期思（淮滨县东南）。
安丰郡：安丰（固始县东南）、雩娄（商城县东）、蓼县（固始县北）。
3、兖州
陈留国（陈留国名称据《晋书》卷14《地理》上，《中国历史地图集》第三册为陈留郡）：小黄（治所，开封县东北）、浚仪（开封市）、封丘（封丘县西南）、酸枣（延津县西南）、济阳（兰考县东北）、长垣（长垣县东北）、雍丘（杞县）、尉氏（尉氏县）、襄邑（睢县）、外黄（兰考县东南）、扶沟（扶沟县东北）。
濮阳国：濮阳（治所，濮阳县南）、白马（滑县东）、燕县（长垣县西）。
4、荆州
南阳国：宛县（治所，南阳市）、西鄂（南阳市北）、雉县（南召县东南）、鲁阳（鲁山县）、犨县（鲁山县东南）、淯阳（新野县北）、博望（南阳市东北）、堵阳（方城县）、叶县（叶县西南）、舞阴（社旗县东）、比阳（泌阳县）、涅阳（邓县东北）、冠军（邓县西北）、郦县（内乡县北）。
义阳国：新野（治所，新野县）、穰县（邓县）、平氏（唐河县东南）、朝阳（新野县西南）、义阳（信阳市西北）、棘阳（唐河县西北）、钟武县（信阳市）、平春（信阳市西北）、鄳县（罗山县西）。
南乡郡：析县（西峡县）、顺阳（淅川县南）、丹水（淅川县西南）、南乡（淅川县西南）。
