宋朝建立之初，就面临着来自北方少数民族政权的直接威胁，这一威胁与宋朝相伴始终。宋朝和北方少数民族政权的争夺和冲突，除西夏局限于西北边陲外，对辽、金、元的和与战的许多重大事件都发生在河南。
1004年，辽圣宗耶律隆诸及其母萧太后（萧倬）亲率20万大军，南侵宋疆，一直打到澶州（今濮阳市）城下。在寇准等爱国官员的鼓动下，软弱的宋真宗御驾亲征，率大军进驻澶州。宋军士气高昂，辽军士气大挫。但在双方实力大体均衡、而宋军士气占优的有利形势下，宋真宗却怯懦畏敌，急于求和，与辽军匆忙订立了澶渊之盟。两国约为兄弟之国，各守边界，不得交侵；宋称萧太后为叔母，每年给辽银10万两、绢20万匹，称为“岁币”。对宋朝来说，显然这是一个屈辱条约。
1125年，金太宗下诏侵宋。金军很快渡过黄河，兵临开封城下。宋徽宗恐惧，迫于形势让位给太子赵恒，即宋钦宗。负责开封防务的亲征行营使李纲，坚决进行顽强抵抗。宋钦宗却软弱投降，免去李纲职务，向金人讨好。开封军民对此无比愤怒，太学生陈东率诸生数百人上书请愿，钦宗仍令李纲负责守城。金军屡攻不下之时，却意外得到了宋朝割地赔款的允诺，便匆匆退兵。割地赔款并不能填平金人的欲壑，相反却让他们看到了宋朝的软弱。次年，金军再次大举南侵，于11月间攻陷开封，摧毁了北宋王朝的统治。1127年5月，金军把开封劫掠一空后撤兵北归，并掳去徽宗、钦宗和宗室后妃数千人，以及难以数计的教坊乐工、技艺工匠、法物、仪仗、冠服、礼器、天文仪器、珍宝古玩、皇家藏书、州府地图等。这就是史家所称的“靖康之变”。
金军撤退后，幸免于难的宋徽宗九子康王赵构在南京归德（今商丘）即帝位，改元建炎，是为高宗。此时，金军虽撤出了开封，却在黄河北岸屯有重兵，随时可以南犯。为了自保性命，宋高宗置大好中原于不顾，竟携臣下继续南逃，以临安（今杭州）为都城，建立了偏安东南的南宋王朝。
北宋最高统治者南逃后，秦岭——淮河以北的广大中原地区尽归金人统治。金人扶植降将汉人刘豫在大名府（今河北大名）建立伪齐政权，充当统治中原的工具。刘豫早想占据中原，但慑于河南人民抗敌武装的强大，迟迟不敢南向，直到1132年勾结金兵杀害豫西抗金领袖翟兴后，才进驻开封，作为伪齐都城。1152年，金国以汴京为南京。面对蒙古人的强大威胁，1161年，金主完颜亮迁都于汴（今开封）。1233年又迁逃至归德（商丘），再逃至蔡州（汝南），终于被元政权所攻灭。
在金国统治期间，女真贵族对河南人民大肆搜刮勒索和残酷压迫，并大量掠夺兼并土地。英武不屈的河南人民奋起反抗自卫，黄河以北、以东各州县人民，多结为忠义社，到处袭击金军。王彦领导的八字军，率领豫北怀、卫和相等州抗金力量，抵抗金军，形成很大声势。人民的武装抗金活动，牵制了金军的南侵，使南宋王朝得以偏安江南，也使女真贵族在华北的统治长期不能稳定下来。
在抵抗金人统治活动中，河南汤阴人岳飞率领的“岳家军”，名榜史册。岳飞年幼家贫，少好学，有膂力，其母以“精忠报国”剌其背以盛其志。北宋末年，投军从戎，南宋初上书反对南迁。初随宗泽坚守开封，后随杜充南下。1129年，金将兀术渡江南进，岳飞率军在广德、宜兴抵抗。次年率部收复建康（今南京）。1134年年收复襄阳、信阳等郡，任清远军节度使。1135年从张俊镇压杨么义军。他陆续收编扬么等义军部众，以牛皋（河南鲁山人）、董先（洛阳人）所部武装为主体，吸收山东西河忠义社梁兴、李宝等，汇成大军，称“岳家军”。岳家军将士多为忠义农民，富有爱国反抗精神。岳飞加强训练，严明纪律，要求“冻死不拆屋，饿死不掳掠”，逐步壮大成为抗金的强大力量。岳飞力主抗战，恢复中原，反对议和。1140年，金兀术进兵河南，岳飞出兵反击，收复郑州、洛阳等地，在郾城大败金军。金人不无感叹“撼山易，撼岳家军难！”在岳飞欲“直捣黄龙府，与诸君痛饮”时，宋高宗、秦桧一心求和，下令退兵，痛失收复失地、重整河山的大好时机。岳飞回到临安，被解除兵权，不久被诬下狱。1142年以“莫须有”的罪名与名将张宪、爱子岳云一同被杀。岳家军英勇抗金的爱国精神和忠义行为，激励着无数中原儿女为保卫家乡反对压迫而英勇斗争。
继金人之后，蒙古人在北方兴起壮大，建立了元政权。在灭掉金政权后，于1279年又灭掉了南宋政权，最终统一了中国。
