金朝建立當年，太祖阿骨打親率大軍攻占遼朝東北重鎮達魯古城（今吉林前郭縣塔虎城）和黃龍府（吉林農安），又在護步答岡（黑龍江五常縣西）擊潰遼天祚帝親自指揮的十餘萬軍隊。
遼朝在金軍的強大攻勢和各族人民反抗鬥争的聯合打擊下，内外交困，一蹶不振。遼朝由于軍事上的接連失敗，軍中将士鬥志低沉，厭戰情緒蔓延滋長，統治集團不斷發生分裂，陸續有統兵将領率部投降金朝。
至收國二年（1116）五月，金朝攻占了遼東京道所屬的遼南全部州縣。天輔元年（1117）起，金朝轉人東京道西部和上京道作戰，連下州縣，逼近上京。天輔四年（1120），金軍攻占上京，天祚帝出逃中京（今内蒙古甯城縣西）、西京（今山西大同），反遼戰争取得了決定性的勝利。
當金軍在上京道作戰之時，宋徽宗接受遼朝降官馬植與金朝結盟攻遼收複幽雲失地的建議，先後派馬政、馬植取道海上出使金朝，協商攻遼大計。
宣和二年（1120），宋、金達成協定，約定共同對遼作戰，金朝攻取遼中京，北宋攻取遼南京（今北京），滅遼後幽雲之地歸宋，宋将原來輸遼歲币轉送金朝是為“海上之盟”。
北宋因忙于鎮壓方臘起義，未能如約進兵。在鎮壓方臘後出兵兩次攻打南京，均告失敗。至宣和四年（1122），金朝已經攻占了遼朝五京中除南京之外的四京，北宋軍隊統帥、大宦官童貫為了掩飾自己的無能，邀請金軍夾攻南京。
年底，金軍經居庸關南下，不戰而下南京。金朝的許多将領看透了北宋的虛弱本質，無意履行"海上之盟"交還幽雲之地。經反複交涉，金朝把南京及附近的五座州城交給北宋，北宋在每年輸遼歲币之外加100萬貫作為"燕京代稅錢"。金軍在撤出南京等地時，把城中富戶和金帛财物席卷而去，北宋隻是接管了幾座空城而已。
遼天祚帝逃入西夏境内，企圖糾集餘部奪回幽雲地區，先是在武州（今山西神池）被金朝大将完顔希尹打敗，保大五年（1125）二月，在逃跑途中被金将完顔婁室俘獲，遼朝滅亡。
此前，遼朝宗室耶律大石與天祚帝分道揚镳，率領部分契丹部衆西行。1131年，在葉密裡（今新疆額敏縣東南）接受随行官員的勸進即皇帝位，号“葛爾罕”，又上尊号天祐皇帝，史稱西遼，又稱黑契丹或哈喇契丹。
1133年，耶律大石遷都八喇沙衮（今吉爾吉斯斯坦境内），改稱虎思斡耳朵。西遼于1218年被蒙古國所滅。
宣和七年（1125）十月，金朝借口北宋收納遼朝降将張覺，分兵兩路進攻北宋，西路軍由粘罕（完顔宗翰）率領，經雲中取太原；東路軍由斡離不（完顔宗望）率領，經平州取燕京，計劃西、東路軍會師北宋都城汴京（今河南開封）城下。
太原軍民在王禀的指揮下，頑強抵抗，阻擊西路軍于堅城之下；東路軍則長驅南進，渡過黃河，直抵汴京。
北宋舉朝震驚，宋徽宗匆忙下令停止“花石綱”之役，頒罪己诏，号召天下軍民勤王。在抗戰派官員李綱等人的堅持下，宋徽宗不得已傳位兒子趙桓，即宋欽宗。靖康元年（1126）正月初，宋徽宗帶領少數官員、侍從逃離汴京。
宋欽宗迫于形勢，任命李綱為親征行營使，全面主持汴京防務。李綱部署軍民積極備戰，多次打退金軍的進攻，各地勤王軍隊也陸續人援汴京，金東路軍隻有6萬人，而且是孤軍深入，黃河以北的許多重要城市仍在宋軍之手，形勢有利于北宋。
但是，金軍統帥斡離不利用了宋欽宗的儒弱心理，提出了十分苛刻的議和條件：北宋向金朝支付犒軍費黃金500萬兩、白銀5000萬兩，絹踩各100萬匹，牛馬各1萬頭（匹），割讓太原、中山（今河北定縣）、河間（今屬河北）三鎮，欽宗稱金太宗為伯父，以親王、宰相為人質，金軍才能撤退。
宋欽宗不顧李綱等人的堅決反對，全部接受了這些條件，下令在汴京城中搜刮金銀，派康王趙構和宰相張邦昌赴金營談判，又為掃除議和障礙，罷免李綱官職。
宋欽宗君臣的行徑激起汴京軍民的義憤，太學生陳東率領諸生數百人至宣德門上書，要求恢複李綱官職，罷免妥協派宰相李邦彥等，釀成有數十萬軍民參加的請願活動。
宋欽宗被迫任命李綱為京城防禦使，汴京軍民的抗戰熱情再次高漲。金軍統帥斡離不面對堅城一籌莫展，擔心膠着于城下形勢會愈發不利，未待北宋納足金銀就主動撤圍而去。
金軍撤退時，宋欽宗拒絕了李綱邀擊金軍的請求，下令勤王軍隊和民兵傳回原駐地，不得擅自襲擊金軍，并對李綱的抗戰部署事事掣肘，制造難題，不久即以李綱“專主戰議”而罷免了他的官職。
與此同時，宋欽宗更關心的是如何鞏固自己的皇位，他為了粉碎蔡京、童貫等人擁宋徽宗複位的陰謀，先後将“六賊”中的五人或斬首、或賜死，蔡京也因病死于貶所，徹底孤立了宋徽宗。
同年八月，金軍仍分東、西兩路分别由斡離不和粘罕統率再次南侵。東路軍進抵真定（今河北正定）城下，城中北宋守軍不滿2000人，在知府李邈的指揮下，頑強抵抗近40天，終因寡不敵衆被攻破，李邈被俘遇害。
太原軍民在王禀的指揮下，拒絕了宋欽宗的割地诏書，在内乏糧草外無援兵的困難條件下，頑強守城達8個月之久。城陷之日，王禀仍率領軍民巷戰殺敵，身中數十創後投水自盡。
至十一月，東、西路金軍渡過黃河，直指汴京，北宋軍隊望風潰退，宋欽宗驚恐無計，隻好答應金朝以黃河劃界的要求。
然而，粘罕等人不過是要以此穩住北宋君臣，赢得進軍的時間而已。兩路金軍很快進抵濟京城下，因北宋勤王軍隊已被遣散，城中守軍不過數萬，形勢十分危急。宋欽宗隻好派人至相州，任命康王趙構為天下兵馬大元帥，率軍入援京師，但為時已晚。
盡管如此，汴京城中軍民的鬥志依然高漲，請領兵甲參加作戰的即有30萬之衆。而宋欽宗卻聽信術士郭京，打算靠郭京的所謂"六甲神兵"退敵。郭京卻借率"神兵"出戰之機，溜之大吉，金軍乘勢攻破汴京。
靖康二年（1127）四月初一日，金軍押解被俘虜的徽、欽二帝及宗室、妃嫔、大臣、工匠、伎女等3 000餘人撤離汴京，傳回北方，同時掠走大量金帛珍寶、法駕儀仗、天文儀器、圖書樂器等，史稱“靖康之變”。
金朝在滅亡北宋後，先後扶持張邦昌“僞楚”和劉豫“僞齊”傀儡政權統治黃河以南地區。