齊國的稱霸大業随着齊桓公的去世戛然而止，宋襄公的求霸夢想也在泓水之戰中湮滅無痕，然而中原諸侯不會長久群龍無首，一個新崛起的諸侯國-晉國在曆史舞台上扮演了重要角色。晉國始出于周成王弟唐叔虞。
《史記》記載，周武王一日夢見天帝将賜予他一個兒子，名字叫作虞。《左傳》記載：“邑姜方娠太叔。”根據各代記載考證，邑姜乃姜太公呂尚之女，後為周武王發的妃子，一日夢見上天對自己說：“餘命女生子，名虞，餘與之唐。”不久之後，果然産下一子，手上有一“虞”字，即後來的唐叔虞。周武王去世後，年幼的成王繼位，一日，成王和虞玩耍，将一片梧桐葉撕成玉圭的形狀交給虞，戲言将封他為唐國的國君，此時，成王身邊的史官以君無戲言為由立即要求給虞備車馬赴唐國就任，這就是唐叔虞的來曆。唐叔虞的兒子晉侯燮父徙居晉水，把唐國改名為晉國。五世之後的晉靖侯年代，晉國的曆史開始有了準确的記載。而此時，天下風起雲湧，國人暴動，世道頗為不太平，晉國就在這個時代開始崛起。
晉靖侯的重孫晉穆侯有兒子，長子名仇，少子名師，據傳晉人師服曾預言，兩子之名嫡庶颠倒，預示晉國将有一場動亂。晉穆侯死後，其弟殇叔自立為君，太子仇出奔，内亂開始。仇就是後來的晉文侯。此時，西周被犬戎所滅，中國曆史正式進人春秋時代。《史記》載：“平王之時，周室衰微，諸侯強并罰，東楚、秦、晉始大，政由方伯。”由此可見，晉國在春秋初期已經有所壯大。侯仇去世之後，其于昭侯伯即位，将其叔師分封到曲沃城不久，普國發生動亂，晉昭侯被人殺死，公子成師有意奪權，未果。
公子成師之後，其孫曲沃武公開始繼續和晉國國君進行主宗的争奪，“曲買武公伐晉侯缗，滅之，盡以其寶器賂獻于周釐王。釐王命曲沃武公為晉君，列為諸侯，於是盡并晉地而有之”。魯桓公二年（公元前710年），曲沃武公率兵透人陉庭，聯合陉庭同晉國對抗，并于第二年卷天俘虜了晉哀侯。但是由于沒有得到周王室的正式承認，雖然此時曲沃武公的勢力早已經超過晉國，武公還是沒能夠登上晉國君主的位置。是年，周恒王下令虢仲讨伐曲沃武公，武公敗退曲沃。此後經過28年的積蓄，曲沃武公最終再次發動讨伐晉國的戰争，最終攻陷晉國首都翼城，殺死晉侯。曲沃武公把繳獲的晉國寶器都獻給周釐王，以求得繼承權的合法。收受武公賄賂的周天子遂授予其晉國君主的稱号，即晉武公。也正是晉武公的努力，使晉國的實力大大增強，為後來春秋争霸中占有有利地位奠定了基礎。
武公死後，其子晉獻公即位。此時，晉國的東方，齊桓公勢力已經相當強大。晉獻公是一位十分有作為的國君，在他的帶領下，晉國開疆辟土，先後伐滅霍、魏（此魏非戰國之魏國，卻是其龍興之地）、耿等諸侯國。“西有河西，與秦接境，北邊翟，東至河内”。
而晉獻公最為人所熟知的是其讨伐骊戎時，娶美女骊姬及其妹。骊姬後生一子，當時的太子為申生，骊姬想設法使晉獻公廢太子立自己所生的兒子為太子。除太子申生以外，公子重耳和公子夷吾都是獻公成年的兒子，且有較好的品性、能力，深得世人喜歡。骊姬設法将太子申生先調離都城，後設計使晉獻公對太子申生産生間隙，申生最終自殺而亡。骊姬後又恐重耳、夷吾對自己的兒子構成威脅，遂以“公子重耳和公子夷吾和太子同謀”之罪要晉獻公賜死二子。公子重耳、夷吾為避災禍，先後逃亡。不久晉獻公用假途滅虢的計策滅亡了南邊的虢國和資國，奠定了晉國成為春秋時期大國的基礎。獻公死後，骊姬之子奚齊即位，随即被大臣裡克殺死。最終，夷吾通過秦穆公的幫助回歸晉國，成為晉惠公。晉惠公随後處死裡克，并且對國中許多大夫大開殺戒，失去民心。
晉惠公即位後，遇荒年，秦國以大米相助，次年，秦國饑荒，晉國卻以怨報德，趁機攻打秦國，大敗而歸，晉惠公被捕。秦穆公的夫人為晉惠公之姐，經過一番求情，秦國釋放晉惠公，以太子圉當質子。後圉私自逃回晉國。晉惠公薨，太子圉立，是為晉懷公。而此時晉獻公之子重耳還在逃亡。重耳逃亡期間，路過衛國，饑寒交迫，向一位農夫乞讨，農夫給了他一塊黃土，重耳很生氣認為農夫是在戲弄自己，随從狐偃則說道：“這是上天要賜給我們土地啊！說明我們複國在望。”重耳意會，随後從農夫手中接過土塊，繼續前行。終于皇天不負有心人，魯僖公二十四年（公元前636年），重耳得到秦國的幫助，秦穆公委派公孫枝率領秦軍三千，保護重耳重返晉國。因為重耳早已聲名在外，國内擁護者衆多，于是重耳殺死晉懷公，即位，是為晉文公。
據《國語》記載，晉文公即位後勵精圖治，任永賢能、修明政務、獎懲分明，是公認的好君主。他采取了一系列改革措施，“安排百官，賦職任功，棄責薄斂，施舍分寡。救乏振滞，匡困資無。輕關易道，通商寬農。政平民阜，财用不匮”。晉文公對晉國的崛起起着至關重要的作用。晉文公死後，其子晉襄公繼位。随後秦晉兩國友好關系破滅。晉襄公死後，年幼無知的晉靈公即位。此時，晉國的實力開始下滑。
随後晉成公、晉景公即位。春秋争霸劍拔弩張，楚莊王成為當時的霸主，齊國不斷向晉國發起挑釁，随後兩軍在鞍決戰，晉國打敗齊國，将三軍編制為六軍，這些軍隊的領軍成了在晉國專政的六卿，是為三軍六卿。公元前403年，周天子封韓、趙、魏為諸侯，戰國時代開始，晉國名存實亡，公元前349年，韓、趙兩國殺晉君，晉亡。