公元前636年，下线好久的周天子有动静了，周襄王后隗氏与叔带私通，被襄王废黜。隗氏系狄人之女。狄人因此怨恨襄王。周大夫颓叔、桃子乘机奉叔带联合狄军攻打襄王。襄王逃今河南巩义。狄军大败周军，襄王避难于郑国泛邑(今河南襄城)，并遣使告难于各诸侯国。秦穆公苦于进军中原没有理由，趁此机会，领兵东进帮助周天子。晋国群臣商议：“争夺霸权最好是拥护周天子，周王室与晋国同为姬姓，如果晋国不抢先护送周天子回京而落在秦国之后，就无法在天下发号施令，今天尊敬周王是晋国称霸的资本。”尊王攘夷以谋取政治优势，建立霸业基础。
晋文公辞退秦军，亲率晋军南下攻叔带，将其俘获。四月初，襄王复位，杀叔带，周天子就将阳樊、温、攒茅(今河南辉县西南)、原(今河南济源西北)四邑赐予晋文公。晋南部疆域遂扩展至今太行山以南、黄河以北一带，为其日后图霸中原提供了有利条件。
有了稳定的局面后，开始整理内务，从政治经济上修路减税招商引资，人才上重用贤臣，军事上教育上进行整顿。大量起用受晋惠公、晋怀公时代受到迫害的旧族，姬姓中贤良的人担任内务官，异姓中有才能的人担任边远地方的官。王公享用贡赋，大夫收取采邑的租税，分给士族田地，一般平民自食其力，工商之官领受俸禄，差役按其职务领取口粮，家臣的食用取自大夫的加田，封狐偃为相、先轸为帅；让赵衰、胥臣、栾枝、冀缺等人辅佐他治理国家；让郤溱、霍伯带领军队；让贾佗、阳子制作礼仪；让魏犨、荀伯抵御北方的戎族。制定官员规章，按法办事，确立名分，培育美德。赏赐随从自己逃亡的人员和各位有功之臣，功大的封给城邑，功小的授与爵位。将晋国二军扩大编制为三军，以郤谷统帅中军，狐偃统帅上军，栾枝统帅下军。减免赋税，布施恩惠，舍弃禁令，分财给寡少的人，救济贫困，资助没有财产的人。减轻关税，修治道路，便利通商，宽免农民的劳役。鼓励发展农业，提倡互相帮助，节省费用来使资财充足。在生产上，号召改进工具，施惠百姓，奖励垦殖；在贸易方面，降低税收，积极争取邻商入晋。
公元前632年一直想踏入中原的楚国发兵进攻宋国，宋国派人向晋国求救。晋文公便召开众将商量，看如何救宋。当时情况是：想向楚国去说情，怕楚国不肯，如和楚去打仗，自己也不大愿意，而且又怕齐、秦不赞成，后来想出了一个办法：先答应宋国，并说明原因，叫他先和齐、秦联系，请齐、秦与楚交涉，送些礼物给齐、秦。而晋先出兵伐曹、卫，把曹、卫灭掉，将他们的土地分一些给宋，以补偿宋人的损失。楚成王见晋欲去救宋，便叫其大将子玉不要去逼近晋师与之交战，说：“晋侯在外面逃亡了十九年才回到了晋国，什么危险他都经历过，人情世故他都明白，此是天意所决定的，像这样的人是不能和他打仗的。”告诫子玉要知难而退。可是子玉却不肯听，仍要和晋人打仗，于是派人向成王求战，说：“我不敢说一定要立功，只是想堵一堵那些说闲话人的嘴。”
子玉率军攻打晋军。楚军一发起冲击，晋军就向后退。晋军的军官都疑惑不解：“我们为什么要撤退，这太耻辱了，况且楚军已经衰疲，我们为什么要逃走？”晋文公回答说：“从前我逃难到楚国时，曾与楚成王约定，如若晋楚交战，晋军会向后撤退三舍之地，我怎么能背弃自己的承诺呢？”三舍，也就是九十里。楚军向前追击，晋军向后撤退，足足退了九十里。直到退到城濮城下，追在晋军后面的楚军也在城濮停下，与晋军列阵以待。为了引诱楚军，晋下军主帅栾枝以车辆拖拽树枝飞驰，激起尘土，让楚军以为自己败退逃亡。这一招果然有效，子玉以为晋军败退，便令楚军左军追击。当左军追击时，楚军左侧出现了空虚，晋军中军与上军联合夹击楚左军，楚左军大败，子玉见楚国左右两军皆败，下令中军停止追击，率军离开战场。因为子玉对中军的指挥得当，楚国中军并没有太大损失。
晋楚的这场战争以晋国取胜而告终，因为地点在城濮，所以后人将这场战争称为城濮之战。
城濮之战是继齐、楚召陵之盟和宋、楚泓之战以后，晋国与楚国之间的一场大战，在春秋历史上具有重大意义。它扼制了楚国的北进势头，稳定了中原形势，成就了晋国的中原霸主地位
晋文公有两件事情是齐桓公没有做到的。那就是平定王室内乱，和武力击败楚国。有这两件功绩就足以进入五霸之列。晋文公身后，晋国霸业不堕，这也是齐桓公比不了的。所以单从功绩上讲，齐桓公还比不了晋文公。但是，晋文公在德行方面又要比齐桓公差一些，比如请隧礼，拘卫侯，携天子狩河阳等等，不敬天子的行为。因此五霸里他要排在齐桓公的后面。