劉裕和漢高祖劉邦也有那麼些關系，劉裕是漢高祖劉邦的弟弟楚元王劉交的二十二世孫。不過血緣關系早已疏遠。他的家族早年間就跟随着晉皇室南渡，他在出生的時候，母親就因為分娩後患病去世了，家裡非常的貧窮，父親因為無力撫養他一度打算抛棄他，還好因為劉懷敬的母親伸出援手，養育劉裕，他才能夠活下來。
劉裕長大後，書讀的很少，隻能以幹苦力為生，他也一度覺得自己以後沒有什麼出息，隻能這樣碌碌無為一輩子。後來有人對他說:“你以後應當會成為一個英雄”。就是因為這句話才讓劉裕重新獲得信心。于是劉裕從軍，成為北府軍中的一員。公元399年孫恩起兵反晉，東南八郡紛紛響應，朝野震動，朝廷連忙派遣劉牢之和謝琰率領軍隊鎮壓，劉裕轉入了劉牢之的麾下擔任參軍，孫恩攻克會稽郡将謝琰殺死，又準備一鼓作氣拿下劉牢之，但是被劉牢之打敗，因為劉裕有功派他駐守在一座小城當中，士兵還沒有幾百人，劉牢之每次在作戰的時候都是沖在最前面，起到了帶頭作用，是以他麾下的士兵每次作戰都是最勇猛的一批，也因為這樣劉裕屢次都能夠建功，有一次孫恩領兵攻打蒜山，遭到劉裕部猛烈地打擊，很多人都被殺死，這一戰更是打出了劉裕的威名，朝廷加封他為建武将軍，劉裕率領軍隊一直追擊孫恩，将孫恩打的打敗，迫使他不斷向南邊逃亡，在海鹽再次擊破孫恩，孫恩被他逼的投海自盡，在和孫恩等起義軍交戰的這幾年裡，劉裕每次都是充當先鋒，每次都能夠打敗敵人，他的軍事才能慢慢的顯現出來了，他不僅作戰勇猛，能夠沖鋒陷陣，同時他還富有智謀，善于以少勝多，當時朝廷的很多軍隊都和土匪一樣，每次到一個地方都會掠奪城池，塗炭百姓，唯有劉裕的軍隊與衆不同，他的軍隊法紀嚴明，從不騷擾百姓。在百姓當中的口碑極好。
在和孫恩等起義軍作戰多年的情況下，晉朝的兵力被大量的消耗，造成很多地方的防禦空虛，這給了盤踞在長江上遊的桓玄可乘之機，公元402年晉朝廷派遣大将軍司馬元顯率領大軍攻打桓玄，桓玄同樣不落後也派出軍隊與司馬元顯對抗，但是桓玄因為修養多年，早就是兵強馬壯，而晉朝廷這邊由于多年的征戰，鎮壓起義軍兵力被消耗的很多，結果顯而易見，晉大将軍司馬元顯被殺，桓玄攻入建康城，劉裕審時度勢投降了桓玄，劉裕在北府軍中頗有名望，桓玄也不敢輕易地殺劉裕，是以也給了劉裕一個中兵參軍職位。次年，孫恩的妹夫盧循再次起兵，桓玄派劉裕讨伐，殺的盧循丢盔棄甲，又往南跑了，劉裕因為功勞又加官進爵，桓玄的妻子劉氏擅長識人，她多次勸丈夫桓玄把劉裕除掉，到桓玄說留着劉裕有大用，還需要劉裕幫我北伐中原，他可是一員不可多得的大将，同時桓玄也在瓦解北府軍，殺了北府很多将領，北府軍幾乎遭受到滅頂之災，劉裕也在此時與北府軍的舊部聯合，尋找合适的機會除掉桓玄。公元404年劉裕以打獵的名義，聚集了北府軍舊部千人，在京口起義打起反對桓玄的旗号，各地紛紛響應，桓玄知道劉裕起兵後，整天憂心忡忡的有人對他說，劉裕力弱小不足為懼，桓玄哪裡不知道劉裕的能力，但是桓玄還是要放手一搏，派遣他的猛将率軍抵抗劉裕，奈何桓玄的運氣好像已經用光，他的軍隊遇到劉裕開始就一直在節節敗退，猛将被殺，一直打到建康城，将桓玄斬殺，迎東晉安帝在江陵複位，然而桓玄家族勢力仍然在荊州盤踞，一直打到第二年在把桓氏一族的勢力從荊州驅逐幹淨，東晉安帝這才被迎回健康。劉裕因為匡扶皇室有功，被封為豫章郡公，他在朝堂之上的勢力也越來越大。開始執掌朝政大權。
然而東晉自偏安一隅以來，就時刻都在受北方的威脅，雖然東晉也有很多人北伐過，但是無一不以失敗而告終，為了強大自身，劉裕決定出師北伐，他的第一個目标就是南燕，南燕皇帝慕容超即位後一直都在襲擾東晉，劉裕為了抗擊南燕，決定率領大軍從建康出發北伐南燕，一路上劉裕都是堅壁清野，防止南燕斷他的後路，南燕慕容超太過于輕敵，認為晉軍進去南燕的境地是小打小鬧，劉裕進去南燕國界後基本上沒有遇到抵抗，直到劉裕率領軍隊快攻進南燕都城的時候，慕容超才後知後覺，才開始發兵抵抗劉裕，劉裕早就摸清了南燕的實力，采用聲東擊西的計策，繞到燕軍的後面兩面夾擊講南燕軍大敗，慕容超看到情況不對就派人向後秦請求救援，後秦雖然派了軍隊前來救援，但是一味地在虛張聲勢，劉裕不以為然，一心攻打南燕，劉裕在南燕降将的幫助下，制造了飛樓，沖車等攻城的器具，加強了攻防能力，很快在晉軍的猛攻下，南燕都城抵擋不住了，南燕官員開城門向劉裕投降，慕容超帶着幾十個人突圍，被晉軍追獲，南燕滅亡，劉裕以南燕都城久守不降為由，盡殺南燕鮮卑貴族王公以下三千人以洩憤，慕容超被押送為建康，在建康街頭被斬首示衆。
自從東晉建立以來，朝廷綱紀松弛紊亂，權貴之門互相吞并，百姓流離失所，劉裕掌權之後，大力宣傳新的規章制度，嚴禁世家大族互相吞并，并且劉裕上書皇帝，請求輕徭薄賦，讓百姓休養生息，很多時候百姓打魚，砍柴，都需要繳稅，劉裕上表下令一律禁絕，免征，還山于民，還地于民，當時人們的居住都不統一，劉裕制定了新的條例，重新劃分區域，讓百姓都住在固定的區域。随後劉裕的勢力越來越大，晉皇室可謂是名存實亡，劉裕一個人掌管幾十個州，被封也大都督，同時也在積極地備戰于公元417年滅後秦，将北方的幾個大威脅都消滅了。巨大的軍功讓劉裕在朝廷中的地位顯赫無比，劉裕接受了相國之位，受封為宋公，公元419年劉裕指派王韶之殺死晉安帝，改立其弟司馬德文為晉恭帝。同年又進爵為宋王，次年，劉裕代晉稱帝，降封司馬德文為零陵王，東晉滅亡，劉裕改國号為宋，史稱他建立的政權為劉宋。
劉裕稱帝後，吸取了晉朝的教訓，加強中央集權，削弱地方勢力，為了防止朝臣作亂，他下令凡是帶兵出征的，一律以朝廷軍隊配發，軍還交回朝廷。劉裕在政治上有很大的建樹，抑制了門閥世家的兼并，打擊了豪強地主階級，緩和了階級沖突，同時整頓吏治，重要寒門出身的人才，政治一度得到了清明，在經濟上輕徭薄賦，讓百姓休養生息，大力發展生産，同時也非常注重教育，改善社會的風氣，在軍事上革新戰術，建立強大的軍隊。在劉裕的治理下，南朝宋一度超越北方成為當時整個中國大地最強大的王朝。也為後來的元嘉之治奠定了基礎。