1978年，十一屆三中全會期間，陳雲被增補為常委、中央副主席，并且還當選為中紀委第一書記。在這之後，陳雲在審理十年浩劫期間的冤假錯案以及平反冤假錯案方面做了大量工作，推動了撥亂反正的程序。
1980年，中央決定對“兩案”做一個總的清算，9月29日，第五屆全國人大常委會第十六次會議通過了一個決定，任命最高人民檢察院檢察長黃火青擔任特别檢察廳廳長，任命最高人民法院院長江華擔任特别法庭庭長，對“兩案”進行終審判決。
值得一提的是，陳雲對“兩案”的審判洞若觀火，他曾在專案組的工作會議上專門指出，處理“四人幫”與處理黃永勝等人要有差別：“四人幫”主要成員，比如江青、王洪文、張春橋等人禍國殃民，犯了嚴重的錯誤。而黃永勝、邱會作、吳法憲以及李作鵬在革命時期出生入死，是締造新中國的功臣之一，他們雖然犯了錯誤，但也有功勞，必須要差別對待他們。
十年浩劫期間，陳雲也受到了“四人幫”的迫害，不過，即便如此，陳雲也不同意對“四人幫”的首犯江青完全按刑事犯罪處理。其實，在審判“四人幫”之前，中央專門召開政治局會議，十年浩劫期間，很多幹部都受到過江青的迫害，他們得知要審判江青後，很多人都支援判處江青死刑，以正視聽。
不過，陳雲力排衆議，不同意判處江青死刑。陳雲認為動蕩的本質是一次黨内的沖突，可以對犯錯的人進行處分，但不能開殺戒。有的人提出了異議，認為黨内沖突也可以判死刑，此時陳雲再次展現了自己的高瞻遠矚，他說：“黨内沖突不能開殺戒，否則後代不好辦。”
陳雲認為審判“四人幫”必須要經得住後代考驗，即便江青犯了嚴重錯誤，但也不能開殺戒。最後陳雲還說，如果一定要開殺戒，那麼請在會議記錄上寫上：“陳雲不同意”。參會的上司聽完陳雲發言後都很有啟發，事實也證明，不殺的處理在國内外都收到了較好的效果。
另外，陳雲的提議還保護了很多受到“兩案”牽連的幹部，他們有很多人都被免予起訴，比如“三國四方”的成員陳勵耘就被免予起訴。也是在陳雲的建議下，整個“兩案”的審判名單，由100多人集中到10名主犯。
在獄中的江青收到起訴通知書後情緒非常激動，她曾在獄中破口大罵，不過，相關人員依然按照法律規定告知了江青相關的權利，比如可以請律師為自己辯護的權利。此後江青先後提出史良、劉大堅以及周建人擔任自己的律師，但因為種種原因，最終沒人願意為她辯護，江青也一直想方設法躲避公審，隻是她的如意算盤落空，1980年年底，江青被帶出監獄，轉移到候審室，等待法律的審判。
1981年1月25日，特别法庭經過審判後判處江青死刑，緩期兩年執行。不過，當江青聽到死刑時，她立刻開始大喊大叫，嚴重擾亂了法庭的秩序，後來得知自己是死緩之後，江青有所收斂，但繼續破壞法庭秩序，最終江青被帶離法庭。
兩年之後，江青減為無期徒刑，此後她一直在監獄服刑，直到1984年被保外就醫。江青保外就醫的地點依然在秦城監獄，就是原先的“戰犯洗衣房”，1991年，江青結束了自己的生命，終年77歲。