1949年4月，百萬雄師下江南，陳毅率部進入南京，打下了蔣介石的總統府。解放大軍下一步就是進軍解放大上海了。
此前在七屆二中全會時，毛主席和黨中央決定由陳毅出任上海市長，三野進軍上海。陳毅認為，打下上海沒有問題，關鍵是如何經營和管理好上海這座超級大城市。
陳老總認為要管理好上海，老百姓的支援——民心最重要。是以，解放軍除了在戰争中要“完整地保全上海”外，還必須獲得市民們的擁護，為此，陳毅加強了對部隊的入城紀律的教育，規定、強調了兩條：一是市區作戰不許用重武器；二是部隊入城後一律不得進入民宅。
其中，“不入民宅”這一條，是陳老總的創造。
在兩個月前，陳老總就說：“曆來軍隊入了城，往市民家裡一住，幹好事的不多。我們部隊進去住哪裡？要仔細考慮。”
一天，他抱着幾本古書，來到軍管會，找到城市政策組曹漫之，說：“史書上有過軍隊‘不入民宅’的記載，你查一查。”
曹漫之查了查之後，陳毅便在解放軍《入城守則》草案上列上了“不入民宅”一條。
但是，有些幹部想不通，說：“正是雨季，遇到下雨，有病号怎麼辦？”
但是，陳老總還是說：“這一條一定要無條件執行，說不入民宅，就是不準入，天王老子也不行！這是我們人民解放軍送給上海人民的見面禮，誰都要自覺執行！”
陳老總為解放軍解放上海制定的“不入民宅”馬上作為《入城守則》，在各個部隊貫徹下去了。
毛主席在西柏坡，他看到陳老總那個添加的“不入民宅”這一條後，連聲說了四個“很好”，大加贊揚：“很好！很好！很好！很好！”
5月27日，三野大軍解放了上海，進入城内。第二天一大早，市民起床後，打開窗子一看，滿大街都是解放軍戰士，疲倦的他們躺在冰冷的大街，一排排的，望不到盡頭。幾十萬将士，沒有一個人進入民宅。市民們看到這一切，感動不已，紛紛說：“真是仁義之師啊！”
陳老總揮師解放上海，“不入民宅”寫入了史冊。
陳冠任著、中共黨史出版社出版的《大河向東：他們為什麼追随毛澤東》和《大河向東：他們為什麼凝聚在毛澤東旗幟下》（一套）記述了此事。該書記述20世紀中國先進分子和人民為什麼追随中共及其領袖毛澤東的真實曆史。該書為該社的年度暢銷書，榮獲多項暢銷書獎。