1904年11月25日出生在安徽省無為縣仁泉鄉（今洪巷鄉）練溪社群風和自然村。1923年考入陶行知先生創辦的安徽公學高中部。1924年投奔國民革命軍，看到祖國處在危難之中，心中十分難過，為了表達自己鎮狂飚于原野，挽巨瀾于既倒，誓死振興中華的淩雲壯志，正式改名為“安瀾”。1925年，入黃埔軍校第三期學習。
1926年黃埔軍校第三期畢業，曆任國民黨軍隊排長、連長、營長、團長。同年參加北伐。1933年3月，率部參加長城古北口抗戰，榮獲五等雲麾勳章。1937年8月升任第25師73旅旅長。1938年3月，在台兒莊戰役中，戴旅火攻陶墩，智取朱莊，激戰郭裡集，迫使台兒莊之敵後撤，得華胄勳章（一說寶鼎勳章）1枚。1938年5月，在徐州會戰中，曾率部在中艾山與日軍激戰4晝夜，因戰功卓著，升任第89師副師長兼第31集團軍總部幹訓班教育長。
1938年8月，率部投入武漢會戰，被第31集團軍記大功1次。
1939年1月5日升任第200師少将師長，接替杜聿明，年僅35歲。該師是建立的第五軍的主力師，對外号稱是中國軍隊的第一個，也是唯一一個機械化師。5月，率部參加抗擊日軍進犯的随（縣）棗（陽）之戰。6月17日，晉升陸軍少将。9月，參加長沙保衛戰。11月，參加桂南昆侖關戰役。