1948年10月14日，張翼翔參加了華東野戰軍在曲阜召開的作戰會議，在這次會議上，華野商讨了淮海戰役的作戰部署。
就在淮海戰役即将打響之前，第1縱隊的司令員兼任政治委員葉飛卻因為患上了黑熱病而病倒，這樣一來，指揮部隊的重擔就落在了張翼翔的肩上。
10月26日，1縱隊逼近新安鎮，劉峙擔心之下，急忙将蔣介石的“徐蚌會戰計劃”拿了出來，黃百韬懼怕遭到覆滅的命運，急忙率領部隊部署，可是卻将自己的63軍拉了下了。
11月9日，華野參謀長陳土榘訓示張翼翔：
敵第 63 軍已于昨日下午 2 時撤離新安鎮，企圖經窯灣渡運河西逃，在其逃經堰頭時，已被第 9 縱隊殲滅一個團。你縱應立即向窯灣方向開進，首先追殲該敵，爾後協同友鄰，直搗黃百韬司令部。
張翼翔接到消息之後，決心将63軍全部幹淨、徹底地殲滅在窯灣鎮，立即向粟裕做了報告。
聽到張翼翔的表态，粟裕在電話中問道：“你們1個縱隊消滅敵人1個軍，有把握嗎？”
“有！”
“好，預祝你們勝利！”粟裕接着提醒道：“要注意把軍事打擊和政治争取結合起來。”
張翼翔，1914年出生在湖南浏陽縣的一個貧苦家庭，1927年參加湖南農民運動，1928年從事黨的秘密交通工作，加入中國共産主義青年團，1929年參加紅軍，從戰士到班長、排長、連長、副營長、營長、團參謀長到軍部參謀，抗戰時期參加延安抗大，之後曆任團參謀、副團長、團長、副旅長、新四軍軍部作戰科長、新四軍第1 縱隊第 3 旅旅長、山東野戰軍第1縱隊參謀長、華東野戰軍第1縱隊副司令員兼任參謀長，1949年出任20軍軍長，1950年入朝作戰，1953年1月任華東軍區參謀長、福州軍區副司令，1963年擔任鐵道兵司令員，1969年擔任第二炮兵司令員。
窯灣鎮，西鄰運河，北靠沂河，位于兩河的彙合之處，除了東面，其他三面都被運河包圍，東面則是一段三四米的圍牆，牆外面則是有着壕溝和水塘相連。早在抗日戰争時期，這裡就被修築了無數的工事和碉堡。敵人63軍逃到這裡之後，決定在這裡固守待援。
1縱完全控制了窯灣鎮之後，張翼翔召開各師會議，決定以第1師主攻。第2師從北門突破，第3師從南門突破。
兩天之後，戰役結束了，1縱共殲敵1.5萬人，為完成淮海戰役第一階段的作戰任務創造了有利條件。
戰鬥剛剛結束，1縱就接到了新的任務，阻擊敵人東援。
在淮海戰役的第二階段，1縱又接到了阻擊“徐敵”南援，保障中野殲滅黃維兵團的重任。
1949年1月6日，1縱随兄弟部隊對杜聿明集團發起了總攻。到戰役結束的時候，張翼翔指揮第1縱隊鏖戰65天，共殲敵3.8萬人。
在部隊休整期間，第1縱隊正式改稱中國人民解放軍第20軍，歸屬9兵團建制，張翼翔擔任軍長。
4月20日，第1縱隊作為渡江第1梯隊自三江營至龍稍港段強渡長江，登陸揚中，爾後渡過夾江，經埤城、上塘等地向鎮江、丹陽地區進攻，截斷京滬鐵路。
解放上海之後，20軍擔任上海第一警備區的警衛任務，同時兼任松江城防。
8月，20軍移防嘉定、太倉、羅店、南翔等地區，進行渡海登陸作戰訓練。
1950年，北韓戰争爆發之後，20軍在11月奉命北上，抵達長津湖地區，參與了長津湖之戰。
張翼翔率領部隊，不顧天氣寒冷給作戰帶來的重重困難，堅決貫徹上級的指令，協同兄弟部隊在長津湖地區對敵人實施了分割包圍，在部隊因為饑餓與寒冷等極端情況下，仍然憑借着手中一隻槍，追擊着逃敵。
戰後，張翼翔在總結報告中指出：這一仗，是我們首次與美軍作戰。如果說我們打敗了敵人，赢得了勝利，可以引以為榮的話，那麼從艱苦作戰中用生命和鮮血換得的經驗，更應該值得我們珍視。
第二次戰役，9兵團在極其艱難的條件下，完成了任務，可是同樣的，參戰的20軍同樣損失慘重，隻能退回鹹興地區休整。
張翼翔深知恢複與增強戰鬥力是部隊休整中刻不容緩的任務。馬上組織起草了《關于兩個月休整工作的訓示》，提出了“一切為了提高戰鬥力，準備再戰”的休整工作總方針，要求部隊全面、深刻、具體地總結這次作戰雙方的特點和規律，概括出全軍指戰員用生命和鮮血換來的寶貴作戰經驗和教訓。
在第二次戰役中，第20軍凍傷人員達到1.1萬餘人，雖然有着很多額客觀原因，但是張翼翔還是深感懊悔。
為了盡快恢複戰鬥力，他們采取了多種方法進行治療，部隊的骨幹也擔任護理員，專門做最好的飯菜，住最好的房子，最好的藥品和物資，使得整個部隊成為了一個大醫院。
在張翼翔等上司的努力之下，經過兩個月的治療，80％的凍傷人員基本恢複健康。
士兵們的身體基本好了，張翼翔又開始組織軍事訓練，使得新補充的1.5萬名戰士，很快就熟練掌握了手中的武器，提高了技術、思想水準，戰鬥力大大提高。
經過三個多月的休整，部隊的士氣高昂，參加了第五次戰役。先是在縣裡地區殲滅南北韓5000多人，後來又在華川、金城地區阻擊敵人50多天，殲敵21000多人，有力地掩護了兄弟部隊的轉移。
1952年10月，20軍奉命回國。在回國之前，張翼翔在平壤受到了金日成的接見。金日成對20軍在抗美援朝戰争中的表現給予了非常高的評價，贊揚了他為北韓人民的獨立解放事業作出的重大貢獻。
張翼翔則向金日成表示，隻要北韓人民需要，毛主席一聲令下，就立即帶領部隊重返戰場。
1953年，張翼翔調任華東軍區副參謀長。
1955年被授予中将軍銜，同月進入南京軍事學院戰役系學習。畢業之後，擔任福州軍區副司令員。
1968年，就在張翼翔處境為難的時候，周恩來總理親自點将派他到七機部負責軍管會的工作。在他的努力下，使得一度中斷的間斷科研工作得以很快恢複。
周恩來欣賞他解決老大難問題的能力和魄力，在1968年6月和1969年的5月，又先後派遣他兼任鐵道兵司令，和第二炮兵司令員等職務。
每到一個地方，他都盡心盡力地工作，積極解放老幹部和科技人員，恢複了黨委的上司，使得部隊建設和各項工作走上了正軌，在他的指揮下，1969年9月，我國成功進行了第一次地下核試驗，第二年首次遠端地對地飛彈發射成功、第一顆人造衛星的發射成功。
1969年冬天，陳毅因病住院，張翼翔卻不顧當時衆人的阻攔，三天兩頭去醫院看望他。陳毅拉着他的手說：“我可是危險人物了，你不怕受牽連嗎？”
“不管他們給您戴上什麼罪名，您永遠是我們尊敬的老總。”
沒過幾年，楊勇因傷需要回京治療，但是301醫院卻以各種理由拒絕他進入高幹病房治療，導緻楊勇的病情被拖延。張翼翔得到消息之後立即前往醫院安慰他，并且和楊勇家屬商量，讓他們給周總理寫信，并且親自将信送到了周總理的手中，在總理的幹涉下，楊勇才得以住進高幹病房，得到有效的治療。
1971年，張翼翔因為勞累過度，突患腦溢血。周恩來總理和葉劍英元帥聞訊後，急忙派人前往醫院看望。當總理看到當年的八一建軍節招待會的名單上沒有張翼翔的時候，專門派秘書打電話邀請張翼翔一定到會。
1980年，張翼翔從第二炮兵司令員的任上調到了軍事科學院擔任副院長，再次成為了粟裕的手下。
不久之後，第二炮兵來信揭發張翼翔在文革中與林彪和四人幫有牽連，這封信到了粟裕的手中，粟裕并沒有立即做出判斷，而是非常謹慎地開始了調查。
他找到了張翼翔，仔細了解情況，反複研究揭發材料，最後認定這完全是子虛烏有的，根本就沒有這回事。
于是，粟裕将這一結論上報給了總政治部和中央軍委。這件事才得以消除影響。
後來，第二炮兵又有人說張翼翔的秘書“參與轉移、藏匿機密檔案”，再次有人提出将張翼翔定為林彪集團一員。
但是，粟裕同志卻并不這樣認為，他認為對一個同志要負責，不能輕易做出結論，即使有“轉移、藏匿機密檔案”，那也是秘書藏得，又與他有什麼關系（後來查明所謂轉移、藏匿機密檔案的事，與他的秘書無關）。
是以在中央軍委常委會議上讨論張翼翔問題的時候，粟裕據理力争，惹得持有反對意見的人都拍了桌子。
張翼翔最終安然逃過了這一劫，并沒有收到任何牽連。
可是張翼翔卻對于粟裕說的話一無所知。
1985年，張翼翔退休了，但是他依舊念念不忘軍事科學院的建設和重要軍事科研項目的進展情況。