盡管得到了張自忠的保證，李宗仁還是不放心。于是徐祖诒就向李宗仁請命，自己往臨沂走一遭。李宗仁也覺得這樣比較好，至少在作戰計劃上，徐祖诒可以幫助一下龐炳勳。
就這樣，徐祖诒帶着一個警衛班，乘坐一輛吉普，從徐州北門而出，奔赴臨沂。而這個時候張自忠的部隊，已經在澤縣下車急速行軍，趕往百裡之外的臨沂。
徐祖诒比張自忠早來了半天，依據指揮所就發現了問題。這裡離前線太近了，炮彈不時淩空而過，于是就建議龐炳勳：立即轉移指揮部。
但是遭到龐炳勳的反對，理由也很簡單：如果我龐炳勳臨危後退，前方的戰事必然動搖，那麼臨沂就難保了，這個罪責我擔不起。
兩人争了半天，最後請示李宗仁，在這個時候，李宗仁自然力挺龐炳勳，轉移指揮部的事情告一段落。
3月12日傍晚，張自忠的部隊終于抵達了臨沂。
三人相見的場面，小編不想說，無非就是兩個仇人加一個和解人的場面話而已。
三人坐下來商議軍情，按照龐炳勳的意思，想把張自忠的主力部隊，在戰鬥最激烈的諸葛城，但是這個計劃遭到徐祖诒的反對。他認為：敵強我弱之下，如果推進到北線的話，就會陷入日軍的炮火之中，如果固守縣城，那麼弱者愈弱，是以不如突襲日軍的側翼。
徐祖诒的提議，張治中非常的贊同，于是三人制定了一個作戰方案：
仍然以唐炳勳的第四十軍作為主力，堅守臨沂正面戰場。張自忠的第五十九軍，黃維剛師渡過沂河，襲擊日軍右翼。第四十軍補充團和騎兵部隊，向日軍左翼發動進攻。兩支部隊以湯頭鎮為目标會師。第四十軍的工兵營和直屬特務營總預備隊，由第30 9 10師長馬法五率領，随時準備策應。行動時間為，3月13日太陽落山之前。
3月14日淩晨4點，黃維剛帶的部隊，成功地度過了百米沂河。
而這個時候，日本的坂本支隊，正在與龐炳勳的軍團正面作戰，打着打着，張自忠的部隊突然出現，攻擊他的側翼，于是日本坂田支隊急忙分兵反攻。值得一說的是，張自忠渡河的一個旅，為了行軍快捷，沒有攜帶重武器，是以日本反擊之後，一直攻不進去。
為此，張志忠大怒，将旅長撤職，然後指令部隊攜帶裝備再次渡河出擊。而戰場上瞬息萬變，軍也開始迂回，張自忠又派出一支部隊進行馳援，中日雙方進入膠着之态。
3月16日，第五十九軍傷亡非常大，徐祖诒建議張自忠将部隊撤出戰場，進行休整。但是張自忠希望，能夠再給他一天一夜的時間，如果到那個時候能不能擊退日軍，再自行轉入休整。
當天深夜，張自忠召見了兩個師長：王維剛和劉振三，三人制定了一個作戰計劃：把手中所有的山炮、野炮和重型迫擊炮都集中在一線，并帶上所有的炮彈，在17日天黑之前，必須把炮彈全部打完。并讓黃維剛組織一支敢死隊，襲擊河對岸的日軍辎重部隊駐地。
3月17日午後，臨沂之戰進入最激烈的時刻，張自忠的部隊，大炮彈全部打向了日軍陣地，日軍的陣腳終于亂了。黃昏之後，張自忠下令全線出擊，僅有的一個反坦克排，也奉命跟随部隊行動，最後起到了大作用。在三官廟這個地方，退卻的日軍想用4輛坦克吓唬中國軍隊，誰知反坦克排立即沖上去，直接給摧毀了兩輛。
在苗家莊，劉振三率領第108師三進三出，殺傷日軍600多人，将日本軍隊徹底攆回了湯頭鎮。
經過一番苦戰，張自忠的部隊傷亡越來越大，而日本的坂本支隊也頂不住了，直接下令，放棄湯頭鎮，向莒縣撤退。
3月18日，張治中接到戰區指令，留下一個旅，帶着主力部隊進入費縣，臨沂人有龐炳勳軍團守衛。但是剛走沒多久，坂本支隊的援軍就到了，張自忠隻能再一次傳回馳援。
在龐炳勳和張自忠的通力合作之下，他們堅守臨沂一個多月，創造了一個幾乎不可能出現的奇迹。也正是因為他們在臨沂牽制了第5師團，為李宗仁在台兒莊圍攻第10師團，赢得了寶貴的時間。
4月19日，臨沂棄城之時，台兒莊大戰已經過去了半個月。