整編74師也就是國民革命軍74軍，這支部隊是抗戰期間戰鬥力十分強悍的一支部隊。這支部隊在抗戰時打滿全場，立下了赫赫戰功，逐漸成為國軍頭号主力，連日軍都對這支部隊十分畏懼。
抗戰結束後，74軍整編為74師，全師三萬多人，全副美械裝備。這支部隊和國民黨軍的普通部隊不太一樣，這支部隊的武器裝備是國民黨軍最好的，戰鬥素養，戰術水準明顯高于國民黨軍其餘部隊。這支部隊的很多官兵在抗戰期間和日軍作戰多次，是以不論是熱戰還是冷兵器作戰，戰鬥力都十分兇悍。在兩次漣水戰役中，華野各部隊官兵就覺得這支部隊比日軍還能打。
1947年5月，國民黨軍集結45萬大軍對華野所在的山東根據地發動進攻，張靈甫帶着整編74師沖在最前面。粟裕果斷抓住戰機，華野九個步兵縱隊，一個特種縱隊共27萬大軍全部出動，用時三天将其殲滅。
整編74師的全軍覆沒在當時的國民黨軍産生了很大的震動，蔣介石很不甘心，于是讓王耀武重建整編74師。其實整編74師被沒有全部殲滅，當時74師有三個新兵團留在了後方整訓，王耀武用這三個新兵團和一個榴彈炮營組建了51旅，調山東警備警備旅改編為57旅，廣東航空警備旅改編為58旅，華野釋放的整編74師被俘官兵也都補充了進去。
1948年1月，整編74師重建完畢。1948年4月，剛從大别山出來的中原野戰軍士氣低落，元氣大傷，需要打一場勝仗鼓舞士氣，于是他們盯上了駐守在安徽阜陽的整編74師58旅，58旅擁有9000多名官兵，雖然戰鬥力不如老74師，但是也不可小看，而且這支部隊士氣很高，知道解放軍要來進攻後，還打起了報仇雪恨的旗号。
中原野戰軍為了打赢這場仗，動用了五個縱隊，還調華野10縱前來增援。3月29日，中野一縱20旅59團率先發動進攻，殲滅58旅一個旅，但是很快遭到反擊，損失慘重。20旅58團派出尖刀連執行穿插任務時，打的就剩下一個班，該團也損失過半。
在東關的戰鬥中，一縱第二旅和58旅守軍進行了反複争奪，但是由于城牆太厚，再加上中野沒有重武器，傷亡慘重卻寸步難行。在雙方激戰的時候，58旅222團團長帶着一個營攻打一縱第二旅和20旅的結合部，緻使20旅因傷亡過大，退出戰場。中野11縱在北關的戰鬥中同樣不理想，58旅還進行了反攻，11縱一個主攻團被擊潰。
中野和58旅打了六天，但是毫無進展，邱維達率領整編74師另外兩個旅迅速進行增援，其餘的國民黨軍部隊也紛紛向阜陽靠攏。中野為了避免被包圍，隻能選擇撤退，另尋戰機。