1944年初，美軍在太平洋島嶼争奪戰中，連連取勝。日軍海上交通線要被切斷，為了解救南洋的兵力，日本最高當局決定在中國發起新的一号作戰，目标有兩個：一是打通平漢鐵路、粵漢鐵路，依靠鐵路把中國和東南亞連接配接起來，援助南洋日軍；二是日本當局準備萬一本土和南洋被美軍占領，則利用中國繼續頑抗。
為此，日軍還趕修了河南新鄉到黃河北的鐵路。
日軍進攻河南的戰役，由華北派遣軍司令岡村甯次指揮。他調動了華北一半以上的兵力，總共約15萬人。此外，山西境内的日軍第1軍、豫南的華中方面軍一部均進行配合。與日軍—起行動，還有僞軍張岚鋒、孫良誠、龐炳勳、孫殿英等部。
駐防河南的中國軍隊，為國民黨第一戰區，司令長官為蔣鼎文。他指揮的部隊有7個集團軍，共18個軍、30萬大軍。
早在2月南嶽會議上，蔣介石就已經宣布：中國抗戰已進入戰略反攻階段。河南之戰，國軍為日軍一倍之多，應該是穩操勝券了。孰不料，結果卻令所有人意外！
4月17日晚，日軍第37師團渡過黃河，向鄭州的前沿陣地中牟發動進攻，戰役打響。
19日，國民黨守軍第15軍全線潰敗。日軍大規模渡河南下。
與此同時，日軍第22聯隊開始偷襲鄭州，并攻占部分城牆。接着，日軍第37師團主力也趕到鄭州城下。中國守軍第85軍向西逃竄。
鄭州為中原要地，也是連接配接隴海和平漢兩大鐵路的樞紐，就這樣落入了日軍之手。
日軍初戰得手，分外嚣張。
21日，日軍占領新鄭、尉氏，23日占領長葛，5月1日攻占許昌，5月5日攻占郾城，5月9日，日軍在确山與由信陽北上的華中第11方面軍第11旅團會師。于是，日軍打通平漢路的計劃完全實作，并且幾乎沒有遇到有效抵抗。
與此同時，5月初，日軍第12軍一部從郾城、密縣向西北，日軍山西第1軍兩個旅團由垣曲向東南，合擊洛陽。
5月4日，南路日軍先後占領登封、臨汝、襄城等地，逼近洛陽。
洛陽為國民黨軍第一戰區司令部所在地，蔣介石大為驚訝，于是下令蔣鼎文“死守”。
蔣鼎文急忙調兵遣将。
可蔣鼎文還在調軍之際，日軍對洛陽城四周就發動了猛攻，并全部得手，洛陽成為孤城。
5月19日，日軍南、北兩路的第62師團和第3坦克師團、110師團一部，一起向洛陽發動進攻。
中國洛陽守軍是第15集團軍第14軍的第94師，由王建慶任師長。蔣介石在如此重要的軍事重鎮，卻隻部署了區區一個師，隻有1.4萬餘人守衛。面對強大的日軍，第94師官兵進行了英勇抵抗，22日，日軍三次攻入城内。
23日，日軍集中兵力攻擊城北。
這時，中國守軍隻剩1700餘人。24日下午，日軍發動總攻，次日占領洛陽。
河南戰役就這樣以日軍大獲全勝而結束。
在戰役之初，蔣鼎文不做大戰準備。戰役打響後，他率領長官部一路潰逃，甚至與重慶失聯多天，最後逃到西安。日軍跟蹤追擊，于是，潼關又告急。為了集中兵力，蔣介石隻好撤銷第八戰區、第一戰區，組建新的第一戰區，由陳誠兼任司令長官。
陳誠調動兵力，加強防守，才拒敵于潼關之外。
在河南戰役中，國民黨軍一天丢失一座城池，37天一共丢掉了38座縣城，30多萬主力軍被擊潰。被蔣介石稱為已經進入“戰略反攻階段”的國民黨軍，竟然是如此作戰！令國人大跌眼鏡，美國總統羅斯福都吃驚不已：
“蔣介石怎麼如此不堪一擊？！”