1944年初，美军在太平洋岛屿争夺战中，连连取胜。日军海上交通线要被切断，为了解救南洋的兵力，日本最高当局决定在中国发起新的一号作战，目标有两个：一是打通平汉铁路、粤汉铁路，依靠铁路把中国和东南亚连接起来，援助南洋日军；二是日本当局准备万一本土和南洋被美军占领，则利用中国继续顽抗。
为此，日军还赶修了河南新乡到黄河北的铁路。
日军进攻河南的战役，由华北派遣军司令冈村宁次指挥。他调动了华北一半以上的兵力，总共约15万人。此外，山西境内的日军第1军、豫南的华中方面军一部均进行配合。与日军—起行动，还有伪军张岚锋、孙良诚、庞炳勋、孙殿英等部。
驻防河南的中国军队，为国民党第一战区，司令长官为蒋鼎文。他指挥的部队有7个集团军，共18个军、30万大军。
早在2月南岳会议上，蒋介石就已经宣布：中国抗战已进入战略反攻阶段。河南之战，国军为日军一倍之多，应该是稳操胜券了。孰不料，结果却令所有人意外！
4月17日晚，日军第37师团渡过黄河，向郑州的前沿阵地中牟发动进攻，战役打响。
19日，国民党守军第15军全线溃败。日军大规模渡河南下。
与此同时，日军第22联队开始偷袭郑州，并攻占部分城墙。接着，日军第37师团主力也赶到郑州城下。中国守军第85军向西逃窜。
郑州为中原要地，也是连接陇海和平汉两大铁路的枢纽，就这样落入了日军之手。
日军初战得手，分外嚣张。
21日，日军占领新郑、尉氏，23日占领长葛，5月1日攻占许昌，5月5日攻占郾城，5月9日，日军在确山与由信阳北上的华中第11方面军第11旅团会师。于是，日军打通平汉路的计划完全实现，并且几乎没有遇到有效抵抗。
与此同时，5月初，日军第12军一部从郾城、密县向西北，日军山西第1军两个旅团由垣曲向东南，合击洛阳。
5月4日，南路日军先后占领登封、临汝、襄城等地，逼近洛阳。
洛阳为国民党军第一战区司令部所在地，蒋介石大为惊讶，于是下令蒋鼎文“死守”。
蒋鼎文急忙调兵遣将。
可蒋鼎文还在调军之际，日军对洛阳城四周就发动了猛攻，并全部得手，洛阳成为孤城。
5月19日，日军南、北两路的第62师团和第3坦克师团、110师团一部，一起向洛阳发动进攻。
中国洛阳守军是第15集团军第14军的第94师，由王建庆任师长。蒋介石在如此重要的军事重镇，却只部署了区区一个师，只有1.4万余人守卫。面对强大的日军，第94师官兵进行了英勇抵抗，22日，日军三次攻入城内。
23日，日军集中兵力攻击城北。
这时，中国守军只剩1700余人。24日下午，日军发动总攻，次日占领洛阳。
河南战役就这样以日军大获全胜而结束。
在战役之初，蒋鼎文不做大战准备。战役打响后，他率领长官部一路溃逃，甚至与重庆失联多天，最后逃到西安。日军跟踪追击，于是，潼关又告急。为了集中兵力，蒋介石只好撤销第八战区、第一战区，组建新的第一战区，由陈诚兼任司令长官。
陈诚调动兵力，加强防守，才拒敌于潼关之外。
在河南战役中，国民党军一天丢失一座城池，37天一共丢掉了38座县城，30多万主力军被击溃。被蒋介石称为已经进入“战略反攻阶段”的国民党军，竟然是如此作战！令国人大跌眼镜，美国总统罗斯福都吃惊不已：
“蒋介石怎么如此不堪一击？！”