与包头战役时一样，五天前绥军各部就利用夜间秘密向五原运动，至3月19日到达了预定地点。20日下午，突击队率先出发，黄昏时，部队进至距五原新城七、八里的一座村庄，并从驻扎村庄的伪守备队里活捉了一名伪军，从而得到了敌人的口令。
在发起五原战役之前，傅作义从老乡口中得知，占据五原的日军每人都牵着两三匹马，马上驮的尽是抢夺来的东西。傅作义由此相信绥西警备军的战斗力并不强，他给突击队成员打气：“这样的军队（指绥西警备军）能打仗吗？我们官兵除枪支弹药外，一无所有，所以胜利一定是我们的。”
突击队进攻五原的时间也经过精心设计。傅作义考虑如果拂晓发动进攻，很快就会天亮，天一亮，日军便可依托既有的防御设施和据点进行顽抗，飞机亦可及时支援，这样不仅进展较慢，而且部队伤亡也必然不会小。反复推敲后，终于确定在拂晓前三小时猛然插入五原城。
眼看计划中的进攻时间已到，安春山立即将纵深行军队形改为横广队形，向五原新城并列前进。当第一纵队到达城门时，守卫城门的日伪军哨兵上前询问口令。口令答上后，他们又问：“干什么去？”
“增援！”话音刚落，早就准备好的格斗高手就快捷出刀，把两名日本兵给宰了。另外的四名伪军一看，犹如顶门走了三魂，脑后失了七魄，赶快乖乖投诚。
五原旧城和新城的城墙都已经被拆除，因此城门实际也就是一条警戒线。控制城门后，突击队按照训练中的步骤，利用对五原城情况的熟悉，对各预定目标发动了猛袭。
绥西警备军对绥军的乘夜突袭缺乏防备。众人从梦中惊醒后，只能仓促应战，有的还没穿上衣服就被炸死在床上，有的刚刚从屋子里跑出来，尚未进入战斗状态，便已丧身于刺刀和手榴弹之下。
得知绥军攻入了五原城，外围“绥西自治联军”的一个大队急忙向新城进行增援。所谓先到为君，后到为臣，负责在城外阻援的突击队第七队骗他们说自己也是伪军，这支伪军信以为真，七队便趁他们坐着休息的时候，赏了一顿“机枪粥”，将他们打散了。
经过半夜激战，突击队成功占领义和渠以东的警备军司令部、粮食仓库、弹药库等大据点，剩余日军主力退入了屯垦办事处、平市官钱局。第二天天刚蒙蒙亮，日机飞临新城上空增援。