百靈廟位于綏遠省北部，東南距歸綏160餘公裡，地處交通要道，戰略位置十分重要。“九一八”事變之後，日本關東軍扶植蒙古德王自立軍政府，建立傀儡政權。無論是日本人還是僞軍，都把百靈廟視為軍事重鎮和後勤補給基地。
綏戰打響之後，僞蒙軍在百靈廟駐紮了大批人馬，囤積了大量軍用物資。對晉綏軍而言，奪回百靈廟的控制權關乎整個綏遠戰争的大局。紅格爾圖之戰勝利後，傅作義總司令當即着手準備攻打百靈廟的行動。
根據偵察兵報告：百靈廟一帶四面環山，山外則地勢平坦，可謂易守難攻。在廟内駐守的僞蒙軍兵力達3000餘人，并且擁有堅固的防禦工事和充足的物資。為一舉拿下這一軍事重鎮，傅作義制定了先發制人、出敵不意的奇襲戰術，令騎兵師長孫長勝為前敵總指揮，第211旅旅長孫蘭峰為副總指揮，指揮騎兵第2師三個團、第211旅兩個步兵團、第70師劉效曾步兵團等約5000餘人，秘密向指定地點集結。
11月22日，孫長勝、孫蘭峰向集結部隊下達進攻指令。23日午夜，晉綏軍騎兵師冒着零下二十多度的嚴寒，踏着一尺多厚的積雪，率先向百靈廟發起進攻，孫蘭峰部緊随其後，掩護騎兵師沖鋒。激戰打響後，日僞軍在日本特務機關長勝島角芳的親自指揮下，憑借堅固的工事進行頑抗。百靈廟易守難攻，騎兵師沖鋒時遭到日僞軍重機槍掃射，第一輪沖鋒傷亡較重。
日僞軍指揮官勝島角芳，指令廟内的日僞軍拼死抵抗。日僞軍依托百靈廟高大的院牆，将輕重機槍架在房子上、院牆上朝廟外的晉綏軍掃射。日僞軍又将院牆鑿空，将野炮放于高處俯射晉綏軍騎兵。一發發炮彈落入寺廟門前的空地上，炸得泥土石塊四處飛濺。炮擊之中，晉綏軍陣亡騎兵連長1人，士兵百餘人。
扼守百靈廟咽喉處的是僞蒙軍的一個排，這個排堵住了晉綏軍進攻的路線，不拔掉這個釘子就無法打下百靈廟。騎兵師師長孫長勝下令攻擊後，發現幾次攻擊都很難奏效，于是臨時拟定了攻心戰術，對這個排的僞軍進行策反。孫長勝指令騎兵迅速靠近百靈廟，分幾隊從不同方向壓迫過去，抵達有效距離後，将勸降僞蒙軍的書信擲入廟中，并對這個排的僞軍大喊：“中國人不打中國人！兄弟們給鬼子賣命不值得！”。
如此反複三次，在重傷連長1人、騎兵陣亡數十人後，終于策反了一個排的僞蒙軍。這一排僞蒙軍當即調轉槍口，朝百靈廟日僞軍據點發起進攻，攻擊日僞軍百靈廟指揮部。這個排的僞軍連續攻入百靈廟深處，日僞軍始料不及，紛紛被擊潰。在内外夾攻之下，百靈廟内的日僞軍陣勢大亂，日軍指揮官勝島角芳和僞蒙軍第7師師長穆克登寶等人見百靈廟無法堅守，于是跳上汽車倉皇逃往大廟，除了少部日僞軍跟着逃出了百靈廟之外，大部分部隊見大勢已去，不得不紛紛繳械投降。
24日上午8時，晉綏軍順利收複百靈廟。此戰共擊斃日僞軍300餘人，其中有日本人屍體20餘具，繳獲槍炮、電台、汽油及面粉等大量物資。12月3日，僞蒙軍及“大漢義軍”又在日本顧問小濱的指揮下大規模反撲，孫長勝指令晉綏軍騎兵師出廟迎擊，騎兵師在前、孫蘭峰的步兵在左右随同掩護沖鋒，日僞軍被擊潰，倉皇逃往百靈廟以東的錫拉木倫廟。錫拉木倫廟位于四子王旗北部，西距百靈廟約35公裡。
為徹底肅清逃竄至此的殘敵，孫長勝率部繼續收複錫拉木倫廟。恰在此時，僞“大漢義軍”内部發生分裂，王英手下的石玉山部、金憲章部相繼陣前倒戈加入晉綏軍。12月9日，金憲章率突擊隊100多人攻入日本顧問駐地，将小濱以下日本軍官27人全部打死。日本顧問小濱等軍官被打死後，日僞軍頓時失去了指揮。孫長勝迅速下令發起總攻，晉綏軍騎兵師與僞蒙軍騎兵2師在錫拉木倫廟外的開闊草地上進行野戰。
騎兵對騎兵，二師對二師，馬刀對馬刀，步槍對步槍。數千騎兵迅速分成三大隊厮殺在一起，一時間人叫馬嘶，槍聲頻頻。激戰兩個多小時，晉綏軍騎兵師第2師擊潰以骁勇著稱的僞蒙軍騎兵第2師，殘敵紛紛竄逃。趁此間歇，晉綏軍李思溫團的步兵攻入錫拉木倫廟，打垮了王英的僞“大漢義軍”。晉綏軍騎兵師掃蕩了廟外的僞盟軍騎兵，步兵又攻入了錫拉木倫廟，僞“大漢義軍”張萬慶所部安華、王子修等将領見大勢已去，局勢已無法逆轉，于是紛紛率部繳械投降，将所部人馬歸入晉綏軍中。僞“大漢義軍”首領王英見自己的精銳主力被滅，絕望之下率領殘部逃回張北。自此，王英的僞“大漢義軍”徹底覆滅。
百靈廟之戰，晉綏軍孫長勝的騎兵第2師對陣王英的僞蒙軍第2師，王牌騎兵對王牌騎兵，2師對2師，最終晉綏軍完勝僞蒙騎兵，一舉連奪兩個軍事基地，殲滅了王英的僞“大漢義軍”，拔掉了這個為虎作伥、助纣為虐的叛徒的武裝，真是大快人心，振奮士氣。百靈廟之戰，這是晉綏軍騎兵的風光一戰，也是一場經典之戰。