武漢會戰中唯一攻不破的防點，蔣介石稱此戰是第二個台兒莊戰役
1938年9月16日，日軍攻占商城。孫連仲将兵團三個軍全部部署在沙窩、小界嶺一帶，與敵決戰。兵團以左、右兩翼擺開陣勢迎敵，第30軍和第42軍為右翼，第71軍負責左翼。日軍第13師團等部經過補充後，在飛機、重炮和坦克的掩護下，向右翼部隊進攻。孫連仲第2集團軍來自西北軍，剛參加完台兒莊戰役，補充了大量新兵。第2集團軍将士發揚台兒莊的決戰精神、浴血奮戰，打退敵人多次進攻。孫部将士士氣高昂，第2集團軍軍歌響徹了大别山北麓，響徹了沙窩小界嶺戰場：“我們血戰台兒莊，誓把鬼子消滅光。殺敵有功保陣地，揮師北上蘆溝橋。兄奮戰别後退，保家衛國稱英豪。
久攻不下、氣急敗壞的日軍将怒火發到帶路的漢奸身上，全部活埋了120名漢奸。日軍在小界嶺山上加強飛機和機械化部隊配合作戰，還使用了大量的毒氣。盡管中國軍隊很多人被飛機大炮炸死炸傷，被毒氣毒死毒傷，但他們沒有絲毫退縮，英勇作戰。30師師長張金照在部隊基本被打光後緻電第二集團軍司令孫連仲要求撤退，孫連仲大聲說，“就是剩下你最後一個人，你也要站在一線。”第31師的陣地被敵軍突破，敵軍離他的指揮所近了。孫連仲抓起一支沖鋒槍，帶着警衛人員沖上去督陣。潰退的官兵見了莫不驚愕，拼死反擊，陣地又硬給奪了過來。
第二集團軍總司令孫連仲将軍的指揮部就在小界嶺界口往南200米的麻城市福田河鎮小界嶺村裴樹凹，這裡也是第三兵團指揮部，孫連仲擔任兵團總指揮，下轄宋希濂的71軍、第二集團軍的田鎮南30軍、馮安邦42軍、馮治安的77軍、于學忠的51軍、張自忠的59軍，全權負責大别山左路防線。日本飛機在兵團軍部投下炸彈，将軍部炸毀，孫連仲從瓦礫中爬起，又扒開瓦礫救出蘇聯軍事顧問阿爾費羅夫，繼續指揮戰鬥。宋希濂是畢業于黃埔一期的高才生，是蔣校長的嫡系心腹，被成為“鷹犬将軍”，其上司的71軍是蔣介石警衛部隊。在派系林立的國民黨軍隊中，為了民族大義，他甘願服從出生于西北軍的孫連仲的調遣，焦土抗戰，身先士卒。
小界嶺界口往南3公裡處有個叫朱家大廟的灣子，灣子裡有一個大廟，廟旁有一棵千年白果樹，古木參天，三四個青年人才能合抱。71軍宋希濂将軍和30軍田鎮南将軍的指揮部都設在這棵白果樹下。田鎮南指揮部安放有棺材一副，表達為國捐軀的巨大決心，極大鼓舞了抗日将士的士氣。兩軍互相配合，協同作戰。每每前線傳來捷報，宋将軍和田将軍就在銀杏樹下飲酒慶祝。每每出現陣地丢失，他們就在銀杏樹下互相鼓勁，商讨對策。裴樹凹被炸後，第三兵團指揮部移址朱家大廟，各路軍更加精誠團結在一起，共同抵抗日本侵略者。
在1938年這場近兩個月的戰鬥中，在孫連仲、宋希濂和田鎮南的共同指揮下，中國軍隊同日軍展開殊死激戰，打退日軍多次進攻。日軍始終未能取得戰鬥的實質性進展。日本當時的報紙報道小界嶺戰役時援引獲洲立兵中将向第2軍司令官報告稱：“我軍遇到強手宋希濂軍的頑強抵抗，傷亡甚大，戰況仍然毫無進展。我軍對富金山之敵束手無策！”
由于小界嶺在武漢會戰大别山防線的突出位置，第五戰區李宗仁司令部移駐宋埠。10月，蔣介石親自到麻城督陣，在宋埠與李宗仁協商指揮大别山防線，并在宋埠住宿一夜。郭沫若兩次率抗戰文藝宣傳隊到一線演出，慰問抗日軍民。周恩來上司的抗敵演劇第四隊、第六隊、臧克家上司的文化工作團以及上海演劇二隊紛紛來麻城慰問演出，鼓動抗日救亡。
日軍在台兒莊丢下11984條性命後，又在此次戰役陣亡4506人(其中将校佐172人)，負傷17380人(其中将校佐526人)，合計21886人(其中将校佐698人)，占武漢會戰日軍總傷亡的五分之一，是日軍在武漢會戰傷亡最多的戰役。是役，中國抗日将士陣亡超過20000人。宋希濂的71軍從12500人到撤退時隻有800人，幾乎損失殆盡！
小界嶺守軍的頑強抗戰迫使日軍改變戰略進攻的重點，增加部隊，攻占潢川、羅山後，向信陽進攻。信陽胡宗南不戰而退，主動讓出了武漢的北大門。10月6曰，日軍第2集團軍以第3師增援，協同第10師團一部迂回信陽以南，攻占平漢鐵路上的柳林站。12日日軍第2集團軍攻占信陽。武漢東線長江兩岸，7月26日，黃梅小池失陷，日軍侵入湖北境内，8月2日，黃梅縣城失陷；9月6日，廣濟縣城梅川失陷；9月16日，武穴失陷；9月29日，田家鎮要塞失陷；10月8日，蕲春縣城蕲州失陷；10月17日，浠水縣城失陷；10月21日，蘭溪失陷；10月22日，上巴河失陷；10月22日，陽新、大冶、鄂城防線也相繼失守，日軍第9師和波田支隊向武昌逼近；10月23日，黃州、團風、新洲、陽邏失陷；10月24日，倉子埠失陷；24日日軍占領黃陂，直逼漢口。10月24日，蔣介石正式下令放棄武漢、實施撤退，25日，武漢淪陷。據守小界嶺的第七十一軍等部奉命撤退，25日，麻城縣城失陷；30日，麻城縣宋埠失陷。
小界嶺戰役沉重打擊了日本進攻中國的嚣張氣焰，小界嶺防線成為武漢會戰重要組成部分，是武漢會戰僅有的沒被日軍突破的戰略防線。此役，71軍軍長宋希濂、31師師長池峰城被國民政府授予華胄獎章，小界嶺戰役被蔣介石稱此戰是第二個台兒莊戰役。