1937年9月25日拂曉，山西靈丘縣平型關東側喬溝一帶，林彪、聶榮臻率領115師的685團、686團、687團經過一夜風雨行軍，悄悄進入了伏擊日軍陣地。
在此之前，為打好這一仗，林彪曾三次到平型關喬溝一帶進行實地勘察。第一次他是帶着參謀人員和電台去的。第二次他是化了裝去偵察的。第三次是和聶榮臻帶着旅長、團長們去的，并在現場向各團指定了埋伏地點，明确了師、旅、團指揮所的位置。喬溝長約7公裡，崖高數丈，陡峭如削，崖頂平緩，雜草叢生。
天依舊陰沉沉的，冷風飕飕，戰士們穿着淋濕的衣服，隐蔽在山溝裡等待作戰指令。林彪趴在指揮部裡，兩手舉着望遠鏡，觀察着前方溝底的公路。8點鐘，公路前方出現一個慢慢移動的小紅點，紅點越來越近，是一面高舉的太陽旗。鬼子來了！林彪拿起電話，指令部隊準備出擊。
日軍二十幾個尖兵走在前面，相隔20米遠是三路縱隊，刺刀映着陽光，一閃一閃。指揮官們騎着高頭大馬。後面是數不清的汽車，還有拉着山炮的大車，隆隆的馬達聲傳過來。日軍的大隊人馬已經進入了伏擊圈。林彪看着日軍的先頭部隊過去，沒有吭聲，又隊日軍過去，他仍不吭聲，當日軍指揮官快接近公路北邊那座老爺廟時，他才喊出一聲：“發信号彈！”
随着信号彈升空，早已埋伏好的685團戰士同時開火，步槍、機槍、手榴彈、迫擊炮發起了猛烈攻擊。毫無戒備的日軍突然遭到迎頭痛擊，頓時被打的人仰車翻，一片混亂。但他們畢竟是具有“武士道”精神的日本軍人，而且是訓練有素的精銳“王牌軍”，經過最初的慌亂，很快鎮定下來，或三人一組背靠背開始突防，或依托汽車進行反擊，一邊尋找制高點。面對這種情況，為了不給日軍任何機會，林彪馬上指令部隊沖鋒，居高臨下向日軍沖殺，對日軍實行分割、包圍，展開白刃戰。
685團二營五連連長曾賢生，外号叫“猛子”，發起沖鋒後，率先向敵人突擊。二十分鐘内，全連用手榴彈炸毀了二十多輛汽車。在白刃戰中，曾賢生一個人刺死十幾個鬼子。曾賢生身上到處是傷是血，當一群鬼子向他逼近時，曾賢生拉響了僅有的一顆手榴彈，與敵人同歸于盡。五連指導員身負重傷，依然在指揮部隊；排長犧牲了，班長頂替；班長犧牲了，戰士接上。打到最後，全連隻剩三十多位戰友，仍然頑強地與敵人拼殺。三營的九連和十連，沖上公路後傷亡很大，依然勇敢與敵人拼殺，以一當十，沒有子彈了就用刺刀，刺刀斷了就用槍托，槍托折了就和敵人抱成一團扭打，哪怕隻有幾秒鐘的空隙，戰士們也能飛速地揀起石塊将鬼子的腦殼砸碎。
日軍一面還擊，一面向老爺廟前的缺口沖。八路軍的機槍、手榴彈、迫擊炮全部集中向缺口處掃射、轟擊。日軍一批又一批倒下，但是為了打開生路，日軍加強火力，一次又一次沖殺，企圖搶占公路北面的制高點老爺廟。林彪也發現了這個問題，如果丢失了老爺廟這個高地，後果不堪設想。林彪對686團團長李天佑說：“你們一定要沖下公路，把敵人切成幾段，用一個營搶占老爺廟，拿下了這個制高點。”為奪取老爺廟，敵我雙方展開了殊死較量。
686團三營戰士鑽進煙霧裡，有的往前跑，有的往前爬，有的往前滾，沖上了公路，同敵人展開了白刃格鬥，隻見槍托飛舞，馬刀閃光，吼殺聲、爆炸聲，攪成一團，經過半個小時的拼殺，敵人支援不住，紛紛藏到汽車底下。此時，八路軍的戰士向日軍喊話：“繳槍不殺！優待俘虜！”。然而，眼前的日軍不僅不懂中國話，而且還是一群經過法西斯軍國主義訓練的頑固派。許多戰士因為缺乏對日軍作戰的經驗，反被垂死的敵人殺傷了，敵軍的傷兵同我們的傷員扭打，直到拼死為止。三營傷亡很大，沖上公路以後，九連幹部差不多打光了，全連隻剩了十多個人。戰鬥仍然在激烈進行，三營營長負傷，堅持不下火線，繼續指揮部隊作戰。李天佑見狀，即令二營增援，終于占領了老爺廟制高點。
八路軍占領老爺廟以後，居高臨下，打得山溝裡的敵人無處躲藏。日軍指揮官立即揮刀喊叫，指揮日軍繼續争奪老爺廟，成群的步兵往上爬，敵機也來轟炸，貼着山頭在空中支援着敵人。情況十分嚴重，為了避免敵機從空中打擊，八路軍戰士們繼續與日軍展開白刃戰，造成你中有我、我中有你的混戰局面。團長李天佑指令部隊：“一定要堅持到底，直至最後一支槍，最後一顆子彈。”敵人不斷地沖上來，又不斷地被消滅。經過反複較量，副團長楊勇負傷。
同一時刻，楊得志指揮的685團在右，徐海東指揮的687團在左，也向擠在溝底的日軍展開一次又一次的攻擊，白刃戰此起彼伏，直殺得屍骨成山，血流成河。日軍沒能占領老爺廟，隻能一面繼續攻擊，一面拼死向來路突圍。打到天黑，一部分日軍終于突出了伏擊地。由于688團因大雨沖毀道路沒有及時趕到伏擊地點，終于讓一部分日軍逃出死亡之地。
在同一天的另外一個地方，115師獨立團團長楊成武率部前往驿馬嶺阻擊涞源、廣靈兩個方面的日軍援兵，以切斷敵人的公路運輸線，保證主力部隊殲滅平型關的正面日軍。當楊成武率領獨立團以急行軍速度趕往預定地點時，日軍已經占領了驿馬嶺。他馬上指令部隊占領公路兩旁的山頭，構築工事，堵住敵人的去路。獨立團面對的是兵力超過自身數倍的敵人，這又是一場硬碰硬的較量。
曾保堂，時任115師獨立團一營營長，擔負阻擊援敵任務。當日軍一個聯隊靠近陣地時，曾保堂舉起駁殼槍，打響了第一槍。瞬時，機槍、步槍、手榴彈響成一片。戰士大喊着沖向敵人，開始了白刃戰。激烈的戰鬥中，獨立團一營教導員張文松身先士卒，不幸中彈犧牲。一連連長張德仁在捅殺數名鬼子後身負重傷，最後拼盡全力抱住一名鬼子滾下山崖。一營一連和三連減員過半，有的班排全部陣亡，犧牲人員的遺體上，都是身中數彈。在獨立團将士的全力阻擊下，日軍在驿馬嶺地區留下了300多具屍體。
25日下午6時，楊成武接到平型關戰役結束的消息，獨立團預備隊和一營一個連又立刻插向敵人側後方投入戰鬥，鬼子奪路逃向涞源城，獨立團乘勝追擊了50多裡，打到涞源城下，日軍膽寒，棄城而逃。
在喬溝的這場伏擊戰中，八路軍殲敵1000餘人，擊毀汽車100餘輛，繳獲一批辎重和武器，取得了全國抗戰以來中國軍隊的首次大勝利。但由于不了解日軍的“武士道”精神和作戰能力，八路軍也付出了傷亡600餘人的代價，并且沒有抓到一個俘虜，相反為了俘獲受傷日軍，還付出了一些不必要的犧牲。
當時，在115師的側翼，是國民黨閻錫山的部隊。當115師與日軍在平型關大戰之際，本來約定協同作戰的閻錫山部隊，卻在隔山相望，袖手旁觀。随後，日軍增援平型關的部隊正火速趕來。115師在連續作戰的疲勞狀态下，不得不撤出平型關。29日，日軍占領平型關。
平型關一戰後，八路軍全面進入遊擊戰。之後不久，林彪因被閻錫山的士兵誤傷，赴蘇聯治傷療養。對于林彪來說，平型關戰役是他抗日的第一仗，也是他抗日的最後一仗。