1937年9月9日，120师师部、358旅、359旅（欠1个团）及5月份组建的教导团共8227人乘木船东渡黄河，北上抗日。
120师在出动的时候，正值南口前线吃紧，120师正准备分兵一部挺进燕山山脉，参加南口战役的时候，国民党军队已从南口——张家口一线溃退下来。
在此之后，国民党军在沧洲—涿州—大同部署了三个阵地，分别阻击沿津浦、平汉、同蒲路三个方面南进的日军。但是在这三个防线之间，没有防御重心，没有防御重点和纽带，整个战线“裂缝”百出。第1战区布防涿州，第2战区守备大同，而这两个防御区的结合部却无人顾及，敞开了一个200公里的大裂缝。于是后果就可想而知：9月11日蔚县失守、9月12日涞源又沦于敌手。国民党军溃退之神速，总是如此出人意料，致使八路军更改作战计划都来不及。
七·七”事变以来，日军战略战术的基本原则是“迂回”。战略上采取纵深穿插，两翼迂回，迅速攻占若干战略要点，以摧毁国民党军的军事防线，瓦解国民党军的抵抗能力，避免逐地争夺、正面平推。在战术上则采取两翼包抄，威胁国民党军侧后，逼其正面混乱、溃退，避免
阵地对垒、正面强攻。国民党军在日军的强劲攻势下，一退再退。
9月13日，120师顺利渡过黄河，抵达山西省侯马。刚过黄河，到达宿营地，贺龙、关向应、肖克、周士第等人来不及休息，就围在山西省军用地图前，研究着下一步的进军路线。
山西，被称为“华北屋脊”。就兵家而论，控制了山西，便掌握了华北战场的主动权。攻则依地势而进：在广灵、涞源方向上，出紫荆关而入平津外围；在太原、石家庄方向上，出娘子关而入冀中；在长治、邯郸方向上，出山西而入冀南；在晋城、沁阳方向上，沿太行山南麓而入冀、鲁、豫边。守则有恒山、五台山、太行山可供依托。恒山、五台山为晋北军中要隘；太行山则为晋东之天然屏障。
此时日军第5师团占领蔚县、广灵、涞源以后，进犯平型关，国民党军队纷纷溃退，战局急转直下。贺龙、关向应等人立即决定，全师主力继续向北挺进。9月19日，120师主力从侯马乘火车到达忻县。
与此同时八路军副总指挥彭德怀匆匆赶到了忻县。见到贺龙等人后，彭德怀来不及询问更多的情况，立刻将毛泽东19日的急电摆在了贺龙等人面前：“贺龙部应位于晋西北，处于大同、太原之外翼，向绥远和大同游击，方能给敌南进太原以相当有效的钳制。贺师应速赴晋西北占先着。将来刘师可与林师靠近，位于晋南太岳山脉至吕梁山脉。”
彭德怀说：“120师应立即进入晋西北的管涔山区，以宁武、神池为中心，在五寨、岢岚、岚县、河曲、偏关、保德等地区组织和武装群众，开展游击战争，还应派部队前出雁北。”
贺龙说：“这样很好，我们立即按总部部署去行动。”
彭德怀询问了部队的情况后，犹豫了片刻，然后缓缓地说道：“从战争全局需要考虑，总部决定：王震率359旅东进到五台以北的豆村镇一带相机作战，并由总部直接指挥，待129师到达正太路南北之后，再归还建制。”
贺龙、关向应等人听后，没有作声。他们心里很明白：出师时，359旅旅长陈伯钧和718团以及师直属的5个营留在了陕北，担任河防和保卫陕甘宁边区的任务。现在王震所部又要东出五台，仅以120师两个多团的兵力去开辟管涔山广大地区，力量显然比较单薄。
贺龙看了一眼关向应，然后说道：“既然总部已经决定，我看我们还是服从大局，让359旅暂归总部指挥吧。”
贺龙又向王震问到：“现在359旅又扩编了吧？部队情况怎样？”
王震说道：“我旅出师后，沿途吸收了一些国民党军溃退中的散兵游勇，组成了新的718团。现在部队正在抓紧时间进行战前整顿，战士们斗志很旺。”
彭德怀听后满意地笑着说：“没想到你王大胡子现在就开始招兵买马了。”
按照总部的统一部署，王震率359旅疾驰五台山，贺龙率358旅挺进管涔山区。
此时，山西的形势已经十分危急。北面，大同失陷，雁北沦于敌手；东北面，浑源失守，灵丘陷落。阎锡山下令国民党军放弃恒山山脉。日军步步逼进，进攻内长城各要隘。国民党军全线溃退，各级官吏竞相逃窜，日军、汉奸、国民党溃兵任意肆虐，晋北人民陷入水深火热之中。
120师经过研究，决定分兵展开管涔山区，其中以358旅716团2营为骨干，编成独立支队，由716团团长宋时轮率领，北去长城，在朔县以北、同蒲铁路以西地区开展游击战争，袭扰和切断交通线，迟滞日军向神池、宁武的进攻，给120师主力在晋西北的活动创造条件；358旅分两个支队，张宗逊旅长率716团主力随师部到五寨地区，李井泉政委率715团及骑兵连到神池以西、五寨以北地区，打击日寇。关向应、甘泗淇去岢岚主持开展地方工作，从120师抽调干部组织地方工作团，宣传我党抗日救国十大纲领，广泛发动群众，组织抗日武装。
9月30日，关向应率师政治部和供给部、卫生部的一部分以及教导团组织后方工作领导机关去岢岚；贺龙率司令部进入神池县八角镇、义井镇地区指挥对日作战。
120师工作团到达晋西北各地之后，开展群众工作。20多天里，便发动和组织了5700余人的抗日自卫队。关向应、甘泗淇领导工作团在晋西北进行了8个多月的艰苦工作，收容了国民党军的散兵游勇，安定了社会秩序，抗日民族统一战线深入人心，晋西北出现了抗日的新局面。
宋时轮支队于9月29日到达雁北，10月1日攻占平鲁县的井坪镇，4日收复平鲁县城。
此时，由大同南犯的日军，主力绕过雁门关，从应县茹越口突破长城防线，先处攻占繁峙、代县、崞县与原平地区。10月10日逼近忻口，准备攻夺忻口，直取太原。
忻口，自古以来为军事要地，位于忻县、定襄盆地北部，是五台山、云中山两山峡谷中的一个隘口，为出入晋中的交通要道和战略咽喉，是保卫太原的最后一道防线。国民党军为保卫太原，决心在忻口组织会战。阎锡山调集8万重兵，由刚刚率部入晋的第14集团军总司令卫立煌担任前敌总指挥。
八路军总部的决策者们对形势作了如下分析：忻口前线之敌，与其后方的交通十分困难，不仅同蒲北段因国民党军撤退时车辆南移而瘫痪，平绥铁路也因破坏而利用不便。日军的运输线仅有经平型关至张家口，经雁门关至大同两条公路。切断这两条运输线，数万日军便断了供应。于是决定：以120师组成左纵队，置于雁门关及同蒲两侧；以115师343旅组成右纵队，置于代县——平型关方向。这两支部队与忻口前线进行战役配合：一方面袭扰日军前线的两翼与后方；一方面切断日军之交通，掐断日军的后方供应线。
根据聂荣臻的意见，359旅留下刘道生等300名干部战士，与周建屏等人一起组成工作团，开赴平山、井陉地区，发动群众开展游击战争，后组成晋察冀第4分区。王震率359旅主力星夜兼程，返回晋西北。
10月13日，忻口会战开始。此时的同蒲铁路北段已被120师宋时轮支队切断，日军南下的交通运输只能依靠两条汽车路：一条是从大同经雁门关至忻口的；一条是由灵丘经平型关、繁峙至忻口的。
贺龙认为，120师可以在这两条线上主动作战，切断汽车路，破坏敌人的交通运输，配合正面战场作战。肖克等都同意他的这一看法。
贺龙于是连续下了3道命令：一是命令张宗逊、李井泉率715团由崞县南下，袭击位于忻口西北20余公里的南北大常，打击敌翼侧。二是命令已由五台地区归建的359旅迅速赶到崞县以西，配合张宗逊部行动。三是命令继任716团团长的贺炳炎和政委廖汉生率1个营（后来又增派了1个营）去雁门关。
贺龙对贺炳炎说：“忻口战役正在进行。敌人每天从大同经雁门关，不断地给前线输送弹药；这是敌人一条重要的运输线，但他们很嚣张，自以为那一带已是后方，警戒相当疏忽；我们要利用敌人的弱点，到那一带发动群众，寻找机会，给敌人一个打击！”贺龙还不放心，接着又叮嘱道：“现在打的是日本侵略军，不是国民党的反动军队了，在战术思想上要扭得快，一定要遵循毛主席规定的山地游击战的作战原则。到达目的地后，要紧密联系群众，搞好侦察工作。”
716团经过3天的隐蔽急行军，到达了雁门关西南十多里的老窝村。驻下以后，果然发现敌人汽车不时从雁门关上滚过。南面还时而传来隆隆的炮声。
10月16日，群众送来情报：大同敌人集结了三百多辆汽车，满载武器弹药，有经雁门关南开忻口的模样。这些日子，每隔四五天就有敌人的车队通过，看来情报可靠。
17日黄昏，贺炳炎、廖汉生率部到达雁门关西南，他们发现公路并不在雁门关上，就主动去黑石头沟、吴家窑一带公路西侧设伏，同时派少数兵力占领雁门关。他们将此部署报告师部。贺龙打仗一向注重实际，最欣赏根据实际情况果断行事，接到报告后当即回电批准。
10月18日和21日，贺、廖支队在黑石头沟两次设伏成功，切断了日军的主要交通线：18日，第一次伏击，毙伤敌300余人，炸毁汽车20余辆；21日，第二次伏击，贺炳炎、廖汉生报告说：我与敌激战2小时，我伤13名、牺牲20名，敌伤亡3倍于我。
张宗逊、李井泉指挥的715团，也在14日这天的黄昏袭击了南北大常，攻占了永兴村，歼敌100余人。袭占南北大常、永兴村以后，张宗逊、李井泉即率部向东活动，袭扰敌人，牵制日军。
王震率359旅主力10月16日到达崞县以西的贺家店。贺龙命令王震：你们就在代县、崞县地区寻找战机，主动作战，切断交通。10月23日，王震指挥717团在阳明堡以南的王董堡附近设伏，截击由崞县北开的80余辆汽车，与有飞机4架配合的日军激战两个小时，击毁汽车30余辆，毙伤敌300余名，沉重打击了日军由平型关至忻口的交通运输。
八路军120师不但完成了袭扰日军主要运输线的任务，还主动寻找战机，袭击日军，缓解正面部队的压力。从而迫使日军忻口前线阵地，只得同时构筑两个对外正面：对国民党军队的进攻正面和对八路军的防御正面。
这样一来，敌人便失掉了二线纵深，全部人马四面临敌，陷入疲惫和消耗之中！尤其是对敌运输线的破坏，使坂垣师团的军需供应极度不良；食物不足，兵士们饥饱无常；弹药短缺，各种兵器的效能不能充分发挥；油料缺乏，机械化装备和其他机动车辆不能足数出动；重兵器成了兵士的负担，一门大炮要几十人推拉；晋北的10月已寒气袭人，但敌人却没有冬衣。兵士食不果腹，衣不御寒，不得不以军毯裹身，玉米充饥。还有伤兵不能及时后送，在堑壕里呻吟不已；死者不能转运，阵地上尸横枕藉。因而士气沮丧，军心动摇，坂垣实无力爬过忻口了！
正是因为120师切断了日军由大同到忻口的交通补给线，配合正面作战，才使得进攻忻口日军的弹药、油料供应濒于断绝，攻势顿挫。国民党军将领卫立煌曾在忻口会战后，佩服的说道：“八路军把敌人几条后路截断了，对我们忻口正面作战的军队帮了大忙。”