抗日戰争時期，中國人民被日本鬼子逼入了絕境，素有山東好漢之稱的棗莊附近的鐵路勞工和煤礦勞工紛紛揭竿而起，王強是臨城車站對面正泰洋行裡的工頭，洋行裡的三個掌櫃對外是商人，實則是日本特務。這天晚上收工後，王強帶着老洪還有彭亮騙過車站内鬼子的哨兵，悄悄溜進了洋行，一番手起刀落便神不知鬼不覺刀劈了3名特務。之後3個人穿上鬼子軍裝，趁鬼子運兵車進站混入其中，但在離開時卻遇到了李九，李九也穿了一身鬼子軍裝，不過他沒有離開，而是等鬼子被轉運走後，槍殺了3名巡邏的士兵。李九自幼習武，人稱九哥，他爹是被鬼子殺害的，藝高人膽大的他一心想要為他爹報仇。幾聲槍響之後，車站内的鬼子迅速向其開火，一番激烈交火，九哥雖憑借身手靈活、勇武過人，殺了鬼子一個措手不及，但因寡不敵衆，逃跑時慌不擇路跳進了王強3個人在車站旁住的院子。3個人掩護他騙過搜捕的鬼子後，老洪便拉他入夥一起打鬼子，但九哥獨來獨往慣了，謝絕了3個人的好意。
時間來到第二天，王強與衆腳夫發現掌櫃遇害，故作驚訝并迅速報告了鬼子，不料鬼子特務隊長崗村，竟然懷疑是他和腳夫們幹的。于是王強在鬼子面前，一面說是自己救了3掌櫃，一面裝出堅決擁護大東亞共榮圈的幹活，總之一波出神入化的表演，崗村竟然沒殺他。王強以為自己裝出一副無辜樣子，鬼子已經相信了他和大家，便打算帶領兄弟們幹活去，想不到他剛走出屋子，鬼子一陣亂槍就把十多個手無寸鐵的腳夫打死在了他眼前。看着眼前這殘忍的一幕，悲憤交加的王強雖血往上湧，卻隻能低聲痛罵崗村毫無人性。這件事後，忍無可忍的老洪把附近鐵路和礦上有血性的英雄好漢召集在一起，成立了義合碳廠，決意壯大隊伍一起打鬼子。開業這天不僅九哥來了，他們還請了一位管賬先生李正，隻是大家一提合夥的事九哥再次轉身離去。不成想九哥剛走，又來了一個砸場子的秦雄，他先是說大家都是吃兩條線的，大家吃稠的也得給他留碗湯，接着不僅把手中的碗摔了，還要強行入夥。
秦雄欺行霸市臭名遠揚，跟大家根本不是一路人，老洪壓根也沒睬他。不料一言不合，他不僅口出狂言還先動上手了。但李正根本就不慣着他，而是一個擒拿外加一個反手直接把他甩到了台下。之後李正有禮有節，良言相勸，秦雄眼見讨不到便宜，便帶着手下悻悻離去。
不久老洪趁着夜黑風高娶了一個媳婦，由于過去都是媒妁之言，結婚前新娘子根本不知道新郎長啥模樣，再加上這婚結得偷偷摸摸，洞房之夜新娘子竟然嘤嘤嗚嗚，因為害怕哭了起來。得知是害怕老洪是山大王，老洪便跟他交了底，芳林嫂這才知道，他們是八路軍的飛虎隊（鐵道遊擊隊），從此便死心塌地夫唱婦随。當天晚上，想要報仇的九哥因沒有找到崗村，便來到車站内的日軍澡堂，血洗了正在洗澡的鬼子。一周後，等正泰洋行的三掌櫃大難不死出院後，王強又從他口中探聽到，新任大掌櫃山口旅團長不日将來此上任。于是遊擊隊掐準時間在一個月黑之夜，扒上了山口乘坐的列車，并僞裝成日軍士兵将山口旅團長一行全數擊斃。天亮後列車進站，可面對盛大的歡迎儀式，列車不僅不開車門，還一直向前不停。崗村發覺異常，趕緊停下列車，可打開車門一看，發現裡面竟然是一堆屍體，瞬間把三掌櫃吓得說啥都要回日本。為此崗村被其長官一頓大耳光猛抽，并責令其限期破案，務必剿除飛虎隊。轉眼秦雄就成了崗村的座上賓，一開始面對崗村的毒打，秦雄十分硬氣，連聲謾罵小日本八輩祖宗。可軟骨頭終究經不住兇殘至極小鬼子的毒打，得知老洪才是飛虎隊，第二天崗村就帶着大批日軍興師動衆撲向了義合碳廠。一番暴風驟雨外加地動山搖的炮火，碳廠就被他們端了，隻是飛虎隊早已人去屋空，他們連個屁味都沒聞見。
随着風聲越來越緊，飛虎隊勸九哥也先避避風頭，可九哥獨來獨往慣了，再次謝絕了他們的好意。這天急眼的崗村因找不到九哥，便帶人闖到九哥家裡，把他未圓房的妻子青青當成了發洩對象。得知妻子被禽獸們淩辱，九哥帶着青青對日軍展開了報複，固然其威武不屈的性格值得贊賞，但其不知變通的孤傲，也将兩個人葬送在了鬼子的槍口下。最終青青被亂槍打死，孤膽英雄被鬼子用炮崩死。眼見鬼子越來越嚣張，飛虎隊找到了臨城車站的張副站長，張副站長的妻子剛剛差點被鬼子站長玷污，其在鬼子手下幹活早就受夠了窩囊氣。就這樣張副站長提供情報，我飛虎隊員再次趁鬼子運兵喬裝打扮，蒙混其中。弄清了崗村屋内的守衛情況，當天晚上，列車一離開，老洪就和彭亮一起大搖大擺通過站台，幹掉門口崗哨的衛兵後，兩個人闖入屋内不容分說就将崗村亂槍打死。之後兩個人飛奔而出，與飛虎隊裡應外合兩面夾擊鬼子，兩個人利用鬼子的工事正面抗擊，其他隊員則駕駛一輛列車過站，從車上向下射擊，一番前後夾擊，猝不及防的小鬼子便死傷慘重。這次他們不僅狠狠打擊了小鬼子，還毫發無損全身而退。
再次遭受沉重打擊的小鬼子，又迎來了新任特務隊長松尾，松尾一上任，就陰毒狡詐地使出了用中國人打中國人的計謀。在他的一手操辦下，秦雄不僅再次梳起了中分頭，還搖身一變成了特務隊長。松尾抓住他就好女人這口的弱點，用東洋女人将其消磨得服服帖帖。很快他就帶着特務隊不僅打擊報複與鬼子為敵的百姓，還強搶民女無惡不作，到處以飛虎隊的名義打家劫舍為非作歹，想不到這群人渣打小日本是孬種，欺負自己人一個比一個豪橫。這天他帶着特務隊在一片林子裡遭遇了老洪和另一名隊員，這幫龜孫不容分說拔槍就射，一開始老洪沒弄清對方來頭，可打着打着，秦雄這個畜生竟然自報了家門。眼看狗雜種想要活捉自己，兩名隊員将計就計起身，并突然一陣亂槍打了特務隊一個防不勝防。趁着這幫沒種的軟蛋再不敢輕舉妄動，兩個人借機逃脫。但在戰鬥中受傷的老洪卻一直昏迷不醒，眼看沒有西藥不行，鬼子又對藥物管控極嚴，王強決定自己進城找熟人搞點西藥。可沒想到藥店老闆人面獸心，表面上一團和氣熱情相助，背地裡卻通知了鬼子。結果他帶着王強前去取藥時，王強遭遇了鬼子埋伏，發現老闆勾結日寇，王強手起槍落先把他斃了，但他自己也壯烈犧牲。
随着漢奸走狗賣國賊越來越多，飛虎隊又增加了一項除奸任務，第一個要除的就是秦雄。這天晚上秦雄正在摟着女人睡覺，老洪就帶人毫不留情把他處決了。盛怒之下，老洪非要帶人去城裡找松尾算賬，但政委卻在院子外攔下他，要他先解決山裡八路軍的過冬棉衣問題。就在政委勸說他以大局為重時，黃二經不住秦雄床上女人的誘惑，竟然春心蕩漾也跑到了床上。遲遲不見黃二出來，魯漢帶人傳回屋内，正好撞見黃二的醜事，一怒之下他不僅抽了黃二，還命人當即把他綁了起來。然而就在飛虎隊偷梁換柱，把日軍的布匹掉包時，被關在道班裡的黃二聽到有列車駛來借機撒尿，讓看守他的隊員為他松了綁繩。結果卻成蒸汽機車頭一大團蒸汽排出時，借機爬上列車逃了，并于當天晚上叛變投敵，指認是張站長協助飛虎隊劫走了2節車廂的布匹。事情敗露後，松尾打算收買張站長将飛虎隊一網打盡，但張站長甯死不屈，被松尾殺害。
第二天，黃二又成了特務隊長，并在一處村子内伏擊了魯漢帶領的短槍隊。一番激戰，隊員隻剩下了魯漢兩人，然而兩個人剛逃出村子，又在山坡上落入日軍的虎穴。兩個人雖浴血拼殺，終因寡不敵衆開槍自殺。隊員們趕到時，隻剩下了兩具冰冷的屍體。悲憤交加的隊員，為給魯漢他們報仇，開始四處蹲點。這天正當叛徒黃二帶人到煤礦附近的牌場裡為非作歹時，被彭亮逮了個正着，彭亮眼疾手快一陣噼裡啪啦槍響，罪該萬死的黃二就見了閻王。一連兩個特務隊長都被飛虎隊打死，惱羞成怒的松尾把老洪的妻子芳林嫂劫持到了日軍營區，面對陰險歹毒松尾的威逼利誘，芳林嫂自始至終未曾開口。勸降未果，松尾将其送到了慰安所。而得知松尾抓走芳林嫂的老洪，很快便帶着飛虎隊突襲了日軍據點，隊員們也将心中積壓已久的怒火全都傾瀉在了小鬼子頭上，但他們找遍四周也沒有找到芳林嫂。
事情發生後，松尾眼見飛虎隊神龍見首不見尾，又派人給老洪送了一封信，想要與老洪談判。戰友犧牲了，妻子被松尾抓了，悲憤的老洪根本不想談判，他隻想殺了松尾。老洪說話算話擲地有聲，對待狗日的小鬼子，那是絕不手軟。不久他就帶領飛虎隊趁夜色掩護，劫持了日軍的彈藥車，這次他們要利用火車上的彈藥把準備轉運的1000多小鬼子全都送回日本老家。迫于黑洞洞的槍口壓力，松尾的長官給車站發出了集合、準備上車的指令。等列車即将進站時，提前混入車站的幾名飛虎隊員又打死日軍巡邏士兵，變換了列車道軌。就這樣不該進站的列車，突然駛入了車站，松尾發現異常，阻攔未果，直接命人向列車車頭掃射。彭亮不幸中彈負傷，但他硬是強忍着傷痛把列車開進車站，并引爆了一火車的炸藥。松尾、車站、鬼子的工事，連同1000多名準備轉運的鬼子，頃刻間全都灰飛煙滅了。
今天，雖說戰争已經過去了70多年，但鐵道遊擊隊的大名中國人早已家喻戶曉。它最早發起于1938年，正式建立于1940年，一開始叫魯南鐵道隊，隸屬于八路軍115師蘇魯支隊，主要活動于津浦鐵路和臨棗鐵路連接配接處的棗莊微山湖地區。電影中的老洪、政委、王強、彭亮等等，以及刀劈日本洋行掌櫃，刺殺日本特務隊長，劫掠日軍布匹，鏟除漢奸叛徒，均有故事原型。1945年8月，本投降後，臨城一帶的日軍拒絕向鐵道遊擊隊繳械。10月，日軍鐵甲列車駛出車站，途中我鐵道遊擊隊将去路和退路雙雙炸毀，緻使進退兩難的日軍在野外忍饑挨餓3天後，帶着1000多名日軍向我不足百人的飛虎隊繳械。代表八路軍接受投降的，是時年23歲的政委鄭惕。12月鐵道遊擊隊解散，部分隊員并入華東野戰軍，開始了新的使命。
電影《飛虎隊》上映于1995年，由大陸香港聯合出品，四川峨眉電影制片廠攝制，彙集了李雪健、李幼斌、張豐毅、王志文、李強、潘長江等一衆影帝和老戲骨，他們殺鬼子幹脆痛快絕不手軟，可以說這是一部蕩氣回腸快意恩仇的動作片，從中不難看出，隻有對敵人毫不手軟，讓其付出比作惡更高的代價，才能懾其魂魄，讓其心存忌憚。以史為鏡，無論何時何地，何種境況，隻要我們不做軟骨頭，血性還在，敵人再強大，也終将被我們打敗。