民國時期，在西北地區有一支特殊的大軍閥，這支部隊就是以馬步芳為首的青馬武裝，和以馬鴻逵為首的甯馬。馬步芳率領的青馬武裝主要控制青海，甘肅一帶，馬鴻逵率領的甯馬武裝主要控制甯夏一帶，這兩支武裝力量中，馬步芳率領的青馬要比馬鴻逵率領的甯馬戰鬥力強悍很多，馬步芳還有當時全國規模最大，戰鬥力最強悍的騎兵武裝。
馬家軍的曆史很悠久，同治年間，甘肅河州的馬占鳌率領部隊起兵叛亂，打敗了湘軍，但是最後馬占鳌力排衆議，又率領所部歸降了清軍。民國時期，馬占鳌的後代逐漸退出曆史舞台，但是馬占鳌的兩員大将，馬千齡和馬海晏的後代逐漸發展壯大，成為了後來以馬步芳為首的青馬和以馬鴻逵為首的甯馬武裝，這兩支馬家軍武裝裡，馬步芳的青馬勢力是最大的。
1936年10月，紅軍為打通陝北到蘇聯的路上通道，抽調紅四方面軍兩萬多名官兵組成西路軍，由徐向前，陳昌浩指揮，向河西走廊進發。但是西路軍在西征途中并不順利，由于西北地區廣闊幹旱，再加上沒有群衆基礎，西路軍官兵遭到了馬家軍騎兵的圍追堵截，損失慘重。西征途中，除了李先念帶着幾百人一路退到了新疆，其餘部隊幾乎全部損失殆盡，遇害的團以上軍官高達143人，師以上官兵有20多人，對紅軍來說是一個前所未有的打擊，
抗戰時期，馬步芳先後派出兩個騎兵師作戰，馬家軍騎兵戰鬥力之強悍，連日軍都十分膽寒。在周口到界首一帶的黃泛區，馬家軍對日軍造成了重大傷亡。在激烈的戰鬥中，還出現了馬家軍官兵不願意投降日軍，數百騎兵跳河自殺的壯舉。
解放戰争初期，彭總率領西北野戰軍曾經和馬步芳率領的青馬武裝交過手，但是遭到了很大損失，青馬的戰鬥力要比胡宗南所部強悍很多。太原戰役結束之後，西北野戰軍的兵力得到了補充，彭總率領西北野戰軍向西北進發。馬步芳率領的甯馬和解放軍各級将領有着很大的仇恨，是以在解放西北之前，彭總就接到了軍委的訓示，不接受馬家軍任何形式的起義，不能收編馬家軍投降部隊。
1948年8月，中國人民解放軍第一野戰軍在彭德懷的率領下，發起蘭州戰役。第一野戰軍以傷亡8700人的代價殲敵2.7萬人，徹底打垮了馬步芳率領的青馬武裝，馬步芳父子逃到了台灣，最後又輾轉他國，客死他鄉。