馬占山祖籍河北豐潤，嘉慶年間，其祖父馬萬龍因逃荒闖關東。[5] 1885年，馬占山生于奉天懷德（今吉林省公主嶺市）他自幼體質非常瘦弱，但由于長年經受困苦生活的磨煉，養成剛毅倔強的性格，而且膽量過人。七八歲起，就給姜家崴子屯大地主姜順牧馬，騎術精湛。
1903年12月，因被姜順誣告盜馬，憤而離家出走，在哈拉巴喇山落草為寇。
1905年，日俄戰争結束，馬占山率領同夥接受懷德縣衙的收編，成為地方遊擊隊，負責維持地方社會秩序。馬占山任哨官，駐守懷德縣城。
1908年，遊擊隊被提督張勳劃歸清政府直屬的正規部隊，移駐昌圖，在追擊陶克陶胡和白音大赉的過程中嶄露頭角。
1911年，馬占山投靠清軍奉天後路巡防營統領吳俊升，任該部四營中哨哨長。
1913年，吳俊升部改編為民國中央騎兵第二旅，馬占山被任為三團三連少校連長。
1916年，日本帝國主義支援下的蒙古巴布紮布由海拉爾南下，企圖在東北建立滿蒙帝國，馬占山随吳俊升受張作霖指令派兵鎮壓有功，晉升為營長。兩年後，随督軍吳俊升到黑龍江赴任，擢升為團長，駐防海倫。
1925年，提升為東北陸軍騎兵第十七師第五旅旅長，第二次直奉戰争爆發，奉命駐守河南新鄉。戰争結束後，回防東北。11月，爆發郭松齡倒戈事件，馬占山在新民縣白旗堡擊敗郭軍，并活捉郭松齡夫婦。因對郭作戰有功，于次年提升為騎兵十七師師長，不久被提升為騎兵第二軍軍長。
1930年，張學良宣布東北易幟後，被派往黑河，擔任警備司令，統轄沿江10餘縣防務。
1931年“九·一八”事變，馬占山在齊齊哈爾就任黑龍江省政府代理主席兼軍事總指揮，率領愛國官兵奮起抵抗日本侵略軍。他當衆宣布：“倘有侵犯我疆土，及擾亂我治安者，不惜以全力除之，以屬我保衛地方之責”。他親自視察防地，修築防禦工事，積極準備抵禦敵人的襲擊。此時，以劣紳趙仲仁為代表的親日派企圖勸馬占山向日軍投降，馬占山堅決拒絕，并表示“吾奉命為一省主席，守土有責，不能為降将軍。”
1931年11月4日晨，在7架飛機掩護下，1300餘名日軍以保護修橋為名，直趨江橋（嫩江鐵橋）中國軍隊駐地大興站，驅趕中方修橋人員，迫令守軍後撤，并強行抓去中方哨兵3名。中午，又悍然向中國軍陣地發起猛攻。馬占山當即下令抵抗，全體将士英勇戰鬥，同敵血戰三天二夜，擊退了敵人多次進犯。這就是馳名中外的江橋抗戰，是中國軍隊不顧張學良不抵抗政策而對日本侵略者的第一次大規模抵抗。馬占山奮起抗戰，深受全國人民稱贊，國内各地報紙都以大字标題報導江橋抗戰。全國各地群衆自動組織慰問團、後援會，捐錢捐物，支援黑龍江省抗戰。上海、哈爾濱等地青年學生紛紛投筆從戎，組織“援馬抗日團”，參加抗日隊伍。
日本侵略者占領東三省大部分地區後，為了建立傀儡政權——僞滿洲國，采取各種手段對馬占山進行誘降。馬占山屈服于日本侵略者的軍事威脅和政治誘惑，于1932年2月降日，就任僞黑龍江省省長，3月又任僞滿洲國軍政部長。馬占山在擔任僞職期間，想方設法不在賣國檔案上簽字，甚至自稱不識字。[6] 馬占山降日後，遭到全國人民的反對，日本侵略者對他也不放心，控制很緊，并要編遣他的軍隊。馬占山在此境況下，遂生反正之心。他利用僞省長的身份，籌集了僞滿币兩千多萬元（相當于銀元兩百萬元）、三百匹戰馬和十幾卡車物秘密送往黑河等地以備抗日之用。[6] 3月末，馬占山抓住國聯調查團欲到東北的時機，一面調查揭露日本侵略者的罪行，一面秘密布置軍事行動。4月1日，他帶領親随200餘人離開齊齊哈爾，7日抵達黑河，通電反正，再舉抗日旗幟。他随即聯合吉林的李杜、丁超和海拉爾的蘇炳文，組成東北救國抗日聯軍，設總司令部于哈爾濱，自任總司令。馬占山又傳令各縣組織義勇軍，集中于黑龍江東部各縣配合作戰。經過五個多月的轉戰，終因孤軍無援，傷亡慘重，于12月7日被迫退入蘇聯境内。
1932年4月1日淩晨，馬占山以檢閱部隊為名，率衛隊步兵一營、騎兵一營，攜帶軍政兩署關防印信、重要檔案和巨款，潛離齊齊哈爾直趨拜泉。3日，會晤李杜、丁超、宮長海、馮占海、李海青諸部代表，共同制定了攻取長春、哈爾濱、齊齊哈爾的聯合作戰計劃。7日，經克山、讷河抵達黑河，遂即通電全國，再舉義旗。為此，他聯合省内各抗日力量，成立了黑龍江省抗日救國軍總司令部，自任總司令。他還以黑龍江省政府主席兼東北邊防軍駐江副司令的名義發電表示：“與日周旋，雖馬革裹屍，亦所不惜。”5月初，他決定聯合吉林自衛軍進攻哈爾濱。15日，馬占山親自率軍向哈爾濱挺進。不料，程志遠叛國投敵，吉林自衛軍也敗退富錦、同江。是以，馬占山軍隊在日、僞軍重點圍攻之下，不得不步步退卻。6月1日，馬占山在海倫會見美國、瑞士記者，揭露僞國内幕，闡述抗戰經過及其意義。6月3日，海倫失守。此後，馬占山處境愈加困難。7月14日，日軍第十四師團和第八師團向馬占山發起總攻擊戰。馬占山被圍困在綏棱縣羅圈甸子一帶，與敵血戰3晝夜，傷亡慘重，所剩無幾，最終沖出重重包圍，收集殘部，潛入大青山。在深山密林中輾轉40餘天，曆盡千辛萬苦，脫離險境，到達龍門。10月、11月間，馬占山又與蘇炳文合作，謀劃攻取齊齊哈爾，均因敵強我弱而未果。至此，馬占山看到自己勢單力孤，已不能扭轉大局。于是，便經甘南前往海拉爾。12月4日，由滿洲裡乘火車退入蘇聯。
1933年6月，馬占山由蘇聯繞道歐洲回國，抵達上海。不久便上廬山晉見蔣介石請纓，未遂，乃于1934年8月回到天津寓居。日本駐天津特務機關，幾次企圖暗殺他，未能得逞。他多次申請抗日，不被起用。1936年10月，忽然接到蔣介石的電召，準備把他派往内戰前線。馬占山趕到西安時，正逢“西安事變”。他向張學良建議“國難關頭，勿殺害蔣介石”，并在張學良、楊虎城發表的《對時局宣言》上簽名。張學良委任他為抗日援綏騎兵集團軍總指揮。他立即編組總指揮部，指令所屬部隊集結，後因張學良被扣，此舉亦即終止。
1937年7月7日盧溝橋事變後，馬占山赴南京請命，直至8月21日才被任為東北挺進軍司令（後改任東北挺進軍總司令），兼理東北四省招撫事宜。馬占山在極端困難的情況下，趕赴綏遠、大同，把隊伍組建起來。之後，配合傅作義抗日，積極參加了綏遠保衛戰、陰山血戰。
1938年8月下旬，馬占山通路延安。在延安各界盛大歡迎晚會上，毛澤東主席緻歡迎辭說：“八年之前紅軍已與馬将軍成為抗日同志”、“馬将軍年逾半百，仍在抗戰前線與敵周旋，這種精神值得全國欽佩”。
1940年5月3日，國民政府委任馬占山為黑龍江省政府主席，後被選為國民黨中央候補執行委員。
1945年抗日戰争勝利後，馬占山又被任為東北行營政治委員會委員。9月初，他受蔣介石之命，率部配合傅作義部進犯綏東和察西等解放區。不料，他的部隊渡過黃河，第一次與共産黨上司的軍隊打仗，就在平綏路柴溝堡一帶被打得大敗。不久，就稱病避居北平。
1946年10月，他被調任東北副司令長官，但他仍在北平養病，未去就職。1947年4月17日，馬占山到達沈陽。20日，在市府廣場召開的歡迎大會上，他接受各界贈給他的抗日“民族英雄”大錦旗一面。在職期間，他深感自己這個挂名副司令，連動一兵一卒的實權都沒有。另外，他認為大勢已去，蔣介石必敗，于是以治病為名，于1948年10月下旬，乘機飛往北平。
1948年底，馬占山響應共産黨号召，參與和平解放北平的活動。中共北平地下黨通過馬占山邀請鄧寶珊去北平，勸告傅作義放下武器，接受和平。1949年1月上旬，馬、鄧、傅3人經過多次商議，決定響應和平解放北平的号召，宣布起義。 1950年6月初，毛澤東主席派人電邀馬占山出席中國人民政治協商會議全國委員會一屆二次會議。馬占山因患肺癌，不能行動，未能出席。
1950年11月29日，馬占山病逝于北京寓所，終年65歲。中國人民政治協商會議、政務院送了挽聯和花圈，中央人民政府副主席李濟深親自送靈，把他安葬在北京西郊萬安公墓。