1905年，日俄戰(zhàn)爭結(jié)束，馬占山率領(lǐng)同伙接受懷德縣衙的收編，成為地方游擊隊，負責(zé)維持地方社會秩序。馬占山任哨官，駐守懷德縣城。

1908年，游擊隊被提督張勛劃歸清政府直屬的正規(guī)部隊，移駐昌圖，在追擊陶克陶胡和白音大賚的過程中嶄露頭角。

二、投靠奉軍

1911年，馬占山投靠清軍奉天后路巡防營統(tǒng)領(lǐng)吳俊升，任該部四營中哨哨長。

1913年，吳俊升部改編為民國中央騎兵第二旅，馬占山被任為三團三連少校連長。

1916年，日本帝國主義支持下的蒙古巴布扎布由海拉爾南下，企圖在東北建立滿蒙帝國，馬占山隨吳俊升受張作霖命令派兵鎮(zhèn)壓有功，晉升為營長。兩年后，隨督軍吳俊升到黑龍江赴任，擢升為團長，駐防海倫。

1925年，提升為東北陸軍騎兵第十七師第五旅旅長，第二次直奉戰(zhàn)爭爆發(fā)，奉命駐守河南新鄉(xiāng)。戰(zhàn)爭結(jié)束后，回防東北。11月，爆發(fā)郭松齡倒戈事件，馬占山在新民縣白旗堡擊敗郭軍，并活捉郭松齡夫婦。因?qū)鲬?zhàn)有功，于次年提升為騎兵十七師師長，不久被提升為騎兵第二軍軍長。

1930年，張學(xué)良宣布東北易幟后，被派往黑河，擔(dān)任警備司令，統(tǒng)轄沿江10余縣防務(wù)。

三、江橋抗日

1931年“九·一八”事變，馬占山在齊齊哈爾就任黑龍江省政府代理主席兼軍事總指揮，率領(lǐng)愛國官兵奮起抵抗日本侵略軍。他當眾宣布：“倘有侵犯我疆土，及擾亂我治安者，不惜以全力除之，以屬我保衛(wèi)地方之責(zé)”。