馬占山在此境況下，遂生反正之心。他利用偽省長(zhǎng)的身份，籌集了偽滿(mǎn)幣兩千多萬(wàn)元（相當(dāng)于銀元兩百萬(wàn)元）、三百匹戰(zhàn)馬和十幾卡車(chē)物秘密送往黑河等地以備抗日之用。

3月末，馬占山抓住國(guó)聯(lián)調(diào)查團(tuán)欲到東北的時(shí)機(jī)，一面調(diào)查揭露日本侵略者的罪行，一面秘密布置軍事行動(dòng)。4月1日，他帶領(lǐng)親隨200余人離開(kāi)齊齊哈爾，7日抵達(dá)黑河，通電反正，再舉抗日旗幟。

他隨即聯(lián)合吉林的李杜、丁超和海拉爾的蘇炳文，組成東北救國(guó)抗日聯(lián)軍，設(shè)總司令部于哈爾濱，自任總司令。

馬占山又傳令各縣組織義勇軍，集中于黑龍江東部各縣配合作戰(zhàn)。經(jīng)過(guò)五個(gè)多月的轉(zhuǎn)戰(zhàn)，終因孤軍無(wú)援，傷亡慘重，于12月7日被迫退入蘇聯(lián)境內(nèi)。

1932年4月1日凌晨，馬占山以檢閱部隊(duì)為名，率衛(wèi)隊(duì)步兵一營(yíng)、騎兵一營(yíng)，攜帶軍政兩署關(guān)防印信、重要文件和巨款，潛離齊齊哈爾直趨拜泉。

3日，會(huì)晤李杜、丁超、宮長(zhǎng)海、馮占海、李海青諸部代表，共同制定了攻取長(zhǎng)春、哈爾濱、齊齊哈爾的聯(lián)合作戰(zhàn)計(jì)劃。7日，經(jīng)克山、訥河抵達(dá)黑河，遂即通電全國(guó)，再舉義旗。為此，他聯(lián)合省內(nèi)各抗日力量，成立了黑龍江省抗日救國(guó)軍總司令部，自任總司令。

他還以黑龍江省政府主席兼東北邊防軍駐江副司令的名義發(fā)電表示：“與日周旋，雖馬革裹尸，亦所不惜?！?月初，他決定聯(lián)合吉林自衛(wèi)軍進(jìn)攻哈爾濱。15日，馬占山親自率軍向哈爾濱挺進(jìn)。不料，程志遠(yuǎn)叛國(guó)投敵，吉林自衛(wèi)軍也敗退富錦、同江。

因此，馬占山軍隊(duì)在日、偽軍重點(diǎn)圍攻之下，不得不步步退卻。6月1日，馬占山在海倫會(huì)見(jiàn)美國(guó)、瑞士記者，揭露偽國(guó)內(nèi)幕，闡述抗戰(zhàn)經(jīng)過(guò)及其意義。6月3日，海倫失守。此后，馬占山處境愈加困難。7月14日，日軍第十四師團(tuán)和第八師團(tuán)向馬占山發(fā)起總攻擊戰(zhàn)。