在肅清敵僞殘餘、維持社會治安方面，抗聯在東北各地建立的民主大同盟起到了重要作用。日本投降後，東北地區僞滿洲國的漢奸、走狗、警察、特務等敵僞殘餘分子和反動地主、資本家以及反動會道門（如一貫道、青洪幫等）的頭目等，同國民黨派到東北來的特務分子糾合在一起，四處活動，組織所謂"維持會"、"解放同盟"、"解放會"、"敵産清理委員會"等名目繁多的反動組織，妄圖控制整個東北局勢，等待國民黨政府來"接收"。他們有的掌握新聞、出版機關，有的掌握工廠，有的還掌握了武裝部隊，進行反蘇、反共宣傳和武裝挑釁活動，破壞社會治安，危害人民生命、财産的安全。早在大反攻之前，抗聯上司人估計到将來鬥争的需要，就曾準備在反攻到東北後恢複"東北人民反日救國總會"這一組織，但由于形勢發展迅速，該組織業已過時，東北黨組織委員會決定在各地建立民主大同盟組織。民主大同盟的主要成分，一是反攻到東北各地的抗聯人員，二是由于各種原因同黨組織失去聯系的中共地下黨員；三是當地愛國進步人士，包括工、農和知識分子等各階層人物。這些人在我黨的上司下組織起來就是一支革命力量。
民主大同盟的盟員多是本地人，同人民群衆聯系密切，又熟悉反動分子的罪惡曆史，常常能夠起到蘇聯軍事當局所起不到的作用。有些敵僞人員冒充國民黨黨部，利用群衆中存在的"正統"觀念以售其奸，到處召開反共擁蔣的集會。民主大同盟盟員到場一揭他們的老底，他們就原形畢露，成了過街老鼠，蘇軍當局便可以明令取締或逮捕之。民主大同盟在進行偵緝戰争罪犯、取締反動組織、消除敵僞殘餘、調解民事糾紛等項活動中起了重要作用，使東北許多地方的革命秩序得到了維持。
東北雖然光複了，但日僞殘餘勢力同國民黨勢力糾合在一起，組織了各種名目的"維持會"、"解放同盟"、"敵産清理委員會"等反動組織，建立起了各種"先遣軍"、"挺進軍"等反動武裝。趁蘇軍剛剛入境，各方面情況不是十分明了，他們在東北地區興風作浪，打黑槍、鬧暴動、暗殺幹部群衆，一時間，東北地區槍聲日夜不停，社會秩序極為混亂，甚至駐長春的蘇聯遠東軍總司令部駐地也遭到歹徒襲擊。為了鎮壓反動勢力，勝利地同國民黨開展争奪政權的鬥争，中共東北委員會和抗聯上司人從一開始就十分重視開展建立武裝隊伍的工作。抗聯人員在到達東北各戰略城市之後，都把建立武裝隊伍作為頭等大事，不曾有絲毫放松，工作相當出色。
要建立武裝隊伍。首先要有大批武器裝備，抗聯人員則不遺餘力地籌集武器裝備。長春，周保中在率隊到達該市的第二天，就向蘇聯遠東軍總司令華西列夫斯基要求："我要擴軍，你要支援我們武器啊！"
聽完周保中的請求，華西列夫斯基元帥會意地笑了笑說："可盡你的力量拿，你能拿多少，就拿多少，剩下的歸我。這是咱們的勝利品，我們分用。既然是戰利品，《中蘇友好同盟條約》又沒有規定将戰利品交國民黨，是以我隻能交給它（國民黨）武器庫房，交給它長春市。"
接着，華西列夫斯基說："我立即通知所有蘇軍把守的武器庫房，讓他們隻要見到你的條子，就立即幫你們運武器。"
周保中立即向進駐東北各戰略要點的抗聯負責人、當地蘇軍衛戍區副司令，下達了十萬火急的指令："搶運武器，擴充軍隊！"
接到周保中的指令，各地的抗聯人員積極行動起來，利用他們的特殊身份争取蘇軍支援武器彈藥，幫助建軍。王一知在回憶長春市的擴軍工作時說："我們從長春市運出了大批武器，我就曾經參加過押運武器的工作，接連幹了好幾天。押送武器時，我們穿的是蘇聯軍裝，用的是蘇軍汽車，國民黨武裝、警察不敢阻攔。我們利用搞到的大批武器着手建立軍隊。"
當年專門負責從蘇軍看守的軍火庫搬運武器的抗聯戰士陳春樹也得意地回憶說："我身穿蘇軍軍裝，又佩上尉軍銜，辦事很友善。我在到達長春後的兩個月時間裡，每天都安排人從軍火庫中往外搬運武器，然後再發給新編的衛隊和關内來的八路軍、新四軍幹部。"到10月15日，長春已被運出的武器計有：步槍近六萬支，輕機槍二千餘挺，重機槍800挺，擲彈筒五百餘具，迫擊炮二十餘門，山炮、野炮5門，彈藥一千二百餘萬發。
與此同時，在各戰略要點上的抗聯人員也積極争取當地蘇軍支援武器裝備。當時搶占齊齊哈爾市的抗聯人員得知蘇軍在昂昂溪一帶存有收繳來的日軍一個團的武器時，王明貴立即向蘇軍團長契什科夫提出請其協助籌集武器的要求，在得到同意後，王明貴親自率隊将這批武器押運到齊齊哈爾。他們就是用這些武器建立了一支2500人的武裝隊伍，這支隊伍後被周保中任命為嫩江省人民自衛軍。
蘇軍的中、下級軍官對于抗聯人員搞武裝的行動，給予了充分的了解與支援。在北安省，蘇軍北安衛戍區副司令、抗聯人員王鈞正為裝備省公安大隊而焦急的時刻，蘇軍駐海倫衛戍區司令米特洛夫上校來電話告知王鈞，從哈爾濱市開出一列軍車，裝載的盡是日軍的武器彈藥，現正停在北安車站。米特洛夫甚至告訴了他車皮号碼。王鈞興奮不已，立即找到蘇軍駐北安車站的鐵路司令波波夫，提出要武器的問題，波波夫不但表示同意，還專門把這兩節車廂調到專用線上。王鈞連夜組織六十多輛馬車搶運。以後，他們就是用這些武器裝備了北安省公安大隊。
有些地方的抗聯人員則是靠發動群衆、收繳敵僞和民間槍支彈藥建立武裝隊伍的。延邊人民自治軍就是蘇軍延吉衛戍司令部副司令姜信泰發動群衆收繳敵僞5000支步槍，200挺輕機槍及其他武器裝備起來的。為了獲得更多武器裝備自己，抗聯人員和人民群衆付出了很大犧牲。搶占北安的抗聯人員朱振山等6人，在克東縣玉崗區收繳大地主喬文彬的武器時，被其暗算，朱振山等6人慘遭殺害。
李兆麟為松花江地區各地的建軍工作做出了巨大努力。北安我抗聯人員為組建軍隊獲得一車皮武器，是與李兆麟向米特洛夫提出這方面要求分不開的。他還為黨中央派往北滿、西滿地區的幹部和軍隊籌集了大量武器裝備及物資。當得知蘇軍在綏化地區擔任衛戍司令的軍官不協助抗聯建軍的工作後，他便親自出面向遠東軍上司機關反映情況，提出意見。不久該地蘇軍衛成司令易人，綏化地區的建立人民武裝等各方面工作得以順利開展。
在抗聯搶占各戰略要點時，有些地方由于日軍投降，廣大群衆得到一些武器，便自動組織起各種形式的武裝隊伍，其中也有些隊伍是以抗聯老遊擊隊員為骨幹組織起來的。戰鬥在各戰略要點上的抗聯人員便積極按周保中的訓示，采取"收編"、"委托"等方式進行擴軍。這應該說是在複雜形勢下的一種宜之計。抗聯上司人當時估計，日本投降後，東北将有幾十萬支槍散布于民間。利用這些武器成立的各種武裝隊伍是很普遍的，應當把這些隊伍收編過來，而不能留給國民黨。抗聯人員在各地均以蘇軍衛戍區司令部名義進行收編安撫，發委任狀。如佳木斯市抗聯負責人彭施魯就收編了由原抗聯第6軍史春儒組織的隊伍三千餘人，這支隊伍以後編為三江人民自治軍一個團。他們還收編了抗聯第6軍趙凱良組織的500人隊伍。這種做法事實證明有利有弊，由于成分不純，一些國民黨分子混入隊伍做破壞工作，有的收編隊伍後來投靠了國民黨。但抗聯人員在初建武裝時期或後來發展武裝時期，對于壯大人民力量、打擊反動勢力起到了重要作用。在有些地方，抗聯人員則公開發動群衆，公開招兵買馬，發展武裝。如巴彥縣蘇軍衛戍司令部副司令張祥，得知日本人在東山裡有糧食倉庫，為擴大抗聯影響，決定開倉放赈，趁機号召群衆參軍入伍。他們随後在縣城設立兩處招兵站，很快組織了百餘人的隊伍，用收繳的僞警察大隊百餘支步槍武裝起來。幾天工夫，隊伍就發展到一千五百餘人，成立了3個營。
當然，由于建軍、擴軍進展太快，工作中也發生一些缺點錯誤。有的抗聯幹部缺乏警惕性，對收編隊伍的成分複雜性認識不足，使一些國民黨反動勢力和敵僞殘餘分子混入隊内。這些人盡力煽動，隊伍發生叛變。也有的抗聯幹部經不起新鬥争的考驗，進城後忘記了艱苦奮鬥的革命傳統，開始腐化堕落，甚至率隊投敵叛變，如依蘭蘇軍衛戍區司令部副司令楊清海的叛變就是一例。但絕大多數抗聯人員的建軍、擴軍工作取得了巨大成績，特别是有許多同志為黨的事業獻出了自己的生命。他們忠貞不渝、始終如一地為人民利益犧牲個人，這是無産階級的最高品質。
鑒于日本已投降，抗聯的任務已由抗日轉變為保衛抗日戰争勝利果實，同國民黨反動派挑動内戰的行為作鬥争。到9月中旬，東北抗日聯軍改名為東北人民自衛軍，并相繼任命了哈爾濱、齊齊哈爾、北安、佳木斯、牡丹江、吉林、延吉等地人民自衛軍負責人。到10月中旬，東北人民自衛軍編制已達四萬人以上。長春地區建有步兵5個團、騎兵2個連，其中長春市3個團，吉林、波河各1個步兵團。延吉建立延吉警備軍4個團，敦化建立人民自衛軍1個大隊，旅大建立人民自衛軍警衛1隊和警衛2隊。沈陽建立人民自衛軍勞工第1軍1個團。松江地區成立4個警備大隊。龍江地區成立了警備大隊。北安、綏化、海倫、龍江各有警備軍1個團。其他市、縣普遍建立了不同數量的警察隊伍。這支隊伍在打擊日僞勢力，維護社會治安以及後來在同國民黨争奪東北的戰争中，發揮了重要作用。
從此，經曆了14年浴血奮戰的東北抗日聯軍正式結束了其光榮的鬥争曆史，改編後的東北人民自衛軍同黨中央派到東北的部隊合編為東北人民民主聯軍，又投身于解放東北、解放全中國的偉大鬥争中，這支隊伍便成為後來在解放戰争中赫赫有名的中國人民解放軍第四野戰軍的組成部分。