日本侵占东北，实行残酷的殖民统治，激起东北人民的无比仇恨。从日本关东军的铁蹄踏入沈阳那天起，东北人民就同日本侵略者展开了不屈不挠的抗争。特别是中国共产党领导的抗日武装斗争虽然经历挫折，却始终没有停息。

１９３１年９月２７日，流亡到关内的东北各阶层知名人士成立“东北抗日救国会”，由卢广绩、高崇民、王化一等人负责。救国会多次揭露日本鲸吞中国东北的阴谋；派出大批政工干部回东北各地协助义勇军进行抗日斗争；创办《东北通讯》、《复巢月刊》和《救国旬刊》等救亡刊物来唤醒民众的抗日觉悟。１１月５日，救国会组织６００余人的请愿团到北平车站卧轨，向旅客做抗日宣传，终于将南下列车变成了请愿专列。１０日，请愿团抵达南京，冒着倾盆大雨，饥肠辘辘，要求躲避不见的蒋介石出来接见。

一些地区的工人、农民使用原始武器，利用宗教行会活动，组织了“大刀会”、“红枪会”、“黄枪会”、“救世军”等武装，进行抗日斗争。东北工人还使用各种手段打击日本侵略者。沈阳工人不畏强暴，坚持罢工。兵工厂的工人不愿替敌人生产屠杀同胞的武器，３万多人离厂。吉海铁路工人炸桥梁、推扒军车，撬铁轨，使日军的运输线一时陷于瘫痪。中东铁路中国工人用转移机车和车辆的方法来阻碍日军的行动。大连码头、机车铁道工人组成“大连放火团”，专门放火焚烧日军军用物资。他们使用一种香皂形的固体定时爆燃火药，曾创造了一个月内烧毁大连码头四个主要仓库的最好战绩。

与此同时，不愿做奴隶的各阶层人士，纷纷高举义旗，拿起土炮、洋枪、大刀、长矛，掀起了汹涌澎湃的反侵略反压迫的武装斗争浪潮。在白山黑水之间，遍地燃起民族解放战争的抗日烽火；从城市到乡村，到处发出打倒日本帝国主义的吼声。各种抗日武装如游击队、义勇军、红枪会、大刀会、山林队等像雨后春笋般纷纷出现。

起初，进行武装抗日的力量主要是东北军，在东北军的抗日活动失败以后，则主要是原东北军部分爱国官兵和各阶层人民组成的义勇军。

　　在“九一八”事变后一年多的时间里，义勇军如燎原之火，发展迅猛，但无统一指挥，各不相属，各自为战，名称不一。有“东北民众自卫义勇军”、“民众救国军”、“抗日义勇军”、“民众自卫军”、“山林反日游击队”等。这些抗日武装成分比较复杂，其中农民约占５０％；原东北军的军警官兵约占２５％；曾当过绿林土匪的约占２０％；知识分子和工人、商人、绅士、地主约占５％，他们是这个时期东北抗击日本侵略者的主要力量。

当时，义勇军反日斗争如火如荼。由于日本的侵略魔爪首先伸向辽宁，因此辽宁人民率先组织抗日武装，主要有黄显声领导的辽西义勇军，又称东北民众抗日义勇军；包善一、韩色旺领导的辽北义勇军，又称辽北蒙边骑兵；李纯华领导的辽南义勇军，又称东北民众抗日救国军；唐聚伍领导的辽东义勇军，又称辽宁民众自卫军；铁梅领导的东北民众自卫军；苗可秀领导的中国少年铁血军。

吉林省的义勇军战斗力强，主要有李杜、冯占海等率领的吉林自卫军；王德林率领的吉林国民救国会，又称中国国民救国军；冯占海和李文光率领的吉林省抗日义勇军。黑龙江省的义勇军有苏炳文领导的东北民众救国军；李海青领导的民众自卫军；朴炳珊和邓文领导的黑龙江抗日军，又称黑龙江省民军。

１９３２年，义勇军经过血战，从侵略军手中夺回县城４０多座，曾一度在部分地区消灭或驱逐了日军的侵略势力。在辽东南的丹东、岫岩、凤城之间方圆百余里；松花江以南，哈长线以东，延边及吉敦路以北等１３个县区，东边道的通化、桓仁、临江、辑安、柳河、金川、辉南、宽甸、新宾、清源等重要县城，都曾成为义勇军的根据地或控制的地区。

对于东北人民的抗日斗争，中国共产党积极地进行了组织和引导。中国共产党站在领导全国人民抵抗日本侵略的第一线，提出了坚决抗日的纲领。

自“九一八”事变的第二天起，中共中央和满洲省委为日本帝国主义强占东北曾连续发表宣言，作出决议，揭露日本的侵略罪行和南京政府不抵抗的可耻行径，表明中国共产党领导全国人民和东北同胞誓死反抗日本帝国主义侵略和将侵略者逐出中国的决心。在这一民族危急的关头，中国共产党的抗日号召振奋了中华民族的斗争精神和勇气，在全国和东北各地迅速掀起了一个声势浩大的抗日爱国运动的高潮。

中共东北党组织派遣党员和动员爱国青年参加了一些义勇军部队的抗敌斗争。从１９３２年３月到１１月间，东北义勇军有了很大发展，较大的队伍增加到１０多支，形成了３０多万人的浩荡大军。东北义勇军以粗劣的武器和后援不足的３０万之众，抗击着拥有飞机等精良装备、能进行立体联合作战的２０多万日伪军，并歼灭了大量敌人，沉重地打击了日本帝国主义侵略军的狂妄气焰。

后来，这些部队由于孤立无援，缺乏统一和正确的领导，缺乏坚持长期斗争的决心与信心，结果至１９３３年初相继失败。其中一部分在中国共产党人的领导下，改编为抗日游击队坚持战斗。东北的抗日形势随之暂时转入低潮。

同一时期，中共满洲省委和各地党组织根据中共中央有关建立反日游击队、开辟抗日根据地的指示，进行了大量的工作，先后建立起十余支在中国共产党直接领导下的抗日游击队，开拓了若干抗日游击区和游击根据地。

中共中央与满洲省委为在东北开展抗日武装斗争，曾向各地党组织发出许多指示。在１９３１年９月２３日省委《关于士兵工作紧急决议》和１０月１２日中央《关于满洲士兵工作的指示》中指出：

积极开展兵运工作，发动和领导当地军队和抗日义勇军坚持抗日斗争；积极发动和领导群众斗争，建立党直接领导的抗日游击队。

还要求注意引导这些抗日武装到农村去，发动农民，广泛开展抗日游击战争。为此，党的组织除派出若干党员干部到一些抗日义勇军中工作外，同时还派遣一些干部和党员到农村去，从事建立抗日游击队的工作。如派中共满洲省委军委书记杨靖宇、杨林到南满工作；大连市委书记童长荣到东满工作，省委军委书记赵尚志到巴彦、珠河工作；省委秘书长冯仲云到汤原工作。至１９３３年初，在他们领导下相继建立了巴彦游击队、南满游击队、海龙游击队、东满游击队、宁安游击队、汤原游击队、海伦游击队，随后又建立了饶河、珠河等游击队。此外，还掌握了抗日救国游击队等数支武装。

这些游击队依托山区，化整为零，开展游击战争。伏击日伪“讨伐”军，袭击铁路交通线，使日伪军疲于奔命。抗日游击队在极其艰苦的条件下，得到了发展和锻炼，涌现出不少英雄人物。其中第三军第二团政治委员赵一曼就是杰出代表。在１９３５年１１月伪军对哈尔滨地区的“讨伐”中，她率部在左撇子沟与日伪军激战一日，受伤被俘，后英勇就义。

在中国共产党直接领导下的这十余支抗日游击队，开始时虽然弱小，却在东北的广大农村地区开展了顽强的抗日游击战争，打击了日本侵略者，成为日伪统治者的心腹之患，给东北抗日武装斗争以鼓舞和希望。

１９３５年２月，为贯彻中共中央拟定的中国人民武装自卫委员会的纲领，在东北建立广泛的抗日统一战线武装力量，中共驻共产国际代表团确定将党所领导的一切抗日部队，统一改编为抗日联合军性质的部队。１９３４年１０月，中共中央率中央红军长征之后，东北党的组织及其所领导的抗日部队便完全与中央断绝了联系，而由中共驻共产国际代表团指导。

１９３５年８月１日，中共驻共产国际代表王明等人，以中华苏维埃中央政府、中共中央的名义发表《为抗日救国告全体同胞书》，号召全国人民团结起来，停止内战，“组织全中国统一的国防政府，与红军、东北人民革命同盟军及各种反日义勇军一起，组织全中国统一的抗日联军”。东北党组织和人民革命军立即响应，积极筹组建立东北抗日政府和东北抗日联军，以之促进全国的国防政府与抗日联军的早日建立。１９３６年２月，由中共驻共产国际代表团拟定了《东北抗日联军统一军队建制宣言》，决定将党在东北领导的所有抗日部队一律改称东北抗日联军，并吸收其他抗日武装参加这一联合军队，以扩大抗日统一战线。自１９３６年初至１９３７年秋，东北抗日联军陆续编成了１１个军。但由于党的满洲省委已被撤销，各军被敌人分割各地，联络不便，一直未能建立起统一的抗日政府和军队指挥机构，各地党组织与各军仍然分散独立作战。

１９３７年上半年，在中国共产党领导下，东北抗日联军已经由小到大，号称“十大联军”，兵力达二万余人，成为中国一支不可忽视的抗日武装力量。日本帝国主义称东北抗日联军是伪满洲国的“治安之癌”。

毛泽东同志在《论联合政府》中说：“一九三一年九月十八日，日本侵略者占领沈阳，几个月内，就把东三省占领了。国民党政府采取了不抵抗政策。但是东三省的人民，东三省的一部分爱国军队，在中国共产党领导或协助之下，违反国民党政府的意志，组织了东三省的抗日义勇军和抗日联军，从事英勇的游击战争。这个英勇的游击战争，曾经发展到很大的规模，中间经过许多困难挫折，始终没有被敌人消灭。”