尽管形势的变化，让黄显声没有能够在这个职务上发挥更大作用，但他的干练还是表现出来了。
九一八事变，东北军中人称三个省只有两个明白人，就是臧式毅和黄显声。九一八事变前，臧曾多次苦苦警告张学良日军即将动手，并派黄专门跑到北平去见张报告危险。张时吸毒又患伤寒，到协和医院住院，显得思维精力都不充足，回复都是要求镇定，万一打起来不抵抗，等待“九国公约”的调停等等臧自知无力回天，在九一八发生时悲愤地让东北军参谋长荣臻“赶快出去调兵遣将收复沈阳吧”，自己则以地方官守土有责留下办交涉不肯离去，后绝食未死，被日方拉入伪政府，未保晚节。
黄显声则另有主张，九一八事变前，8月底他已经通过当时的警务督察长熊飞弄到日军情报，知道事变即将发生（这也是黄到北平见张学良的直接原因）。黄不肯坐以待毙，回沈阳后当即下令各县警察队公安队扩充成12个总队，并发放枪支弹药。这个举动意味深长，这批枪支成了后东北各路义勇军中的主要武器来源之一。后来的东北抗日义勇军中，原东北的警察人员占了相当高的比例，而且多位著名的义勇军指挥官，比如邓铁梅、王凤阁、高玉山等都是原东北警察出身。
而黄显声对沈阳的警察也进行了充分的部署，将2，000名警察组织起来，编成一个总队并发枪，自己从9月初即昼夜不离办公室，随时准备应变。所以九一八事变刚刚发生，他率领的警察总队（相当于武警，不包括治安警和交通警）已经离开机关，投入抗击。
后来的救国会执委朱焕阶9月19日晨曾赶到警务处打探消息，却见铁门紧闭，有几只麻雀啄食。向周围人打听，前一天夜里有人看到，黄部警察的动作极快，第一声炮弹的爆炸声刚刚响过就开始行动，离开机关，显然是早有部署。
记东北军名将黄显声（2）
当时沈阳主要兵力包括王以哲的第七旅、总部卫队、张学良的卫队营、讲武堂学兵和黄显声的警察部队。事变爆发的时候，王以哲和两个团长都不在部队（王第二天下午才便衣出城，在郊外与部队汇合），第七旅苦苦等待命令，最后等来的却是——不许抵抗，任其占领营房缴械。该部靠下级军官自发组织才勉强突出重围，损失惨重。卫队的负责人是荣臻的儿子荣子恒，因为形势紧张，当天被派率部到野外进行为期八天的拉练，所以没有加入战斗。（谁能说王、荣不是明白人呢？还有当时因为各种事情不能到任的吉林省主席张作相、黑龙江省主席万福麟，学生们听到枪声怎么也找不到的讲武堂负责人周濂中将，哪个，不是明白人？中国人里面明白人有时候不是太少，是太多啊）；张学良卫队营营长谭海仓促中把张府各房门上锁，武器埋在院里，只带着钥匙逃回北平。张学良啼笑皆非，大骂“不是人，什么东西！”因为张一向叫谭海“叔叔”，这一次显然是气极了。
各部只有黄显声部和讲武堂学兵（五连连长张占元阵亡）主动进行了抵抗。黄显声指挥警察在二经街一带依靠简单的街垒与日军对战多时。最终，在日军坦克的攻击面前，只有轻武器的警察伤亡太重，被迫撤离。黄在撤退时嘱咐警察和公安队官兵尽量携带武器弹药撤退，连夜经过新民向锦州集中待命。但由于准备充分，沈阳警察部队撤退到锦州是动作最快，损失最小的。
黄显声到达锦州后，成为1931年秋冬实际的前敌总指挥。当时东北边防军公署和辽宁省政府公署都搬到锦州重建，但张学良和张作相都未到锦州，军政事务由黄显声代拆代行。他立即联系驻防义县的十二旅旅长张廷枢向大凌河布防，取得稳定阵线。
当时，东北军参谋长荣臻也到锦州办公，援军也陆续到达。荣是个旧式军人，有鸦片瘾，又知道张学良信任黄显声。故此事务皆付黄显声。后国联有员来调查，与荣臻交谈时发现他未及收拾的烟具，于是对翻译说：“这样的将军怎么能抵抗日本军队呢？”又问荣九一八时为何不抵抗。荣回答没有上级命令。国联的人走后，荣臻悔恨交加，当即砸毁烟具，向张学良发出一封急电，要求带一个旅到前线和日军拼命。12月后荣在军事指挥上逐渐发挥正常作用。
日军土肥原则与汪精卫曾称为“智勇仁”的大汉奸凌印青（海城人，早期国民党人，与杨宇霆交厚）勾结，派出高级特务仓岗繁等十人到辽西和凌汇合，在盘山组建伪军“东北民众自治军”。
黄显声针锋相对，他利用该伪军第一师第一旅旅长单廷秀是熊飞的学生的关系，通过单策反该军第一师师长项青山、第二师师长张海天。10月27日，两人率军起义，东北军十九旅派兵参战，凌及仓岗皆被击毙。
１1－４黄显声在锦州前线担任义勇军总司令时全身像
日军继而鼓动张学良堂弟张学成于10月29日接手“东北民众自治军”残部，发给奉天兵工厂武器，试图作为日军前驱进占锦州。张学成一贯认为自己怀才不遇，与堂兄应该分庭抗礼，1931年初曾参加石友三的叛乱。这一次则欣然接受日军指挥，携四名日本顾问上任，号称有18个旅。黄显声请示张学良后，派公安骑兵第二总队进攻张学成部。由于东北地区当时抗日情绪强烈，张学成部也兵无战心，交火后不久即溃散，四名日本顾问和张学成都被乱枪打死，伪旅长荣庭被俘。
在锦州期间，黄显声励精图治，大力组织和扩充地方武装。而张学良由于年轻和患病，此时处于刘伯承所说“五行不定”的状态。他一面调动了一部分部队到锦州前线，似有抵抗之意，另一方面支持将锦州一带设为隔离区的方案，随时准备撤离。在军事上，张显得十分消极。黄显声有一次建议既然锦州前线工事构筑不易，不如以攻为守，张当即拒绝。在日军进攻马占山的时候，张坐拥重兵，毫无策应（反而是日军进攻锦州时，极端困难的马占山反攻齐市，试图调动日军北上）。对于黄显声招募的部队和反正伪军，张学良也拒绝给与正规番号，他一方面希望借助这些部队抵抗日军，一方面怕因此形成中国正规军与日军交战的口实。
在这种掩耳盗铃的思维支配下，张学良甚至下令给马占山和丁超等吉黑将领，下令他们部下原来东北军的正规部队一律不得使用正规军番号，只能自称“自卫军”、“救国军”等名义。
事实证明，这种做法不但不能减少日军对中国军队的进攻，相反使其进攻更加理直气壮——既然对手不是正规军，就只能是“土匪”、“马胡子”了。堂堂正规军一夜之间竟然连自己的番号都不能使用，各路抗战部队也因此而气馁。
在这种情况下，黄显声急中生智，将新编部队改称为“辽宁抗日义勇军”，编张海天部为第一路，项青山部为第二路，陆续委任达二十余路，自己担任总司令。
这就是“抗日义勇军”的最初来历。
1931年12月15日，张学良倚为依靠的蒋介石下野，张的抵抗意志更加消沉。在日军大举进攻的压力下，张最终下令东北军主力于1931年最后一天撤离锦州。在回复记者的访谈时，东北军方面表示在锦州周围与日军进行了激烈的攻防战斗，最后不支撤退，损失五千余人。然而，在当地的外国人和民间团体回忆，东北军的各部，除步兵十九旅、骑兵二十旅的部分部队，装甲列车队以外，基本与日军未有接触即撤离，撤离时日军还在锦州的百里之外。真正在锦州外围和日军展开了血战的，是黄显声部下的义勇军和公安队。他们与日军在白旗堡、田庄台、盘山、打虎山各地辗转血战，还曾经反攻过营口，给日军造成相当重大的打击。
记东北军名将黄显声（3）
东北军撤退时，黄显声率三个骑兵公安总队断后掩护。黄以第一、第二总队掩护机关人员撤退，亲自带第三总队到大凌河畔杨官屯拒敌。1932年1月2日，黄部与日军渡大凌河部队展开激战，由于敌众我寡，战斗到夜间两点三十分，黄下令炸毁女儿河铁桥阻挡日军追击，部队撤向关内。1月3日，日军占领锦州。义勇军部队，一部随黄显声入关，一部留在当地继续和日军作战。
由于“义勇军”这个名字响亮而且贴切，逐渐成为东北各地抗日军民最为常用的叫法。1935年，田汉、聂耳合作为电影《风云儿女》谱写了主题曲——《义勇军进行曲》。这首脍炙人口的战歌，后来成为今天中华人民共和国的国歌。
然而，很少有人去细究这里所说的“义勇军”，最初指的是哪一支部队了，它代表的，是白山黑水的关东人，也是全体中国人不屈的精神。
入关后的黄显声将军，所部公安骑兵总队和一同撤退的保安队、义勇军被改编为骑兵第二师，黄任师长，参加了长城抗战，再次与日军交手。以后，为了替张学良将军控制五十三军万福麟部，又前往万部担任副军长兼一一九师师长。威震冀中的吕正操司令员，当时就是他的部下，也是他的好友。黄显声将军并协助张学良策划和实施了西安事变。
1938年，黄到武汉活动争取释放张学良将军不果，经周恩来介绍，准备以中共特别党员的身份到延安组建新东北军，不幸被国民党方面扣押，从此开始了十年的拘禁生活。
据推测，黄显声的被扣押，与东北军内部斗争也有很大关系。黄是张学良最为亲信的少壮派军官，长城抗战后，张学良深感老东北军将领各顾妻子，腐化老朽，已经不堪改造，因此大力提拔少壮派军官，黄显声就是其中的典型。然而，这种做法明显侵犯了占据高位的老牌将领的利益。张学良被扣以后，东北军上层并非都尽全力营救，而是在蒋介石的拉打之下分裂，自相残杀，可说与此有关。失去了张学良支持的黄显声，也成为这些老牌将领