产及上海局势不明，以致未能成行。国破家愁，所有的一切都让老舍更加焦虑。在老舍写给友人的信中，此种情绪溢于言表：“家在故乡，已无可归，内人身重，又难行旅，乃力自镇定，以写作摈扰，文字之劣，在意料中。天热，消息沉闷，每深夜至友家听广播，全无收获。归来，海寂天空，但闻远处犬吠，辄不成寐。”由此信，我们完全能够想像出当时老舍临海凭风悲不能已之境况。
1937年8月中旬，老舍独自一人离开青岛，前往济南应齐鲁大学教授之聘。战乱临别，妻儿泪眼相送，老舍心头自是有说不出的凄凉和悲伤。8月13日沪战爆发，8月14日，日军攻占青岛。得此消息，居济南的老舍急电时在青岛至友，送妻小到济南。时值老舍妻子胡絜青产后不久，身体本就虚弱，加之旅途劳苦，更兼暴雨侵袭，下车后就住进医院。女儿小济也因连日大雨，受凉生病，被送进医院小儿科。强寇在侧，国势危殆，妻病儿幼，狼狈不堪。这一段经历，老舍后来在给友人的信中曾作过详细叙述：“一家数地，杯碗兼无；大雨时行，不得出屋，真急杀人也！北平复无信，老亲至友，生死不明，寝寐不安！”“……日来，冒雨奔走，视妻小，购物件，觅房所，碌碌终日，疲惫不堪，无从为文。”
覆巢之下，岂有完卵？济南也并非一方静土。1937年9月底，日军侵入山东境内，济南上空也布满了战争的阴云。到11月中旬，齐大师生纷纷离校，有的回乡，有的流亡。齐大校园陷入一片死沉的寂静，老舍后来回忆说：“这是最凄凉的日子。齐鲁大学的学生已都走完，教员也走了多一半。那么大的院子，只剩下我们几家人。每天，只要是晴天，必有警报：上午八点开始，到下午四五点钟才解除。院里静寂得可怕：卖青菜，卖果子的都已不再来，而一群群的失了主人的猫狗都跑来乞饭吃。”
日军步步逼近济南，济南城内省政府机关都已疏散。老舍不能不考虑离开济南的问题了。然而此时的老舍却进退失据，左右为难。责任、义务、亲情、爱心、国家、气节等多种情绪织成了一张大网，这张网死死把老舍缠住。就老舍个人而言，他绝不愿留在济南做日军铁蹄下的顺民，甚至汉奸。对老舍这样一个深受传统文化影响的知识分子而言，最重要的是一个知识分子的气节。“一个读书人最珍贵的东西是他的一点气节。我不能等待敌人进来，把我的那点珍宝劫夺了去。我必须赶紧出走”。但是，真要走出家门，老舍却又不能不感到犹豫。且不说妻弱子幼（长女4岁，儿子2岁，幼女还不满3个月），单是现实的困难就不允许老舍举家逃难，老舍曾回忆当时的境况说：“一、车极难上，沿途且有轰炸之险。二、儿女辈俱幼弱，天气复渐寒，遇险或受病，同是危难。三、存款无多，仅足略购柴米，用之行旅，则成难民。版税稿费俱绝，找事非易，有出无入，何以支持？独逃可仅顾三餐，同来则无法尽避饥寒。”家，像一块沉重的石头压在老舍的心头，战乱多事之秋，老舍（右二）与友人老舍实在是不忍心抛开弱妻稚子独自出走，放弃自己为父为夫的责任，把他们交给命运。老舍有好几次已经把皮箱收拾好，但看看痴儿弱女，他又实在难以割舍，又好几次默默地打开收拾好的皮箱。老舍到武汉后写的《流亡》一诗，真切地表现了他当时的心情：“弱女痴儿不解哀，牵衣问父去何来？话因伤别潸衣泪，血若停流定是灰。已见乡关沦水火，更堪江海逐风雷。徘徊未忍道珍重，暮雁声低切切催。”
“不能等待敌人来了，把我那点珍宝夺去”（2）
无论老舍是如何的彷徨、煎熬，但走的这天最终还是来了。“那是十一月十五日的黄昏。在将要吃晚饭的时候，天上起了一道红闪，紧接着是一声震动天地的爆炸。三个红闪，爆炸了三声，这是——当时并没有人知道——我们的军队破坏黄河铁桥……立刻，全市的铺户都上了门，街上几乎断绝了行人”。老舍觉得自己再不能迟疑，如再不走就极可能沦为敌人的俘虏，自己所珍视的“那点气节”就会被“掠夺了去”。老舍抚摸了两个孩子的头，提起小皮箱，拿了五十元钱，快步走出家门，临别对家人说：“我到车站看看有车没有，没有车就马上回来。”从此老舍踏上了八年流亡的旅途。老舍后来回忆说：“我不能再迟疑，不能不下狠心：稍一踟躇，我就会放下箱子，不能迈步了。”直至走出了家门，老舍心头还是如一团乱麻，亲情与国难如同两只巨大的手从不同的方向攫住了老舍的心，他回忆说：“在我的心里，我切盼有车，宁愿在中途被炸死，也不甘心坐待敌人捉去我。同时我也愿车已不通，好折回来跟家人共患难。这两个不同的盼望在我心中交战，使我反倒忘了苦痛。我已主张不了什么，走与不走全凭火车替我决定。”对老舍来说，从家门迈出这一步，是多么的艰难！他不能不考虑，从今以后，妻子一人带着三个小儿女将何以为生？而且，济南即将沦陷，又有谁来庇护他们？而老舍自己从此只身踏上流亡之路，前途如何，也是未知数。此时生离，亦类死别，父子夫妻，岂忍割舍？老舍在给友人陶亢德的信中回忆起离家前后的情景，心中还充满凄楚：“家在北，而身向南，前途茫茫，确切可靠的事只有沿途都有敌人的轰炸与扫射！啊，不久便轮到了我，我也必得走出来呀。妻小没法出来，我得向她们告别！我是家长，现在得把她们交给命运。”“每一空闲下来，必然的想起离济南时妻的沉静，与小乙的被叱要哭；想到，泪也就来到。”11月18日，辗转经泰安、徐州、郑州，老舍抵达当时抗战的中心——武汉。至汉口后，老舍毁家纾难、一只提箱到武汉的消息一时传为美谈。国民党著名抗战将领冯玉祥闻知此事，专为老舍题写了一首“丘八诗”：
老舍先生到武汉，提只提箱赴国难。
妻子儿女全不顾，蹈汤赴火为抗战！
老舍先生不顾家，提个小箱撵中华。
满腔热血有如此，全民团结笔生花！
“文艺界尽责的小卒”（1）
11月的武汉已是颇有几分凉意，在友人的帮助下，老舍顺利安顿了下来。初至武汉，老舍对此地却没有什么好印象，武汉的天气“不令人喜爱”，“冬天很冷，有时候下很厚的雪”。老舍尤不适应的是武汉浓重的商业氛围，到处嘈杂混乱，民族危亡在即，武汉却“赌无禁，烟公卖，妓有南北中西，舞有美女香槟”，一派太平景象。老舍慨叹道：“武汉确实成了一切的中心，吃喝玩乐在其中矣！”
1937年下半年，随着战局的进一步恶化，北平、上海、南京、济南等大中城市陆续沦陷。跟老舍到武汉的时间差不多，一大批原在华北、华东的作家，相继流亡到了武汉。一时间，武汉成了中国文化名人的密集地区。在相互交往与切磋中，居武汉的文艺家们觉得在抗战时期有必要组织文艺和文艺家的大联合。而当时的政治力量也有意将文艺界联合起来形成一种抗日的力量。在这样一个背景下，1938年年初，“中华全国文艺界抗敌协会”的筹备工作，在武汉正式开始。留在武汉的老舍也被邀请参与了筹建活动，但是在筹建之初，毫无党派背景的老舍并没有被当作这个团体的中心人物。从有关资料看，这一年的1月间，为商议筹备“中华全国文艺界抗敌协会”事，在汉一部分作家曾两次聚餐碰头，第一次在蜀珍酒家，老舍没有参加，第二次在普海春饭店，老舍已在其内了。这一点小小的史实可以说明，作为中华全国文艺界抗敌协会两大政治背景的国民党和共产党，在最初动议创办这个团体的时候，都还没有把老舍看作是未来这个团体的主要负责人选。
但是，在筹备的过程中，一个问题越来越尖锐地摆到了大家面前：国共两党，都不愿意轻易放弃这个将在整个抗战时期产生较大社会影响的文化团体的控制权。国民党方面既难以推举出孚众望的作家来做它的最高负责人，同时又绝对不肯接受共产党可能推荐的任何左翼作家人选。在这样一个背景下，毫无党派色彩的老舍获得了国共双方的一致认可。老舍历来无党无派，作品也获得了文坛的盛誉，人品亦无可挑剔，就这样，老舍被推到了“文协”的中心位置。对此段历史，萧伯青（左翼作家）曾回忆说：“那时，我正由党组织的指派和冯乃超等同志负责建立文艺界的抗日民族统一战线组织。‘文协’要成立了，由谁去主持，这是领导权问题：我和乃超同志商量，决定推荐老舍主持‘文协’。周恩来同志和党组织也同意。这样做是为了抵制国民党的张道藩等抓领导权。”
1938年3月27日，“中华全国文艺界抗敌协会”在汉口正式宣告成立。在成立大会上，老舍真诚地说：“我是文艺界的一名小卒，……以前如是，现在如是，希望将来也如是。在我入墓的那一天，我愿有人赠我一块短碑，刻上：文艺界尽责的小卒，睡在这里。”“文艺界尽责的小卒”——这就是老舍对自己的定位和期待，这一点他无疑做到了，甚至做得更多。
为平衡国共双方的政治力量，“文协”不设理事长或主席之类的最高职务，而是由理事会确定组成的总务部、组织部、研究部、出版部，来分头负责实施协会的各项工作。其中总务部主任对内总理会务，对外代表“文协”总会，是实际上的总负责人。业经事前酝酿，大家公推老舍担当总务部主任一职。但老舍认为“自己在文艺界的资望既不够，而且没有办事的能力”而坚辞。后来，在与会理事的一致坚持之下，为避免僵局，老舍才点头同意。“文协”常务理事之一的胡绍轩后来回忆说：“当老舍被推举为总务部主任时，他一再推辞，他说：‘我算老几，怎能担�