向济宁、第22集团军向邹县、第3军团向蒙阴发动攻势。各部分别进行了反击的准备。
第3集团军当时仍防守于鲁西南地区，总司令部位于曹县，第12军驻定陶、城武地区，第55军驻金乡。代总司令孙桐萱接受的任务主要是以主力攻占济宁，以一部攻占汶上，尔后向济宁、兖州间实施侧击，策应主力作战：目的是确保陇海铁路的安全和威胁沿津浦路南下日军的右侧翼，相机切断津浦铁路之交通。
日军于1月4日占领兖州、曲阜，6日占领邹县，11日攻占济宁。此时，济宁日军为第2军第10师团第8旅团的第39联队主力，约1500人，大部控制于南关，城中守卫部队约400余人：汶上日军为第39联队的第3大队，约500人。第8旅团主力与第10师团司令部位于兖州。孙桐萱于2月10日下令，命第55军由金乡向济宁南关之敌进攻；命第12军的第22师由定陶经巨野、嘉祥迂回至济宁以北的二十里铺附近，尔后向济宁北门进攻，协同第55军收复济宁城；命第81军对汶上之敌进行袭扰。规定2月12日拂晓前到达进攻出发地位，12日开始进攻。
曹福林的第55军派出一部兵力前进至济宁西南安居镇附近运河西岸，进攻开始时仅以第171团及第439团备一部渡河，向济宁火车站及西关等地进行袭扰，并未以主力实施进攻，不久即为日军击退。
谷良民的第22师到达嘉祥以东的运河西岸后，部署以第64旅为主攻部队，第66旅为预备队，随师部控制于运河西岸。第64旅由大长沟通过运河木桥，于12日拂晓前到达进攻出发地位：第127团控制于二十里铺，掩护主力进攻，对汶上日军进行警戒；第128团及第129团秘密配置于济宁北关两侧，旅部推进至兴文镇。
根据事先侦知的情况，本来预定天明后以小分队化装成居民潜入城内，然后发起进攻，里应外合，控制城门，歼灭城内日军。但日军已有觉察，当天未开东、西及北城门。第64旅旅长时同然急令北关的两团改为攀城强攻。
12日22时左右开始用长梯多路同时攀城进攻，伤亡甚众。后在西北城角处击坍一段城墙，约有9个连从缺口突人。日军第39联队大佐队长沼田多稼藏将主力调入城中增援，首先以反冲击控制了城西北角的缺口，切断城内外中**队的联系，然后向突人城中的部队发起围攻。双方在北大街及城西北隅关帝庙一带展开了激烈的肉搏巷战，逐屋争夺。突入的部队孤军奋战，弹药及人员均得不到补充，血战一日夜，至14日拂晓，9个连的勇士全部壮烈牺牲。
在城北的第64旅残部，13日23时接到孙桐萱令其向运河西岸撤退的命令，在当地群众协助下，从北关外小道通过沼泽地转移至运河东岸，由第66旅接应，用民船渡过运河，到达西岸。掩护撤退的后卫营损失较大，营长战死；负责接应的第66旅旅长薛明亮亦中弹负伤。第3集团军实际参加进攻济宁战斗的不过1个旅的兵力。在人员不占真正优势、武器装备处于绝对劣势的情况下实施攻坚战斗，虽然广大爱国官兵拼死奋战，仍不可能实现军事委员会及第五战区的战略企图。
展书堂的第81师于12日夜开始进攻汶上城，一度攻入北关，受日军猛烈火力袭击，伤亡甚众。由于济宁方面的第64旅已撤回运河西岸，第81师亦主动撤至开河镇附近，沿运河之线防守。
2月17日，日军第2军参谋长铃木率道少将按照军司令官的意图，指示第10师团师团长矶谷廉介，令第8旅团旅团长长濑武平少将指挥以步兵约4个半大队、山炮兵1个中队为基干的“长濑支队”，于20日开始向运河防线的中**队发起进攻。经5日战斗，25日日军突破运河防线，26日攻占嘉祥。日军占嘉祥后留一部兵力防守，主力集结于济宁。
第3集团军在逐次抗击后，撤至巨野、独山镇、大义集、孟家屯、相里集之线防守。
在第3集团军向济宁、汶上进攻的同时，第22集团军也开始向邹县之敌实施进攻。
第22集团军于1938年1月上甸由陇海路的商丘、砀山地区转移至滕县、临城地区，以阻止因韩复榘擅自撤退而得以轻易、迅速进至邹县地区的日军。
第45军的第125师在界河东西之线占领阵地，第127师随军部控制于滕县地区，第41军、第124师的第372旅担任滕县城防，第370旅配置于滕县西北的深井掩护第125师阵地左侧背，师部位于利国驿；第41军第122师为总预备队，随总司令部位于临城地区。当时邹县日军为第2军第10师团第33旅团的第63联队，有1个大队在两下店占领前哨阵地。
2月上旬，第22集团军接到向邹县之敌进攻的命令，孙震立即开始准备。
此时，第22集团军借为四川部队，总司令邓锡侯。1938年1月，川康绥靖主任刘湘逝世，邓锡侯奉命回川继任。第22集团军副总司令孙震代理总司令。下属2个军，均为乙种军。全集团军共有16个步兵团，无特种兵部队，总计约4万余人。装备陈1日，主要武器为四川造7。9毫米步枪及手榴弹，仅有少量四川造轻机枪及迫击炮。本来兵员就不足，1937年10月至12月在晋南战斗中损失惨重，减员过半，2个军的建制均不完整。调第五战区前，12月在山西离石、赵城一带曾进行整编，每旅2个团合编为1个战斗团。调第五战区时，每军在番号上仍为2个师、4个旅、8个团，但实际只有4个团的兵力，全集团军总兵力不超过2万人。
由于该部减员太多且装备低劣，无力组织大规模的进攻，因此令第125师的第737旅由界河进攻两下店，令第127旅的第575团挺进至邹县、曲阜间，在敌人后方进行游击袭扰。
2月14日，第737旅以第746团、配属地方抗日红枪会数百人担任主攻，以第745团占领铁路及郭山进行掩护。第746团命第3营对两下店实施夜袭。两次袭击均被击退。16日下午，又以第1、第2营实施强攻，以第3营为预备队。经激烈战斗，于傍晚冲入村中，占领了两座楼房。但在日军猛烈的火力袭击下伤亡过半，被迫于拂晓前突围，退至郭山。17日14时，两下店日军开始反击。在进行了反复争夺后，第737旅于18日退至香城、普阳山一线，与日军对峙。
奉命渗入敌人后方的第575团，在当地抗日武装及人民群众的积极配合、支援下，于2月11日进至曲阜以南的九龙山一带。14日，在邹县至曲阜公路两侧的小雪村、凫村附近，先后以伏击战消灭了两批日军，击毁汽车4辆，击毙日军第10师团少将军官1名、士兵30余人。15日，日军由曲阜、邹县对进合击。第575团东撤至距邹县约16公里的田黄镇，尔后返回滕县防地，归还建制！
庞炳勋的第3军团于1938年2月上旬从海州调至临沂，中旬集结、布防完毕。日军第5师团于1月4日攻占蒙阴、沂水，10日攻占潍县。同日日本海军登陆占领青岛。此时诸城亦为日军占领，第3军团未能实施攻势作战即构筑工事，向蒙阴、沂水、诸城方向警戒。
2月21日，日军第5师团依照军参谋长17日关于以1个支队配合第10师团的作战、向沂州方面前进的指示，派第21旅团的第21联队由潍县乘车南下进攻莒县。当时菖县地区仅有刘震东的第一游击队及沈鸿烈的海军陆战队，力量不足。第五战区遂电令第40军派军支援。庞炳勋乃令第115旅配属2门山炮往援。该旅于2月26日到达莒县附近，但莒县已于23日失守，刘震东牺牲，海军陆战队已转移至高里附近。这时日军以坂本顺少将的步兵第21旅团为基干组成的坂本支队正西进准备进攻临沂。
坂本支队的编成为：步兵第11联队，步兵第21联队，步兵第42联队的1个大队，野炮兵第5联队，山炮兵1个中队。
27日，日军坂本支队向第115旅发起进攻。经两日战斗，第115旅虽然顽强抵抗，但人力、火力均处于劣势，且伤亡又大，不得已主动炸毁2门山炮后于29日下午后撤，3月2日退回相公庄整顿。日军尾随第115旅追击前进，于3月5日攻占汤头。当其继续向白塔主阵地进攻时，遭到第39师防守部队的坚决抗击。庞炳勋组织了反击，由左、右两翼向敌人侧后迂回。日军被迫退回汤头，暂时形成对峙。
日本“华中派遣军”及“华北方面军”虽然在南北两线的淮河及济宁等地遭到了中**队的坚决阻击及反击，受到一定的挫折，但得意于上海的胜利及南京、山东的轻易占领，不正确地判断了战争的发展趋势，认为在国际上“由于德国承认满洲国”，英国已“修订了对外政策，在欧洲接近德、意而自求安定，在远东缓和支持中国政权的态度，采取保持本国权益第一主义”，“国际形势大局正朝着对我有利的方向发展”：特别是错误地低估了中华民族的抗战决心，认为：
“中国的一般政局是逐渐丧失长期抗战的自信，外则失去各国支援，内则出现各种内政问题（指地方与中央、**与国民党以及国民党内部派系之间的矛盾），现在正踏上崩溃之途”。
对中**队的看法则带有极大的片面性与盲目性，认为“在此次事变中，中**队受到的损失，仅在华中方面就有40余万，连同华北方面合计约为80万左右：而且蒋介石多年苦心训练的、占中央军大部约六七个师，在华中方面受到彻底打击，大部分已丧失战斗能力”，因而他们不同意日军大本营的判断和暂时“不扩大方针”。尤其是“华北方面军司令官寺内寿一大将，对中央意图不满”，坚持他“使华北、华中联接起来，进行徐州作战”的主张，并在2月下旬向到北平传达“战场不扩大方针”的参谋本部第二课（即作战课）课长一再强调他的意见。他积极支持第2军继续向南入侵的企图，并于3月初将第2军的作战计划及要求增兵的报告转报大本营，说：“追剿眼前之敌，决不是深入南进作战。为警备后方，希望增加兵力。”
这时日本政府