线彻底断裂，三路守军被日军分割孤立，军心彻底崩盘，再也无力组织全线防御。汤恩伯眼看两翼溃散、中路孤军难支，再硬撑下去只会把嫡系精锐全部拼光，为保存自家实力，只能无奈下达全线南撤命令，放弃东明、考城、民权所有前沿要地，全军向柘城、太康、鹿邑二线仓促败退。
仅仅三日时间，从日军强渡黄河到防线崩盘、全军败退，汤恩伯七万重兵驻守的豫东防线，在土肥原贤二六万大军的雷霆攻势下彻底崩塌。所谓中央军嫡系精锐、军纪败坏、民心尽失，外加汤恩伯指挥无能、各部保存实力，竟连三日都未能坚守，便一溃千里。
6月28日，土肥原贤二轻松席卷豫东北诸城，整顿兵力之后，遵照畑俊六原定计划，舍弃豫东后续纠缠，统领六万大军从容北入鲁西，一路畅行无阻，直扑重镇菏泽！
6月30日，十四师团兵临菏泽，守备菏泽地区的警备第2师于兆麟的一个团，两千多人。
第五战区在得知汤恩伯在豫东被土肥原贤二打的大败之后，就立刻意识到了十四师团要从西边夹击第五战区，但是鲁西南地区兵力单薄，无法对抗土肥原贤二，六万日寇的重兵集团。
所以刘珍年果断下令，壮士断腕，让于兆麟率领警备第二师退守济宁，东平，兖州一带，并且动员鲁西南所有民团，两万余人，跟随警备第二师进入济宁据守，同时调派骑兵旅富春，前往济宁支援。