1928年5月1日日军派遣军最高指挥官、第六师团长福田彦助在济南下车。前左二为福田彦助,此人使济南陷入血泪之中。
蒋介石、黄郛等从济南逃出后,来到党家庄住下。梳洗己毕,急忙修书一封,送给日军:福田师团长惠鉴:自本月3日之不幸事件发生,本总司令以和平为重,严令所属撤离贵军所占区域。现在我各军已一律离济,继续北伐,仅于城内留相当部队,借维秩序。本总司令亦于本日出发,用特通知贵师团长查照,并盼严令贵军立即停止2日以来一切特殊行动,俾得维持两国固有之睦谊,不胜企盼之至。专布顺颂公绥国民革命军总司令蒋中正事前,福田已通过安插在蒋介石身边的顾问佐佐木,得到蒋介石的传话:“革命军为避免糜乱地方,决不与日军冲突。”现接到这封来信,才知道蒋介石改道北上,继续北伐,并得悉已离开济南,急得顿着脚咆哮道:“糟了,北伐军继续北上,以后的事更难办了!”福田彦助恼羞成怒,便于5月7日下午向蒋介石提出最后通牒:蒋总司令阁下:贵总司令屡违对于中外之声明。此次由贵部下之正规军实现此不忍卒睹之不祥事件,本司令官不胜遗憾。平加诸帝国军部及居留民之一切损害,以及有关毁坏国家名誉之赔偿等,虽有待于帝国政府他日之交涉,本司令官不欲置喙,然敢对贵总司令要求左列事项:
一、有关骚扰及暴行之高级武官,须严厉处罚。
二、对抗我军之军队,须在日军阵前解除武装。
三、在南军统辖区域之下,严禁一切反日宣传。
四、南军须撤退济南及胶济路沿线两侧20华里之地带,以资隔离。
五、为监视右列事项之实施,须于12小时以内开放辛庄及张庄之营房。
盼右列事项,于12小时以内答复。
临时山东派遣第六师团长福田彦助
北伐军将领见到这个最后通牒,简直把北伐军当作战败国看待,把抗日将士作为投降的战俘,大都气炸心肺;但蒋介石不愿以“小不忍而乱大谋”,因此除第二条外,准备全部接受。当下拟定六项答复,并派熊式辉、罗家伦前去交涉。
福田彦助看了蒋介石的六项答复,并不满意,他横眉怒目回答:“规定时间已过,不必再谈!”福田彦助蛮横地赶走派去的使者,随即下令对济南发动攻击。济南军民在济南卫戍副司令苏宗辙的指挥下,与日寇奋战,特别是邓殷藩团第九连连长郭德芳与部属发誓说:“我们生为军人,死当卫国。今天的事,日本人逼得我们实在忍不下去了!为国家,为人民,正是我们牺牲报国的时候了!我们不忍心,也不愿意亲眼看到祖国河山破碎,而束手被擒!我们要本着'有敌无我、有我无敌'的精神和决心,与敌人拚一个你死我活!”北伐军将士以散兵战术抗击日寇的立体战术,打得敌人闻风丧胆。留守济南的李延年、邓殷藩两团将士,与日寇激战三昼夜,打得日寇不敢轻举妄动,直至接到蒋介石令他们撤退的密电后,才撤出济南。
北伐军撤出济南后,日军于5月11日上午举行“显扬国威”的入城式,开始惨绝人寰的大屠杀:见人就开枪射击,见女人就割去双乳,乱刀刺死。济南死伤军民1.1万有余,真是血流成河,尸横遍地,惨不忍睹,举世公愤!
当时,作为北伐军总司令的蒋介石在日军血腥屠杀面前,也作了如下表示:“5月3日,日本帝国主义者在济南横阻我们北伐,残杀我们同胞,霸占我们土地,这是中国民族最耻辱的一个纪念日!临到这个纪念日,凡是中国人,凡是我们的黄帝子孙,对于这种耻辱,是永不能忘怀的,日本种种野蛮行动简直就是禽兽,如果不谋报复,我们就不能算是中国人!我国国民政府是绝不会因为他们的压迫而对他们屈服的!”蒋介石当时的这一讲话,虽然反映了他对日本军队野蛮行径的痛恨和谴责,但在日寇野蛮屠杀之际,他却下令:“须知我们报仇雪耻的敌忾心,绝不能暴露出来,要通过外交途径解决!”原来,张群奉蒋介石之命已于5月4日到达东京。后来蒋介石电告张群,告诉他发生了“五·三济南惨案”。张群奉命与日本外务省亚洲局长有田八郎和日本参谋第二部长松井石根联系,求见日本外务省次官出渊胜次和军部首脑伊藤安之助少将,发现日本军方气焰极为嚣张,叫嚷“中国北伐军必须投降”,“要蒋介石自己来日本交涉”等。
张群跟日本军政官员无法会谈,又通过老关系见到日本首相田中义一。在会见中,张群用三寸不烂之舌向日方表示说:“中、日两国必须友好,而要达到全面亲善之目的,必须让国民革命军完成北伐,统一中国。因此,国民政府希望日本政府不仅对北伐不加阻挠,更应站在正义的立场上,同情并帮助中国革命。对于济南事件,不要任凭当地双方军队直接冲突,应该通过外交交涉予以解决。”田中义一对张群的话根本听不进去,但为掩盖日本政府业已通过的增兵山东的决议,他便通知张群,说日本将派参谋本部第二部长松井石根作为日本的全权代表,赴山东处理济南事件,希望中方与松井进行谈判。