4月20日黄昏后，部队按计划向敌军驻地运动。
这天夜晚没有月亮，张庆林他们花了将近4个多小时才到达牛纵队驻地附近。
通过陈佩斯同志介绍，这支顽军虽装备较差，但他们是地主豪绅和土匪组成的，非常反动和顽强。
好在该纵队此时临时划归陈佩斯同志指挥，在陈佩斯同志大力协助下，歼灭该敌还是很有把握的。
当28团部队运动至攻击位置时，师长早已到达，此时顽敌似乎已发觉我军的意图，不断乱打枪，子弹就从师长、旅长身边飞过。
师长对大家说：
“你们这个28团士气不错嘛！虽然是新组建不久，但指战员求战心切。这一仗一定要打好，事关‘淮上’抗日、反顽斗争的大局。”
旅长当即表示：
“请师长放心，我们一定完成师首长交代的任务。”
在兄弟部队配合下，一声号令，战斗打响了。师长、旅长他们冒着敌火，在第一线指挥，不断派参谋人员到进攻部队了解战情，传达他们的指示。
由于淮上反顽斗争的失利，部队减员严重，士气低沉，战斗力大为削弱。在日、伪、顽、匪夹击之下，10旅面临的形势极为复杂、严峻。
在此状况下，10旅当面之敌——白军142师425团在地下党员、团长陈佩斯率领下受命举行起义。旅长奉命指挥28团和11旅32团前往接应，并乘机歼灭跟随425团行动的反共的第14游击纵队1支队牛肃久部。
当28团从火神庙进至大、小郭家以东地区隐蔽集结后，发动了主攻，与此同时，11旅32团断敌退路并阻援。
下午4时许，28团3营和团警卫连首先向小营集发起攻击，顽军毫无准备，仓皇逃至小郭家寨，28团随即把它们团团包围。
晚上，28团1、2营又发起了攻击，顽军凭借寨围、外壕防守，两次进攻都没能奏效。张庆林率军突击，奋勇当先，可惜未能奏效。
后来，旅长来到28团指挥所，经过亲自勘察地形，决定将突破点选择在小郭家寨北面，其他方向为助攻，并重新调整了兵力部署，限令必须在天明前歼灭该敌。
这回张庆林积极争取，获得了主攻击会。张庆林从全营选拔，组织了30多人的突击队，他自己亲自带头，担任突击队队长。
翌日1时许，旅长亲自到前线指挥，总攻发起后，张庆林带领突击队在机枪火力掩护下接近敌寨，突然投出排子手榴弹。
趁着爆炸的瞬间，张庆林率领突击队奋勇发起冲击，前赴后继不怕牺牲，终于打开了突破口，冲入小郭家寨，教导员率领1营主力也紧随突击队突入寨内，东西两侧助攻的2营和3营部队也相继攻入，经一个多小时激战，除支队长牛肃久等几十人外，其余全部被歼，此战共毙、俘、伤敌700余人，缴获轻机枪11挺，长、短枪300支。
小郭家寨歼灭战，是10旅在淮上反顽斗争失利的情况下在津浦路西的最后一仗，给根据地军民以极大的鼓舞和振奋。这次战斗中，张庆林率领的突击队可以说是立下了汗马功劳。
这次战斗，于拂晓前胜利结束，全歼牛纵队近1000人，缴获大量武器装备，生俘700余人，杀伤200余人。
战后，遵照师长的指示，10旅部直属队和28团向东南方向转移休整，第二天下午，师长派他身边的警卫员和参谋向10旅传达他的口头紧急通知，命令10旅尽快转移到津浦路东休整。
遵照师长的指示，我们于当晚秘密转移到蚌埠以北近8里路的几个村庄隐蔽宿营，严密封锁消息。