秦翰部、李继宣部、天祥军相继投入战斗，形势发生了转变，宋军由阻击状态变为追击状态。
刚逐走杨延昭、杨嗣、卢成玉、赵元佐的辽军转眼就被秦翰部和李继宣部赶上了羊山。
而此时，秦翰部悄然退出了战场；对于秦翰部来说，已经经历了在威虏军西与辽军大战，再在追击后独自与辽军作战已经使得其力不能支了，因此在友军到达后退出战场也属于情理之中。
连经恶战的辽军此时已经无心恋战，而李继宣部原本就是宋军最强悍的部队之一，这次战役中又是作为预备队一直没有参战，在一整天的养精蓄锐后正是斗志昂扬的时候，终于找到了用武之地。
天祥军在威虏军地面斩杀了不少辽军后返回遂城养精蓄锐，这时候也是斗志旺盛。
天祥军和李继宣部赶着辽军从羊山南麓转过山脊，追杀到北麓。
战斗中，身先士卒的李继宣多次因为战马中箭而更换战马；最终在牟山谷，李继宣部追上辽败军主力并杀入，取得了巨大的战果后，剩余的辽军逃向了八里外的辽国边界。
而在李继宣部带着满身征尘和丰硕的战果回到前进基地赤虏的时候，天，已经开始黑了。
刘敏率领的天祥军和卢成玉、赵元佐、呼延瑾儿率领的另一支天祥军相会，在羊山安营扎寨。
经过一天的战斗，宋辽双方首战长城口，次战威虏军，三战羊山，最终以宋军击退辽军、斩级二万、阵斩辽统军铁林相公依塌胡图以下将领十五员的辉煌胜利告终。
如此丰硕的战果，在宋军对辽长达四十年的战争历史上也是少见的；此战的胜利要归功刘敏的缜密部署和宋军中级指挥官群体的合理决策和丰富的作战经验。
辽军败退，宋军在打扫战场结束后，用斩获的辽军官兵的首级在宋辽边界上筑京观，以显示武功并向辽军示威。
宋军在遂城——羊山战役中的胜利，扭转了此前宋军严重不利的局势。
遂城——羊山之战的获胜，不但直接给了辽军当头一棒；也为宋军调整部署在河北从新组织防线赢得了时间。
并且，前军在获胜后足以得到足够的情报，详细得知辽军此次南侵的规模、兵力组成、甚至一部分战略意图和计划。
同时，如此的大胜对于整个河北宋军的军心也是一次振奋。
两年前的裴村之战中受到打击的宋军士气得到空前鼓舞。
与此相反，对于契丹，此战的失败使辽军在战役发起时的优势被严重侵蚀，战役发起的突然性荡然无存，军心士气受挫，还面临着全盘计划泄露的危险。
战后，双方各自为下一步的行动开始了调兵遣将。
在宋方，随着前线的战报相继送达，一系列兵力调动开始进行。
宋军高层在看清所面临的形势后，果断放弃了不切实际的战前计划；一方面命令镇、定主力不再出击威虏军，放弃前沿防御计划，转而师法从前的习惯战法，在纵深的唐河组织防御，一方面令前阵骑兵后撤，在莫州都部署桑赞下属的一万步兵的掩护下后撤至宁边军，进行战后休整。
同时，由于宁边军位于唐河防线东侧。前阵骑兵后撤至宁边军，在消除了被辽军主力合围的危险的同时起到了保护唐河防线侧翼的作用。
宋军在定州方向的防御体系在这一番调动之后重新建立起来。
为了牵制辽军在河北防线最西段的定州方向的攻势。
宋军高层在采纳了知雄州何承矩的建议，使用围魏救赵的战术，在整个河北防线的最东段的乾宁军派出部队，搭乘水军的浅海巡逻船（刀鱼船），自界河入海，跨渤海在辽境的平州（今河北卢龙）登陆，发起进攻，以吸引辽军主力回救。
这是自雍熙北伐以来宋军第二次动用海军运送陆军部队跨海攻击辽境。
同时，在东线的淤口关、益津关，宋军均出兵对辽境展开了牵制性进攻。