呼延灼引薦陳州團練使“百勝將”韓滔及潁州團練使“天目將”彭玘為正副先鋒，共同討伐梁山。

與梁山軍隊接戰(zhàn)后，呼延灼先后與林沖、扈三娘及孫立交鋒，均不分勝負，然而副將彭玘卻為扈三娘所擒，于是呼延灼與韓滔以“連環(huán)馬”大勝宋江，又請來炮手“轟天雷”凌振助戰(zhàn)，令梁山軍隊幾度陷于苦戰(zhàn)。

可惜后來晁蓋、宋江等先行誘擒凌振，吳用又使湯隆、時遷及樂和用計，請來“金槍手”徐寧，教授梁山軍隊使用鉤鐮槍，大破“連環(huán)馬”，結果韓滔遭擒，官軍敗陣。呼延灼不能支吾，唯有只身逃往青州地面，投奔知府慕容彥達，以圖伺機卷土重來，詎料投身青州途中又被盜走了踢雪烏騅，令呼延灼銳氣盡墮。

三、纏斗青州

來到青州后，慕容知府請呼延灼助其將二龍山、桃花山、白虎山的賊寇剿盡，方肯替其向朝廷保奏免罪。呼延灼于幾場戰(zhàn)役中大敗周通、李忠、孔明等人，又與魯智深、楊志交手，不分勝負，雙方僵持不下。

后來孔亮到梁山請宋江引軍來援，吳用設計先擒呼延灼，最后呼延灼于陷坑中被活捉，在宋江的好言相勸之下，正式歸順梁山，重獲踢雪烏騅 ，獻計打破青州，三山聚義，眾好漢同歸水泊。成為梁山馬軍的一員重要將領。

四、計賺關勝

呼延灼奉命向攻打梁山的“大刀”關勝詐降，并成功騙得關勝劫寨，將其擒下，立下大功。排座次時，呼延灼位列天罡星第八位，上應“天威星”，為梁山第八名好漢，又被封為“馬軍五虎將”之第四員，與楊志、韓滔、彭玘一同鎮(zhèn)守梁山泊正北旱寨。后來多次在戰(zhàn)陣中擔任北方或后軍的主將，主要對應軍中的“玄武”方位。