上得梁山后，坐上了第二把交椅，成為了總督兵馬第一副元帥。忠義堂前亦豎起了“山東呼保義”、“河北玉麒麟”兩面大旗。

征遼、平方臘后，朝廷封其為廬州安撫使兼兵馬副總管。后因同高俅、楊戩有矛盾，被兩人設(shè)計在皇帝的御酒里放入水銀，盧俊義喝后不能騎馬，在泗州淮河乘船時失足落水而死。

盧俊義被逼上梁山

晁蓋死后。宋江得知大名府有個英雄叫盧俊義，想讓他上山落草。吳用自告奮勇，帶著李逵扮作算命先生去盧俊義家里給盧俊義算卦，讓盧俊義去泰安州消災(zāi)。又提了首藏頭詩（盧俊義反）。盧俊義信以為真，誰勸都不聽，一定要走一趟。于是他帶著管家李固就往那出發(fā)了。

路過梁山時中了計策，被活捉上山（李固也被捉，但先放走了）。盧俊義在上山住了幾天就告辭回家。路上遇到燕青。燕青說李固和盧賈氏私通，謀取了盧家，趕走了自己，又設(shè)了埋伏要抓主人。盧俊義不信，大罵燕青。

結(jié)果回家被埋伏的官差所抓。關(guān)在了大名府的監(jiān)獄里。燕青不離不棄，為盧俊義要飯吃。盧俊義被發(fā)配沙門島。李固買通董超薛霸要害死盧俊義（林沖的翻版。）。兩人正要動手，卻被埋伏在一邊的燕青射死。

燕青帶著盧俊義到了一家客店休息，自己為盧俊義去射些小鳥充饑?；貋頃r發(fā)現(xiàn)盧俊義被當(dāng)?shù)氐睦镎龓俗プ摺Ｑ嗲酂o可奈何，去梁山泊求援，遇到了楊雄和石秀。石秀一人潛入大名府，跳樓劫法場（盧俊義再次被抓后梁中書決定將他斬首）。卻和盧俊義雙雙被抓，關(guān)入大牢。

梁山軍馬來攻大名府，于次年元月里應(yīng)外合攻破，救下了盧俊義和石秀。盧俊義感恩戴德，自己也是無路可走就上了梁山。