阮思聰見到他認(rèn)為他是奇才，告訴了呂文德，呂文德征召他為小校。多次立功升到黃州武定諸軍都統(tǒng)制。攻打安東州，戰(zhàn)斗猛烈，與高達(dá)援救鄂州有功，遷調(diào)官職十階。

不久隨從賈似道進(jìn)入黃州，戰(zhàn)于騣草坪，奪回?cái)橙怂@的東西，加官環(huán)衛(wèi)官，歷任知高郵軍、安東州。

二、駐守鄂州

咸淳四年（公元1268年），元軍修筑鹿門堡，呂文德向朝廷請(qǐng)求增兵，調(diào)張世杰與夏貴前往。等到呂文煥帶著襄陽(yáng)投降元軍，朝廷命令張世杰率領(lǐng)五千人駐守鄂州。

張世杰用鐵索封鎖兩城，夾以火炮、弓弩，其顯要之地都散布木樁，設(shè)置攻打器具。元軍攻破新城，長(zhǎng)驅(qū)而下，張世杰奮力戰(zhàn)斗，使元軍不能前進(jìn)，元軍派人招降他，張世杰不順從。

元丞相伯顏陽(yáng)明著攻打嚴(yán)山隘，暗中從唐港以水軍沖鋒陷陣進(jìn)入漢水，東攻鄂州，鄂州投降。

三、入朝勤王

張世杰率領(lǐng)所部軍隊(duì)入衛(wèi)臨安，又經(jīng)過(guò)饒州，才入朝廷。當(dāng)時(shí)正危急，召諸將救援朝廷大多沒(méi)有到達(dá)，只有張世杰來(lái)到，宋度宗嘆息驚異。張世杰從和州防御使不到幾個(gè)月多次加官到保康軍承宣使，總都督府兵。

派遣將領(lǐng)四處出擊，取得浙西各郡，收復(fù)平江、安吉、廣德、溧陽(yáng)諸城，軍勢(shì)頗為振奮。七月，與劉師勇等將領(lǐng)大規(guī)模出師焦山，命令用十條船結(jié)為并船，下碇停泊在江中，沒(méi)有命令不得啟碇，表示以必死的決心。

元主帥阿術(shù)載著張滿弓弩的士兵用火箭攻打并船，張世杰軍隊(duì)亂了陣腳，沒(méi)人敢啟碇，投江而死的有一萬(wàn)多人。張世杰大敗，奔逃圌山。向朝廷上奏疏請(qǐng)求救援的軍隊(duì)，沒(méi)有得到答復(fù)。不久提升為龍、神、衛(wèi)四廂都指揮使。