咸豐元年（1851年），廬江一帶發(fā)生嚴重災荒，丁汝昌父母先后病故。咸豐三年十二月（1854年1月），太平軍占領廬江，丁汝昌征入太平軍。后隨太平軍駐扎安慶，成為程學啟部下。

二、投降清軍

咸豐十一年（1861年），安慶被湘軍圍困危急，身為太平軍陳玉成部下的程學啟，深夜率丁汝昌等300余人翻越城墻，向集賢關湘軍訓導曾貞干投降。

湘軍將領曾國荃對這批降軍存有疑慮，每逢戰(zhàn)斗，必令他們居于前列，七月十三日，程學啟、丁汝昌作為前導，攻破安慶北大門外的太平軍營壘3座，斷絕了安慶北面的交通，使守城的太平軍處境更加艱難，八月一日，曾國荃指揮程學啟、丁汝昌等攻占安慶，太平軍守將葉蕓萊以下1.6萬人全部戰(zhàn)死。

戰(zhàn)后，程學啟升任游擊，賞戴花翎，充當開字營營官，丁汝昌升任千總，充當開字營哨官。當時因上海士紳請求，曾國藩命令李鴻章組建淮軍，支援上海，并將大都由安徽人組成的，程學啟的開字營撥歸李鴻章指揮。

同治元年（1862年），程學啟、丁汝昌等隨李鴻章乘輪船前往上海。八月，配合劉銘傳銘字營與太平軍戰(zhàn)于四江口，劉銘傳見丁汝昌作戰(zhàn)英勇，請李鴻章把丁汝昌調入銘字營，仍充哨官，統(tǒng)領親兵100人。旋改統(tǒng)領馬隊，升任營官，授參將。

同治三年（1864年），太平天國敗亡。曾國藩北上督師剿捻，由李鴻章署理兩江總督，辦理后勤。丁汝昌升為副將，統(tǒng)先鋒馬隊3營，隨劉銘傳北上，與捻軍作戰(zhàn)。同治七年（1868年），東捻軍被清廷剿滅，丁汝昌因功被授為總兵，加提督銜，賜協勇巴圖魯勇號。