1926年初升任第1軍（何應(yīng)欽）教導(dǎo)師第2團(tuán)（團(tuán)長胡公冕為共產(chǎn)黨員）第2營營長；7月把同鄉(xiāng)戴笠推薦給蔣介石，胡宗南在胡公冕的推薦下，升任教導(dǎo)師第2團(tuán)上校團(tuán)長，參加北伐戰(zhàn)爭；同月，參加了北伐戰(zhàn)爭，任第一師團(tuán)長。10月，胡宗南在南昌城郊使用火攻計，以1個團(tuán)的兵力打敗孫傳芳1個精銳師，俘虜軍長李彥春等；11月教導(dǎo)師改為第1軍第1師，隸屬東路軍（何應(yīng)欽）序列，進(jìn)軍浙江。

1927年3月20日攻克上海；5月任第1軍第1師少將副師長兼第2團(tuán)團(tuán)長，成為國民黨黃埔系學(xué)生的第1個將軍；8月從杭州飛馳南京參加龍?zhí)稇?zhàn)役；10月26日，胡宗南升任第1軍（劉峙）第22師師長；11月?lián)魵е濒斅?lián)軍白俄雇傭兵裝甲車隊。1928年4月參加第二期北伐。8月第22師縮編為第1師第2旅，任旅長，11月所部在蔣介石校閱中因訓(xùn)練成績突出，被評為“模范旅”。

1928年4月參加第二次北伐，一舉攻占蚌埠；5月1日進(jìn)濟(jì)南，5日撤退到曲阜整訓(xùn)；10月第1軍第22師整編為陸軍第1師（劉峙）第2旅，胡宗南任少將旅長；11月蔣介石親臨徐州校閱第1師，第2旅被譽為“模范旅”，其第3團(tuán)受閱成績列全國陸軍第一。

1929年3月蔣桂戰(zhàn)爭爆發(fā)，胡宗南率軍警戒武漢，第2旅改成第1旅，胡宗南仍任旅長。1930年5月參加中原大戰(zhàn)，在河南開封附近與反蔣部隊作戰(zhàn)，6月7日胡宗南任第1師代理師長，沿隴海路迎擊西北軍孫良誠部。