1947年1月，粟裕率華東野戰(zhàn)軍先后發(fā)起了宿北戰(zhàn)役、魯南戰(zhàn)役、萊蕪戰(zhàn)役、泰蒙戰(zhàn)役、孟良崮戰(zhàn)役等，共殲國民黨7個軍（整編師）和1個快速縱隊。其中，1947年5月殲滅國民黨號稱“王牌軍”的整編第74師。人民解放軍轉(zhuǎn)入戰(zhàn)略進(jìn)攻后，率華東野戰(zhàn)軍主力挺進(jìn)魯西南，掩護(hù)晉冀魯豫野戰(zhàn)軍主力南下大別山，指揮沙土集戰(zhàn)役，殲國民黨整編第57師，迫使國民軍從山東和大別山區(qū)抽調(diào)4個整編師來援，實(shí)現(xiàn)了華東戰(zhàn)區(qū)由內(nèi)線向外線、從戰(zhàn)略防御到戰(zhàn)略進(jìn)攻的轉(zhuǎn)折，隨即挺進(jìn)豫皖蘇邊區(qū)。

1948年5月，被任命為華東野戰(zhàn)軍司令兼政委，在其推辭后任代司令兼代政委。1948年6月兼任豫皖蘇軍區(qū)司令員。

1948年6月16日，粟裕發(fā)起開封戰(zhàn)役（又稱豫東戰(zhàn)役第一階段），激戰(zhàn)5晝夜，22日攻克開封，全殲守敵及部分援?dāng)彻?萬余人。6月27日發(fā)起睢杞戰(zhàn)役（又稱豫東戰(zhàn)役第二階段），激戰(zhàn)6天，共殲國民黨軍5萬余人。7月12日發(fā)起兗州戰(zhàn)役，殲敵6.3萬余人，使王耀武盤踞的濟(jì)南陷于孤立。豫東戰(zhàn)役中，華東野戰(zhàn)軍參戰(zhàn)兵力達(dá)20萬人，國民黨軍參戰(zhàn)的兵力達(dá)25萬余人。經(jīng)過20天連續(xù)作戰(zhàn)，華東野戰(zhàn)軍共殲敵9萬余人，給了中原之?dāng)骋灾貏?chuàng)，為華東野戰(zhàn)軍進(jìn)一步開展中原和華東戰(zhàn)局，創(chuàng)造了有利條件。

1948年9月11日，被任命華東野戰(zhàn)軍總指揮。9月16日，發(fā)起濟(jì)南戰(zhàn)役，24日勝利結(jié)束，全殲濟(jì)南守敵10.4萬余人（包括起義兩萬余人），生俘國民黨第二綏靖區(qū)司令官王耀武以下將領(lǐng)23名。在阻援打援戰(zhàn)場上，國民黨援軍遲遲不敢北上增援，華東野戰(zhàn)軍不戰(zhàn)而勝。