洪武十三年（1380）正月，丞相胡惟庸稱其舊宅井里涌出醴泉，此為祥瑞，并借此邀請明太祖朱元璋前來觀賞。朱元璋欣然前往，走到西華門時(shí)，太監(jiān)云奇緊拉住韁繩，急不能言，拼命指向胡家。

朱元璋感覺事態(tài)嚴(yán)重，立即返回，登上宮城時(shí)，發(fā)現(xiàn)胡惟庸家上空塵土飛揚(yáng)，墻道都藏有士兵。太祖大怒，以“枉法誣賢”、“蠹害政治”等罪名，當(dāng)天處死胡惟庸、陳寧等。

同時(shí)藉辭窮追其友好，包括開國第一功臣韓國公李善長等大批元?jiǎng)姿迣⒔允苤赀B，牽連致死者三萬余人，史稱胡惟庸案。胡惟庸案與藍(lán)玉案合稱胡藍(lán)之獄，誅滅直到洪武二十五年（1392）方告結(jié)束。

除掉胡惟庸后，朱元璋罷左右丞相，廢中書省，其事由六部分理，另設(shè)殿閣大學(xué)士供皇帝做為顧問，結(jié)束了中國的宰相制度，加強(qiáng)了專制皇權(quán)。胡惟庸是中國封建王朝最后一個(gè)名至實(shí)歸的丞相。此后，中國封建王朝“丞相”職位徹底消亡。從這個(gè)意義上說，不管他是奸是忠，他是最后一個(gè)敢向皇帝權(quán)威挑戰(zhàn)的丞相，胡惟庸被動(dòng)地改變了中國歷史。