太子曹丕對他特別敬佩和器重，把他比作顏回，以朋友之禮和他相處。曹丕常常說：“自從我有了陳群這個朋友，門人們都日益親密?！辈痪茫惾罕环鉃椴渫ず?，改任尚書，掌吏部。

陳群任吏部尚書后，認(rèn)為漢代的察舉、征辟制度有缺陷，不能攬盡天下人才，乃創(chuàng)立九品官人法，作為選士授任的新制度。

九品官人法又稱九品中正法。其法是每州郡設(shè)置中正官，由本州郡賢德有賞識能力者、或本州郡在中央為官者充任。他們按德行、家世把所管州郡士人分成九等，即上上、上中、上下、中上、中中、中下、下上、下中、下下等九個品級，并加上評語，上報(bào)朝廷。

人物品級評定后并非永久不變，還時常依其言行的好壞升降。這樣，吏部就有了依據(jù)，按品第授官任職。

九品官人法制定后，有才德的士人和出身世家的后裔，都可以得到品定，出仕為官，對曹魏團(tuán)結(jié)廣大士人，鞏固自己的政權(quán)起過積極作用。

公元220年10月，曹丕代漢稱帝，陳群升為尚書令，進(jìn)爵穎鄉(xiāng)侯。然后他和華歆等人卻面帶悲容。曹丕大為不快，就問陳群：“我應(yīng)天命受禪代漢，滿朝文武，個個喜形于色，而獨(dú)有你和華歆不高興，這是為什么？”

陳群忙起坐下跪，回答說：“陛下受禪，我們內(nèi)心高興，而我與華歆曾經(jīng)是漢朝舊臣，因忠義之道又不應(yīng)該表露出喜色?！辈茇牶?，更加器重他。

黃初六年（公元225年），陳群為鎮(zhèn)軍大將軍，領(lǐng)中護(hù)軍，職掌禁軍，并錄尚書事，總攬朝政。曹丕臨終時，詔陳群與曹真、司馬懿三人共同受遺詔輔政。