此后，他先后任蕭（今安徽蕭縣）、贊（今河南永城）、長(zhǎng)平（今河南西華）等縣縣令。次年六月，他父親故亡，便辭官歸家守喪。喪事辦完，被授以司徒掾，后又升任治書(shū)侍御史，又轉(zhuǎn)為參丞相軍事，作了曹操的高級(jí)幕僚。

建安十八年（公元213年），曹操封魏公，陳群升任御史中丞，成了執(zhí)掌奏劾不法的大臣。

曹操打算恢復(fù)肉刑，即實(shí)行斬?cái)嘧锓傅哪_或割去鼻子等刑罰。他下令讓群臣討論，并問(wèn)陳群：“過(guò)去你父親認(rèn)為死刑也可以體現(xiàn)仁慈和恩典，那意思是不是說(shuō)，肉刑可以恢復(fù)呢？”肉刑是古代的刑罰，包括黥面、割鼻、斬足、宮刑等等。

漢文帝十三年（公元167年），下令廢除，代以笞刑，即用杖策鞭打數(shù)百來(lái)代替。例如，當(dāng)斬左腳的，鞭杖五百，當(dāng)割鼻的，鞭杖三百。結(jié)果，犯人往往被打死。

所以，陳群回答說(shuō)：“漢代廢除肉刑而增加鞭杖，本是懷仁慈、同情犯人而為，不料，這樣死的犯人更多。臣父以為這是名輕而實(shí)重的作法。名義上減輕了處罰，容易使人犯罪，而實(shí)際上處罰又加重，傷害的人則更多。

古代制定肉刑，是用來(lái)輔佐治國(guó)，協(xié)助施行教化的，為什么不可以恢復(fù)一部分？如今用笞死犯人之法來(lái)代替肉刑，是看重人的肢體而輕視人的生命，有什么好呢？”鐘繇也同意陳群的看法，而王朗及其很多人則反對(duì)。

曹操認(rèn)為陳、鐘的主張很對(duì)，但是，當(dāng)時(shí)戰(zhàn)亂不息，他考慮到反對(duì)的人太多，就把恢復(fù)肉刑這事擱置起來(lái)了。

后來(lái)，陳群任侍中，在天子左右應(yīng)對(duì)顧問(wèn)，同時(shí)又兼領(lǐng)丞相府西曹掾，主管府吏的署用。他在朝中，不固持己見(jiàn)，老成穩(wěn)重，不以歪門(mén)邪道待人。