黄初元年（公元220年） ， 曹丕登基之后 ， 因陈群制定礼法有功 ， 下诏加封其为昌武亭侯 ， 擢升尚书 。 六年之后 ， 魏文帝曹丕病危 ， 在病榻之上指定陈群（镇军大将军）与曹真（中军大将军）、曹休（征东大将军）、司马懿（抚军大将军）四人辅佐新帝曹叡 。 曹丕此举其实颇具政治智慧 ， 四位辅政大臣中两人是曹魏宗室 ， 两人是外姓大臣 ， 可以相互制衡 。 另一方面 ， 四人同时拥有军权 ， 可以开府处理军政事务 ， 也能够分散各自的权力 ， 不用担心其有不臣之心 。

魏明帝曹叡执政时期 ， 陈群历任司空、录尚书事 ， 累封颍阴侯 。 需要指出的是 ， 由于曹魏政权废除了三公 ， 再加上太祖曹操曾担任丞相 ， 因此不再设立 ， 所以录尚书事成为事实上的宰相 。 由于曹休、曹真二人是纯粹的武将 ， 所以只有陈群与司马懿拥有“录尚书事”的头衔 ， 而这也使陈群成为制衡司马懿的关键 。 然而在青龙五年（公元237年） ， 陈群就不幸病逝 ， 这就为司马懿日后权倾朝野埋下伏笔 。 正始四年（243年） ， 魏帝曹芳继位后 ， 下诏追赏陈群 ， 令其与曹真、曹休等人配享曹操庙庭 。