后来天下知名的大辩士陆贾前来丞相府谏言陈平。
陆贾:参见丞相！
陈平:陆大人，快快请起！还请赐教！
陆贾:丞相，您应该与掌管军权的太尉周勃交好，这样，您才能安定天下。
陈平:彩！先生，请上座！
陈玉:之后陆贾还为陈平谋划了平定吕氏的几个关键点。陈平听后觉得很有道理，很快采纳了陆贾的几条建议，实现了与周勃交好。此后，二人紧密团结，有力阻碍了诸吕的谋划篡国的图谋。
吕后吕雉把持大汉朝政的第八年（公元前180年），吕后去世了。她的族人吕禄和吕产掌握着大汉宫廷的南军和北军，他们准备发动叛乱，一举夺得华夏江山。
陈平就向被禁止进入军营掌握兵权的周勃提供了妙计，让周勃派了吕禄的好朋友郦寄前去安抚吕禄，想方设法劝说吕禄交出了宫廷北军的军权。
吕禄听了好朋友的劝谏后，询问家人是否把将军权交出去。这期间周勃进入军营，派郦寄和刘揭前去说服吕禄，终于迫使吕禄交出了大汉宫廷北军的军权。
而南军仍然被吕产控制，曹参儿子平阳侯曹窋听说了吕产即将要作乱的阴谋后把这一消息告诉了陈平。陈平又派了朱虚侯刘章，前去协助周勃。吕产不知道此时吕禄已经交出了北军军权，想要率军进入皇宫作乱，但不能攻破殿门。最终周勃、刘章等人率军来援，吕产失败了。
很快，吕氏的势力就被彻底荡平了，陈平、周勃等人派人去迎接代王刘恒前往长安登极，进过多次劝说，终于使刘恒同意登基，也就是汉文帝。
随后陈平表示在诛灭诸吕时自己功劳不如周勃，于是称病，希望将尊贵的位让给周勃，于是陈平功劳位居第二，被封为左丞相。
在陈平、周勃的参与下，大臣们终于铲除了诸吕的势力，安定了刘氏的社稷。
汉文帝慢慢熟悉了政事后，在上朝的时候，问右丞相周勃全国的案件数目和钱粮收支，周勃答不上来。
汉文帝又问陈平这个问题，陈平回应称这两件事都有主管的官员去负责。汉文帝又问陈平丞相的职责是什么，陈平回应道他的职责是辅佐天子，稳定国家，并让大臣们恪守职责。汉文帝听后，对这十分满意。
周勃出宫后责备陈平不事先告知自己如何对答，陈平告诉周勃既然在丞相的位置上，就应该明白自己的职责所在。于是周勃明白自己才能难以比得过陈平，不久后，他辞去丞相职务。此后一段时间，陈平独自担任了丞相的职务。
汉文帝二年（公元前178年），陈平去世，谥号献侯，安葬于鄠县附近（后世陕西省西安市鄠邑区石井镇曹家堡西侧）。
