1960年10月，陳賡陪同周恩來接見了第一批被特赦的國民黨戰犯。在接見的會議上， 陳賡和周恩來向戰犯們講清了國民黨失敗的原因。被特赦的戰犯大部分都是陳賡的同學，他們都表示毀過自新。 1960年，陳賡突發心臟病。中央請他到上海養病，在上海養病期間，陳賡見到很多當年在上海工作時的老朋友、老同事。他還見到了剛釋放出獄的楊登瀛，對楊當年為黨工作表示了肯定。 1961年初，陳賡依照中央指示，開始撰寫自己的作戰總結。他不停的工作，導致身體狀況惡化，于1961年3月16日逝世。