1979年10月的一天，許世友給自己的兒子寫了一封信，信中的主要内容就是讓自己的兒子替自己準備葬禮所需要的東西。可能是冥冥之中的運數，許世友知道自己或許命不久矣。
到了1985年春節前夕，在家正準備歡度春節的許世友突然感到腹部常常脹痛，但是當了一輩子兵的許世友并沒有将這點痛當回事，為了避免讓周圍的人覺得自己身體不行了，硬是扛着什麼人都沒告訴。到了三月，許世友到上海華東醫院做例行檢查時，不幸被确診為肝癌。
之後的幾個月裡，許世友的病情不斷惡化，到了9月30号，醫院下達了“病危通知書”。這時，許世友的老戰友，軍委副主席楊尚昆親自跑到南京探望已經病危的許世友。看到許久未見的老戰友到來，許世友雖然感到十分開心，但是當時已經處于病危狀态的許世友隻能通過喉嚨發出來一些蒙混不清的聲音。
但是老戰友楊尚昆聽懂了，許世友在和他說：“我完蛋了！”這四個字也就成為了上将許世友最後一句話。短短四個字，凸顯了老一輩革命家對生死的輕描淡寫，雖然粗犷，卻顯示出這位大半輩子都浴血奮戰開國将領的霸氣。
1985年10月22日，許世友在南京軍區總院去世，享年80歲。