张爱萍是一位秉性耿直的将军，在职务上不计较高低，觉得自己能胜任，再低也可以干，觉得自己干不了，再高也不想干。
他在战争年代和和平时期，曾经推掉了很多职务。
在抗战时期，他推掉了新四军参谋长的职务；解放战争初期，他担任华中军区副司令员，推掉了兼任野战纵队司令员的职务，让老部下张震担任，历练一下。
新中国成立后，他接替了张震华东军区参谋长的职务，负责华东军区的日常工作。
当时的华东军区主要领导身兼数职，司令员陈毅兼任上海市长，在上海工作；政委饶漱石兼任上海市委书记，负责华东局。
粟裕担任副司令员负责军区日常工作，参谋长张震和政治部主任唐亮负责协助。
1952年，粟裕和张震都调到总参工作，就把在浙江任职的张爱萍调过了。
按照，大军区一般惯例，参谋长可以兼任副司令员，主要是司令员不在时，可以便于工作。像东北军区副司令员兼参谋长贺晋年，西北军区副司令员兼参谋长彭绍辉等。
张爱萍觉得担任副司令员只是挂名而已，还不如只担任参谋长，工作比较专注一些。他推荐山东军区司令员许世友，担任华东军区副司令员。
到了1954年，张爱萍担任了被任命为副总长，到1955年上任，在这个岗位上干了一二十年，负责尖端武器科研工作。