1985年3月，总参领导班子调整，已经担任5年副总长的张震，被免去职务。此时，他已经71岁，放眼世界，这样的年纪还在军队服役，恐怕不多，他完全拥护这一决定。
按照总长的意见，需要进行为期3个月的交接，完成后就可以安心休息了。张震也为自己离休后的生活安排上来，想多读读书。
没多久，一次会议上得知，组织上要把军事、政治、后勤三大学院组建一所国防大学，询问他的意见。他认为三大院校与高级步兵学校教材交叉重复较多，有些人从步兵学校到三大学院学习，还学重复内容，感到不新鲜。
领导明确地说：筹建国防大学，由你负责，怎样？张震听后感到挺突然的。三大学院领导都具有丰富的办学经验，资历老、威望高，像萧克、刘志坚等人。为此，他提出最好由萧克或刘志坚负责。上级对他说，他们现在在学院任职，让他们负责筹建，恐怕工作上会有不便，而且年龄较大一些。
张震在1957年担任过军事学院副院长、院长，干过10年院校工作，很有经验。可也在特殊时期受了不少苦，说真的，对学校工作，有很深的感情，也留下不少伤痕，不愿意再到学校工作。可上级交代他的日内瓦，觉得不便推迟，表示就算是发挥“余热”吧！
杨得志总长说：这是“下马”，不是“解甲”啊。
经过一段时间筹建，国防大学领导班子中，张震被任命为校长，原本计划退下来，想读读书。
对于诞生的军队最高学府，他提出4个字设想：高、新、宽、深。简单说：高一些，新一些、宽一些、深一些。对于大学办校方针，学制搞得多长？学校体制如何设定，搞几个部、系等。
他听取三大学院领导的意见，开座谈会，分别听取军区和军兵种领导机关的意见。
在他的带领下，国防大学工作逐渐走上正规化。
1992年，已经在国防大学工作7年的他，已经78岁了，再次准备离休，邓小平建议让他到军委工作，职务更高，任务更重，给自己规定九个字：干实事，少出面，不越权。