东汉初年，光武帝任命冯勤为司徒，对他异常重视。甚至，光武帝对冯勤的母亲也是极为尊重，每次会见的时候都免跪拜之礼，每次还让侍卫亲自扶着她上殿。有次会见冯勤母亲的时候，光武帝还对着诸王及公主说：“是冯勤贵宠的，是这位老母啊！”
实际上，冯勤最开始也没有得到光武帝重视，他仅仅是铫期麾下的军曹而已，职责是替铫期管理政事。后来，冯勤与同县人冯巡等起兵响应光武帝，计划没有成功而被豪富焦廉等人所反，冯勤就带领母亲兄弟及宗族亲戚回到铫期身边，铫期把他们全看作是心腹之人，并把冯勤推荐给光武帝。
起初，光武帝只把冯勤当做普通人。后来，因谋划军粮问题，冯勤每件事都精心用力，渐渐得到了光武帝的亲近和赏识。每次召见冯勤，光武帝就对周围的人说：“真是个好官啊！”从此光武帝让冯勤主管诸侯封赏事宜。
对于诸侯封赏事宜，冯勤做得更是出色。冯勤针对全国各地土地的远近，以及土地的肥沃与瘠薄程度进行了细致的归类，然后根据实际情况将土地按等级排名。于是乎，光武帝每次封赏功劳的时候，都使用冯勤的资料，每次都能不失偏颇，让每个人都心悦诚服。
有次，司徒侯霸举荐前任梁县县令阎杨。阎杨先前多次提过意见，光武帝很讨厌他，见到侯霸奏章，怀疑其中有奸私，非常生气，赐给侯霸诏书说：“崇山、幽都哪里可以流放，斧钝一下杀你头。你是想以身试法呀？还是想杀身成仁啊？”派冯勤拿着诏书到司徒府。
冯勤到了侯霸府上，对他举荐阎杨的事情做了具体询问，得知侯霸举荐阎杨这件事并没有什么奸私。回去后，冯勤就将自己的调查结果如实上报，陈述侯霸的本来用意，这才让光武帝消了气。
从这件事可以看出来，冯勤确实是个贤臣，这样的人自然不会被埋没。在积淀了十五年后，冯勤因功被授予关内侯爵位。后来，冯勤升任尚书令、大司农，并于武二十七年（公元56年）五月十一日升任司徒，位列三公。
升任司徒之前，光武帝担心他和之前担任三公的人一样不能善终，就趁着宴会劝告冯勤说：“朱浮上不忠于国君，下欺压同僚，最终因此获罪直到现在，死活吉凶都不知道，难道不可惜么！臣子遭到流放被杀，即使事后再加以赏赐祭奠，也不足以抵偿可贵的人生。忠臣孝子，光耀前代，你应以此为鉴。能够一心忠于国家，事奉君主没有二心，那么爵位与赏赐使你万世光荣，功名永远流传，怎能不努力呢？”
从光武帝的话就可以看出来，他对冯勤是寄予厚望的。冯勤也因为光武帝劝告，行事更加恭俭尽心，人称能胜任三公的职务。
建武中元元年（56年）六月二十八日，冯勤去世，光武帝悼念怜惜冯勤，派遣使者前往吊唁祭奠，赐给他家东园棺椁，赠给助葬费用超出标准。