民国十七年（1928年）初，第一次下野的蒋介石复出重任“国民革命军总司令”，他深刻反思了前一年8月桂系的“逼宫事件”，认为军事情报不及时和军队思想掌控不得力是两大原因，遂“痛定思痛”在总司令部内一口气任命了几十名侍从副官和联络参谋。其中“联络参谋”的主要职责就是搜集各部队的内部情况和军事主官的思想倾向，这批新增联络参谋中有两个家伙，后来都成为了著名的军统大特务。
其中一个是黄埔二期的郑介民，另外一个就是黄埔六期肄业的戴笠，联络参谋的工作虽然名义上直接对蒋某人负责，但是却由其亲信王柏龄统一管理。之前戴笠在蒋介石下野期间仍然没有闲着，四处搜集情报工作“颇有成效”，加之原密查组长胡靖安的力荐，才被破格任命为总司令部上尉“联络参谋”，但是在民国十七年（1928年）的那个时间段里，戴笠还只是个微不足道的小角色。
因为在当时的总司令部里，新锐军官和副官、参谋等几乎都是黄埔前三期的毕业生，拉帮结伙各具实力，唯独这个戴雨农是六期的小弟，地位不高，人微言轻，很是被那帮子黄埔学长瞧不起。戴笠甚至不具备直接晋见总司令和随意出入官邸的权利，许多辛苦搜集来的情报不能面呈，尽管7月间被任命为徐州戒严司令部少校副官，情况仍然没有多少改善。
戴笠
不仅是他的黄埔学长们，甚至连总司令官邸的警卫、司机、厨师、娘姨们也都非常轻视戴笠，每次看见戴笠都直接喊：“小瘪三又来了”。尤其是侍卫长王世和最瞧不起戴笠，这个黄埔一期的奉化籍军官仗着宠信，一贯专横跋扈欺上瞒下，可他又是戴笠晋见必须过的一关，当时的戴笠又囊中羞涩没有多余的银子孝敬王世和，便只好使小钱买通警卫和司机等人转呈文件，这就犯了王世和的大忌。
有一次，王世和再次发现戴笠绕过自己晋见，于是在戴笠出门时破口大骂：“戴雨农，我下次再看见你私闯官邸，非把你关起来不可”！而未来的陆军中将（职务军衔）、军统大老板戴笠也不敢还嘴，只能默默夹着尾巴离开，并引以为奇耻大辱。戴笠发迹之后，终于动手脚把王世和赶下了侍卫长的位置，算是报了一箭之仇。
这时候的戴笠因为没有专门的特务机构，几乎就是个“情报个体户”，工作起来不仅要起早贪黑，还要遭人白眼，没有什么人会认为他有出头之日。他每天很早出去搞情报，半夜三更回来后要分类整理，然后再请自己的同期同学徐亮用正楷誊写出来，草草睡一会之后，天不亮就要去总司令官邸候着呈交，手头有几个钱时坐黄包车，没钱时就要走着过去。
王世和
兹要避开王世和的纠缠，使情报顺利送给总司令秘书毛庆祥，那么比较重要的内容就会转到蒋介石手中，如果情报一旦被肯定，需要进一步调查和补充资料时，蒋介石就会嘱咐毛庆祥发给戴笠一笔经费。拿到经费的戴笠照例会抽头给警卫、司机、娘姨们一点好处，剩下的钱才留着自己花以及调查之用，战战兢兢，如履薄冰，远不是后来那么权势熏天。
转机出现在民国十八年（1929年）冬天，重掌兵权的唐生智宣布反蒋，戴笠奉命潜入河南进行策反活动，他首先拉拢了唐军总司令部军警稽查处长、黄埔二期生周伟龙，并通过他收买和串联了一批唐部军官，造成唐生智所部分崩离析，进而在中央军的武力攻击下很快土崩瓦解，唐生智被迫通电下野。而完成任务的戴笠受到重奖，同时晋升中校联络参谋，成为总司令部的后起之秀。
从此戴笠的分量明显加重，中原大战期间负责瓦解西北军，成功收买石友三等人倒戈，再单独负责张学良东北军的对接工作，开始独当一面。
石友三
民国十九年（1930年）末成立第一个特务组织调查通讯小组，建立所谓的“十人团”，开始与中统特务机关的前身“党调处”分庭抗礼，民国二十一年（1932年）复兴社成立，戴笠在胡宗南的力荐下出任特务处长，力压黄埔二期的郑介民，民国二十三年（1934年）再兼南昌行营调查科长。
也就是说，从民国十七年（1928年）正式从事特务工作开始，戴笠仅仅用了四年时间就成为军统前身“特务处”的老大，完成了从“小瘪三”到令人谈虎色变的特务头子之逆袭。民国二十六年（1937年）成为“军事委员会调查统计局”（老军统）二处少将处长，民国二十七年（1938年）成为新成立的军统局副局长，从上尉混到少将，也仅仅用了九年光景。