陈仲举即陈蕃，汝南平舆（今河南省平舆县）人。关于他的家世没有太多记载，只知道祖父做过河东太守，也算是官宦子弟。陈蕃从小胸怀大志，不拘小节。十五岁那年，父亲的朋友来拜访，看见他住的房间脏乱差，忍不住教训说："小子你为什么不洒扫庭除，好迎接宾客？"陈蕃脱口而出："大丈夫处世，当扫清天下，扫一间屋子算什么本事。"
这个典故现在大多被化用为"一屋不扫，何以扫天下"；不过也有研究表明，智商高的人往往房间都比较乱，见仁见智，不必刻意模仿。
陈蕃最早在本郡任职，通过举孝廉，在尚书台做了一名郎中。根据东汉制度，初入尚书台称郎中，满一年称尚书郎。还不到一年时间，因为母亲去世，他按制度回家守孝。守孝期满，时任豫州刺史周景征辟他为别驾从事，别驾从事作为刺史的秘书长，出行时与刺史分乘二车，由此得名。周景也是一位名臣，后来官至太尉，是周瑜的从祖父。陈蕃耿直的性格表露无疑，与周景意见不合，便弃官而去，此后三公府多次征辟都不出仕。
后来正直无畏的李固出任太尉，征辟陈蕃为议郎，不久转任乐安太守。乐安属于青州，当时的青州刺史是性格孤傲、政风严厉的李膺。其它郡的太守闻风丧胆，大多主动请辞，而陈蕃有清名政绩，与李膺气味相投，在这个位置上一干就是好多年。
陈蕃御下严格，对上司也从不逢迎。大将军梁冀权倾朝野，曾派使者送来书信，请托私事，陈蕃拒绝会面。使者谎称公事求见，陈蕃把使者鞭笞致死，因此得罪了梁冀，被贬为修武县令。不久又被征入尚书台，成为六曹尚书之一。
当时零陵、桂阳一带山贼出没，朝廷决议派兵征讨，又诏命各级官吏都可以举荐孝廉、茂才，试图收买人心。陈蕃上书驳议，认为天下百姓皆为赤子，导致赤子作乱的原因，无非是官员贪婪残暴。只需严格考核地方官员，罢免鱼肉百姓者，更换奉公守法之人，不劳王师，群贼自解。况且朝中郎官有两千多名，三公的官属也人满为患，自当择善录用，何必让各级官吏再举孝廉，助长腐败之风。
这下子触动了官僚系统的利益，被外放为豫章太守。正是在赴任之时，发生了《世说新语》中的这则故事。说的是陈蕃刚一到郡，就想去拜访高士徐稚，主簿劝他应该先入公廨报到，陈蕃却说："当年周武王入朝歌，席子还没坐热，就在街闾中表彰商容。我礼遇贤人，有何不可？"