晉朝長沙郡原本屬于荊州，下轄十個縣，分别是臨湘、攸、下隽、醴陵、劉陽、建甯、吳昌、羅、蒲沂和巴陵。晉懷帝期間将其劃分出來成為湘州的一部分。長沙郡公是陶淵明祖上陶侃的爵位。
長沙桓公——陶侃。陶侃字士行（一作士衡）。原籍鄱陽郡枭陽縣，後徙居廬江郡尋陽縣。陶侃出身寒門，是以隻能擔任縣中小吏。好在陶侃有個好母親，剪下自己的長發賣給别人做假發，換得酒菜幫助陶侃開拓人脈。一番操作之後，陶侃被舉為孝廉，來到洛陽。雖然得到張華欣賞，又進入東吳宗室孫秀府中，但陶侃的仕途仍舊一般。
直到張昌聚衆造反，陶侃在劉弘麾下參與平定叛亂的作戰，陶侃因軍功被封為東鄉侯，食邑一千戶，在這之後，陶侃又參與平定陳敏之亂。劉弘去世後，陶侃先是擔任司馬越的參軍，又被江州刺史華轶上表推薦為揚武将軍，駐軍夏口。但華轶和司馬睿關系不和，陶侃侄子陶臻選擇投奔司馬睿，司馬睿順便加陶侃為奮威将軍，賜赤幢曲蓋轺車及鼓吹，陶侃于是和華轶斷絕了來往，和司馬睿開始合作。
在這之後，陶侃先是平定盜賊強盜，又奉命進攻擊敗杜弢發起進攻并将其擊敗。陶侃也因功被任命為荊州刺史，但他遭到了王敦的嫉恨，不僅無法赴任，還差點丢了性命，好在王敦忌憚陶侃親家周訪，最終陶侃逃過一劫，改任廣州刺史。
王敦之亂被平定後，司馬紹任命陶侃為都督荊、湘、雍、梁四州軍事、征西大将軍、荊州刺史、領護南蠻校尉，其他職務如故。陶侃治理荊州期間，荊州社會安定，生産生活有所發展。司馬衍即位後，陶侃又被庾亮猜忌，但蘇峻之亂爆發後，陶侃又成了平叛的中堅力量。
蘇峻之亂平定後，陶侃因功升任侍中、太尉，加授都督交州、廣州、甯州等七州軍事，加羽葆、鼓吹，封爵長沙郡公，食邑三千戶，又賜絹八千匹。之後陶侃又平定了擅自殺害江州刺史劉胤的郭默，奪得江州，控制了長江的上遊和中遊。并欲舉兵廢黜王導，但因庾亮調解以及王導的親家郗鑒反對才作罷。鹹和九年（公元334年）六月，陶侃在病中上表遜位，準備傳回長沙，随後在樊溪去世，享年七十六歲。司馬衍下诏追贈陶侃為大司馬，賜谥号桓，以太牢禮祭祀。
第二代長沙郡公——陶弘。陶弘是陶侃的孫子，其父陶瞻在蘇峻之亂中遇害，後追贈大鴻胪，谥愍悼世子。陶侃死後，陶弘繼承爵位，并官至光祿勳。
第三代長沙郡公——陶綽之。陶弘死後，他的兒子陶綽之繼承爵位，期間由于桓玄之亂被降封為臨湘縣公，桓玄失敗後恢複爵位。
末代長沙郡公——陶延壽。陶延壽是陶綽之的兒子，他作為長沙郡公期間劉裕代晉建宋，其爵位長沙郡公被降封為醴陵縣侯，食邑五百戶。