中國曆史上“最強軍隊”的排行榜，有許多種。其實不在一個朝代，也不可能在戰場真正打一次，屬于“關公戰秦瓊”，隻能當作娛樂新聞看。但一些軍團曾經縱橫四海、所向無敵，不論多少年過去，他們的英雄氣依然在天地間激蕩，讓人懷念、崇敬，比如嶽家軍、戚家軍。在東晉，也有這樣一支軍隊，那就是戰無不勝、攻無不克的“北府軍”，創始人叫謝玄。
謝玄是謝安的侄子。他的母親叫阮容，和阮籍、阮鹹同族;父親叫謝奕，曾任桓溫的司馬，謝玄自己也做過桓溫的部将。謝玄從小聰明，很受謝安器重。一次，謝安問：我家的子侄并不一定都要出來做官，但為什麼還是希望你們能刻苦學習，每個人都有才能呢?大家都愣住了，誰也答不上來。謝玄說：這就好比芝蘭玉樹，總希望它們生長在自家的庭院裡啊。(譬如芝蘭玉樹，欲使其生于庭階耳。)謝安聽了，大為贊賞。
這就是成語“芝蘭玉樹”的來曆。芝蘭指靈芝蘭草;玉樹是傳說中的仙樹。後來就比喻成德才兼備有出息的子弟。唐代王勃的《滕王閣序》中有一句為“非謝家之寶樹，接孟氏之芳鄰。”這是王勃自謙的話，意思是：我雖然不像玉樹般的謝家子弟那樣優秀，但你們像孟母的好鄰居，我有幸能夠結識交住。謝安又曾問他：詩經中最喜歡哪句?謝玄答：“昔我往矣，楊柳依依;今我來思，雨雪霏霏。”
這是《詩經》中的名句，出自《詩經·小雅·采薇》，後面還有四句是：“行道遲遲，載渴載饑。我心傷悲，莫知我哀!”這是一個普通士兵，訴說長期在外征戰的艱苦、對故鄉的思念之情。如果翻譯成現代文，就是：回憶當初出征時，楊柳依依随風吹。如今踏上回家路，雨雪紛紛滿天飛。眼前的艱難想到了往日的溫暖，悲從中來，情感如潮水湧出，讓人無限感傷。謝安是性情中人，頓時覺得他和自己很相似。
但謝玄小時候有女人氣，喜歡佩帶紫羅香囊。謝安不太喜歡這種娘娘腔，直接批評又擔心傷他的自尊，想出了一個辦法。一次兩人玩遊戲，謝安說：你如果輸了，就把紫羅香囊給我。謝安赢到手後，放在火上燒掉了。謝玄明白了謝安的意思，從此不再佩帶這類裝飾品。謝玄文武兼備，在桓溫、桓豁手下都呆過。桓溫曾說：謝玄到了40歲，一定能做軍事統帥。
淝水之戰前，前秦國内有童謠唱：“誰謂爾堅?石打碎!”意思是：誰說你堅硬，石頭就可打碎。引申的意思是：誰能擊敗苻堅?是石頭。桓豁聽到這個童謠後，就把兒子的名字中都加個“石”字，比如桓石虔、桓石秀、桓石民、桓石生、桓石綏、桓石康等。但是，淝水之戰中，謝石是統領各軍的征讨大都督。後來的人一想恍然大悟，這個“石頭”原來指謝石啊。這一年謝玄35歲，當時朝廷中很多人反對他任省級高官，認為謝安在走後門，照顧自己的侄子。就在謝安遭到一片非議的時候，有一個人堅定地支援謝玄，可他還是謝家的仇人。