軍銜制，是新中國軍隊步入現代化和正規化的一項不可或缺的重要措施。1953年2月17日，中央軍委決定，正式成立軍銜實施委員會，下設專門的辦公室，負責主持全軍實行軍銜制的籌劃、軍裝制服、軍銜辨別等工作。
1954年秋，軍官制服和軍銜辨別，基本确定下來，并特别訂做了一批樣品軍服和軍銜辨別，都挂在木制的模特身上。這些木頭模特，就放在中南海的小禮堂中，就等着毛主席和中央軍委的審定準許，然後開始批量生産出來。
人民解放軍的軍銜等級，是參考蘇聯紅軍的軍銜制度的。蘇聯有“大元帥”軍銜，斯大林就是領受此軍銜的。因而，中央軍委也決定，在解放軍的軍銜等級之外，特設“大元帥”軍銜，中央軍委準備将其授予給毛主席。小禮堂内，精心設計的“大元帥”服上，配有“大元帥”軍銜辨別，擺在最顯眼的位置。
秋季的一天上午，毛主席、朱德、劉少奇、周恩來、彭德懷等黨和國家的上司人，來到中南海小禮堂，審定軍裝樣式和軍銜辨別一事。進禮堂後，彭德懷率先開口說話：“樣子嘛，前面就見過的。今天就是要看看穿起來怎麼樣，有沒有威武之師、勝利之師的氣勢！”
軍銜辦公室的負責人李平，将毛主席等人領到穿“大元帥”的模特旁。毛主席一邊抽煙，一邊打量着“大元帥”服。李平撫摸着“大元帥”，介紹道：“主席，這就是大元帥服。”毛主席臉上露出不以為然、不過如此的神情，打趣道：“大元帥？你靠邊站吧。”一句話，引得朱德、劉少奇、彭德懷、彭德懷等人哈哈大笑。
毛主席看完其他元帥服和将軍服後，對李平叮囑道：“國家剛剛成立，盡量從節約的原則出發，盡可能做到樣式好看、統一、正規。”
“大元帥”服制好，毛主席卻從沒做好，因為他不是“大元帥”。以數十年的軍事生涯，及對新中國軍隊的建設貢獻，毛主席理所應當被評為大元帥，這是大家一緻認為的。彭德懷為此向毛主席專門彙報了“大元帥”軍銜的事情。毛主席聽後，抽着煙說道：“根據國際國内的經驗，這個大元帥我都不能要，穿上大元帥制服我也不舒服啊。”
中央軍委開會讨論後，覺得毛主席的想法是高瞻遠矚的，便不再強求，一緻贊同他的意見。一次全國人大常務委員會上，有些常委提出，應授予毛主席大元帥軍銜，就如蘇聯的斯大林大元帥一樣，周恩來、鄧小平也應授元帥軍銜。
對此提議，劉少奇、彭真特地在會議上作了說明，表示如今是和平時期，三人各有文職在身，均表示不要軍銜。黨中央和中央軍委，經過反複的考慮和推敲，對人大常委們的意見，進行了一定的采納：将來在特殊情況下，如果發生大規模戰争，仍可授予他們軍銜。
毛主席拒授大元帥軍銜，某種程度上推動了授銜工作的順利進行，最後評出10個元帥、10個大将、55個上将等。
1955年10月1日，中國人民解放軍正式實施軍銜制，由于毛主席沒有接受特别為他設定的大元帥軍銜。是以那套精心制作的大元帥服和大元帥軍銜辨別，成為我軍曆史上一件從沒人穿過的文物，放進了軍事博物館裡。