張蔭麟被同時代的許多人稱作“史學天才”，他僅有一本未完成的著作《中國史綱》（其實隻有上半部），梁啟超稱之為“天才”，陳寅恪評價其為“清華近年學生品學俱佳者中之第一人”； 被吳宓稱為“梁任公第二”；他與梁啟超被認為是“二十世紀中國新史學兩大開山大匠”， 他與錢锺書、吳晗、夏鼐并稱“清華四才子”， 才名震一時。……但他隻是一顆流星，倏起倏滅，以三十七歲之齡結束了短暫而耀眼的一生。
張蔭麟是廣東東莞市人。他16歲時考入清華學堂，僅半年，就在《學衡》雜志上發表文章《老子生後孔子百餘年之說質疑》，而這篇文章是針對梁啟超對老子事迹考證提出異議。一毛頭小夥敢對大師的文章提出質疑，清華師生大為震動。他對梁啟超考證“老子認定其在孟子之後”的六條證據，逐一 批駁，梁啟超讀後不僅不生氣，反而對他大加贊賞，稱之為“天才”。
張蔭麟又發表《評近人對于中國古史之讨論》，指出顧颉剛采用 “默證”這種方法的得出的結論不正确，同樣給學界帶來震撼。顧颉剛對質疑心悅誠服，不僅沒反駁，後來還将這篇文章收入了自己主編的《古史辯》第二期。張蔭麟死後顧颉剛在《當代中國史學》中，贊揚其在通史、宋史領域大有建樹。當時被他批評過的還有馮友蘭等史學專家。馮友蘭在他死後，曾集資、主持設立“張蔭麟獎學金”……如果這些大學者對他的才識不是心服口服，大概就不會有這些後續事情的發生了。
在清華就讀期間，張蔭麟十分沉迷學術，幾乎天天在圖書館埋頭苦讀。在清華求學7年，發表論文和學術短文40多篇，文筆犀利流動，富于批判精神，内容涉及文、史、哲三界，深得當時學界稱贊。
1929年，以優異成績從清華大學畢業後，獲公費到美國斯坦福大學攻讀西洋哲學史和社會學。留學4年，修完應學課程，還未到期，已獲哲學博士學位。1934年，回國後在清華大學曆史、哲學兩系擔任講師，也在北大曆史、哲學系兼課。此時他的治學重心轉為專門研究曆史，因為“隻有國史才是一生志業所在”，過去弄哲學、社會學，無非是為曆史研究打下根基。學哲學是為了有一個超然的、客觀的、廣大的看法和方法的自覺。學社會學是為了明白人事的理法。他的治史方法是從作長編下手，很快就成為當時了國内新史學的中堅人物和學術新秀。
1934年，他不過29歲，就經傅斯年推薦應教育部之聘，着手編撰高中曆史教材：《中國史綱》。他為此專門請假兩年，專門編寫此書。張蔭麟制定了一個詳細的計劃：他自己執筆漢以前，吳晗負責唐以後，并邀請王芸生、千家駒等撰寫專題。 他本來就不滿當時的曆史教材，讓青年人“被迫重溫再溫可厭倦的一套雜湊的機械的史實”。是以這本《中國史綱》的課本既不重考證，也不引原文，而是用“講故事”的筆法來“畫”曆史，把深奧的曆史問題，講得通俗易懂，使讀者不僅可以從中汲取知識，也能享受到閱讀樂趣。因為各種原因，1940年此書出版時，隻有他執筆的部分得以完成。
《中國史綱》一經出版，立刻赢得巨大贊譽。作者功力與學識得以充分展示，當之無愧地歸入中國史學名著。在這部著作中，張蔭麟對自己民族的曆史飽含溫情與敬意，旁征博引，縱橫捭阖，以豐富可信的曆史文獻作依托，以輕松自由、流暢粹美的文字，以舉重若輕的行文風格描述了遠古中國至東漢初年的曆史。
他的好友、賀麟（著名哲學家、哲學史家、黑格爾研究專家、教育家、翻譯家）稱之為“他人格學問思想文章的最高表現和具體結晶”，其書“有真摯感人的熱情，有促進社會福利的理想，有簡潔優美的文字，有淹博專精的學問，有透徹通達的思想與識見”。 他浙江大學的頂頭上司張其昀說：“《中國史綱》一書是嘔心瀝血的著作……即就文字而論，亦用力至勤。世人多驚羨其文筆之粹美，以為勝過一般文學創作，不知其字字珠玑，皆為潛心涵泳幾經錘煉而後成”。華東師範大學曆史系教授王家範認為，隻有錢穆的《國史大綱》可以與之媲美。
張蔭麟生活儉樸，卻又嗜書如命。從美國回來，有春冬兩套衣服，結婚時也沒添置新的，省下的錢都用來購書。留美時省吃省穿，剩下的錢全給弟妹作教育費。到清華後有了一點點餘錢收買舊書，到離開北京前，他的小書房架上、桌上、椅上、地闆上全是書。
1937年盧溝橋事變後赴昆明，在西南聯大任教。1940年初，他轉到浙江大學任教。他是一位常識淵博、德高望重、深受學生喜愛的老師。但他不幸患上腎炎，由于缺醫少藥，病情日重轉為尿毒症，1942年10月24日在遵義病逝，年僅37歲。去世時，身邊一個親人也沒有。他原本是有一段幸福的婚姻，和一雙可愛的兒女的。
在清華上學期間，父親去世了。他不僅要自己掙學費，還要負擔弟妹的生活費和學費。是以他到同為東莞人的倫明正（北京大學文學系教授，也是著名的藏書家）家為其八女倫慧珠作家教。
和好友賀麟在一起
倫慧珠性格内斂、安靜，深深地打動了張蔭麟。倫慧珠卻一直是若即若離，直至張到了美國心灰意冷之時才又表達了愛意。為了愛情，張蔭麟甚至放棄即将到手的博士學位而提前于1933年返國。他的好朋友賀麟評價說，“張蔭麟生平精力所集中，心神所寄托，除了學術研究之外，就是純真愛情，‘天真純潔，出于至情至性，犧牲一切，在所不惜’” 。兩人經過了6年的苦戀于1935年四月結婚，婚後育有一兒一女，生活甜蜜而幸福。
但在昆明時，卻又有一個女孩闖入了他的感情生活。這個女孩就是容庚的女兒容琬。容庚比張蔭麟隻大11歲，和張蔭麟亦兄亦友。對于張蔭麟和自己女兒的不倫之戀，容庚持反對态度。
在長達十年的時間裡, 容琬一直和張蔭麟保持着聯系，她的文章和譯作都經過張蔭麟精心修改,張蔭麟曆年來給她的片言隻字,她都珍藏着。對于這份感情,張蔭麟是懷着感恩的心情來對待的,提到容琬的名字,他的聲音都會顫抖。
最後的結局是個悲劇，張蔭麟和倫慧珠以離婚收場,倫慧珠帶着兒女回到廣東。而容琬也奔赴北京和表兄結婚，和張蔭麟徹底斷了來往。妻子、夫妻，轉瞬間已形同陌路，張蔭麟的心情受到了沉重的打擊。尤其人言可畏，他隻得離開西南聯大，轉赴遵義，任教于浙江大學。
在郁悶的心情下，他的健康越來越差。在最後的日子裡，他愈發想念妻子倫慧珠，他給她寫了很多信，但卻從未寄出。一代史學英才就這麼孤寂地走了，留給學術界衆人的隻有悲痛和歎息。