舒赫德是滿洲正白旗出身，早年的時候由筆帖式升内閣中書，為以後的升遷奠定了堅實的基礎。雍正十三年升為監察禦史，軍機處行走。乾隆元年四川巡撫王士俊密疏乾隆，卻因為越職上奏言事被舒赫德參劾，于是議政大臣們商議後将王士俊逮捕回京，下刑部獄。
因為舒赫德彈劾王士俊得到了乾隆的賞識，因為舒赫德彈劾所提到的也正是乾隆所想的，又因為當時乾隆剛登基，朝堂還是張廷玉和鄂爾泰兩派為首，乾隆為了培養自己所用的人才開始重用舒赫德。但是這也因為舒赫德十分有能力的人才，從他的升遷曆程就能看出來。
舒赫德的能力不僅僅是表現在朝堂上，在軍事和經濟、治河方面都有非常突出的成績。除了他先後參與了十全武功中的五次戰事，他還經常作為欽差去往各地辦理重大事務和各類案件。精通滿漢文字也讓他先後任會館總裁，主持編撰各種典籍的工作。
乾隆三年升為内閣侍讀學士，後又升為副都禦使、刑部侍郎。
乾隆六年兼步軍統領事務。
乾隆十二年五月任戶部侍郎。
乾隆十三年四月授正黃旗漢軍都統，後調鑲紅旗漢軍都統，軍機處行走。同年十月任會典館總裁、兵部尚書。前往浙江查勘海塘工程。
乾隆十四年授參贊，加太子太保。
乾隆十六年勘定永定河工，處理孫嘉淦的“僞奏疏”案。
但是從十七年開始他就變得坎坷起來，因為舒赫德也是個十分有想法的人，是以可以從檔案中看到他在準噶爾叛亂和大小和卓叛亂的戰争中多次受到乾隆的懲罰，就是因為他會擅自行動。但是他也有圓滑的一面，他會暗自揣摩皇帝的心思，然後去迎合，當然這是作為一個官員必備的能力，隻要能達到自己的目的這樣的做法似乎也可以了解。
在乾隆十八年的時候，舒赫德和薩剌爾赴北路軍營籌辦事務，但是舒赫德在達到軍營後發現前面收到的軍情有誤，擅入卡倫的不僅是瑪木特，還有木齊烏巴什、赤倫和哈什哈等。為了以防萬一舒赫德建議兵分兩路去緝拿瑪木特等人。等到烏梁海的首領紮木參被擒，烏梁海部衆四方逃走，舒赫德覺得烏梁海人不會去投靠達瓦齊，因為他們根本不服從達瓦齊，于是就直接告訴烏梁海四散的部衆讓他們投降算了，但是乾隆卻認為舒赫德太過膽小了，這樣顔面何存，于是就讓他不要想太多趕緊打就完了，不服從等着吃挂落。
舒赫德一看皇帝都這麼說了，那就出兵打吧。烏梁海的宰桑一聽清軍要來打人，招安的工作都免了，怕得直接帶着家當走人。本來之前乾隆計劃的是趁着敵軍人心渙散一舉拿下，但是舒赫德沒有及時行動，乾隆就氣得直接讓人把他以前的軍功都清零了，重頭再來。
乾隆十九年的時候，達瓦齊和阿睦爾撒納發生沖突，阿睦爾撒納不是達瓦齊的對手于是就降清了，請清朝幫他滅了達瓦齊。剛開始舒赫德覺得你阿睦爾撒納都不知道是不是真的降清，于是為了安全起見就先穩住他，家屬全都帶到蘇尼特做人質。但是乾隆卻告訴他現在準噶爾是自己人打自己人，已經有很多人來投靠清朝了，你不如趁現在搞懷柔政策收買人心。你這樣直接把人家家裡人都隔離起來了怎麼收買人心，算了你的兵部尚書也沒别做，直接做個參贊。于是舒赫德的家産也被沒收了，兒子也被發配到黑龍江當差。
乾隆二十年，被清朝幫助了的阿睦爾撒納反叛，當時舒赫德正在烏裡雅蘇台辦事，聽到消息之後直接帶人把阿睦爾撒納的家裡人都給控制了，這次的做法很合适，乾隆也很高興直接讓他做了副都統。次年九月份喀爾喀台吉叛亂，舒赫德劫了敵軍的救援兵馬，一定程度上加速了戰事的結束，于是授正黃旗漢軍都統。
乾隆二十二年，舒赫德再次任兵部尚書赴巴裡坤，由于多次戰鬥卻沒有成效被乾隆訓斥，再次被革職，在軍中繼續效命。
乾隆二十三年平定大小和卓，但是由于靖逆将軍雅爾哈善的渎職被斬首，兆惠領兵，舒赫德也被重新啟用以頭等侍衛的身份駐防阿克蘇。後面發生黑水營之圍，舒赫德接到情報後當機立斷，一面向朝廷說明情況，一面在阿克蘇挑選士兵，與富德前去救援，在半路遇到埋伏的敵軍，雙方大戰五天四夜，清軍殲滅了一千多叛軍。此次立功讓乾隆得以把舒赫德任命為葉爾羌參贊大臣，總理回部事務，并且在大軍撤退後乾隆讓他總辦南疆事務。
舒赫德根據情況展開了三方面措施，一是和額敏和卓等人商議當地的田賦制定正地取半，其餘則十取一的制度，以解決當地駐軍的糧食問題。第二就是回疆已經大洗牌了，是以要重新制定地方官制，鞏固王朝的統治。第三就是建立阿克蘇到伊犁的台站，保持回疆到内地的交通暢通。
于是他就像跨過了坎一樣繼續平步青雲的升遷之路。
乾隆二十八年為經筵講官兼署工部尚書、步軍統領，加太子太保。
乾隆三十年任國史副總裁。
乾隆三十一年署陝甘總督。
乾隆三十三年(1768)為參贊大臣征緬甸。
乾隆三十六年升伊犁将軍、戶部尚書，次年授領侍衛内大臣。
乾隆三十八年授武英殿大學士兼刑部尚書，充國史館四庫全書清字經館總裁、正白旗滿洲都統。
乾隆三十九年兼翰林院掌院學士。是年鎮壓山東王倫起義，因功加三級，得雲騎尉世職。當時一個傳教士甚至還專門寫道：聽說由舒大人率領的王師，大家都放心了，他是為數不多的具有給羅馬人帶來榮譽的品格者中的一個。要知道能被傳教士這麼誇獎，至少說明他的個人能力和個人魅力是很高的。
同年黃河大水，乾隆想到以前舒赫德辦理河工的經驗十分豐富，舒赫德領命前往江南，和高晉一起辦理河務。
乾隆四十一年七月，任文淵閣領閣事。
乾隆四十二年四月二十一日，舒赫德在家病故，谥号文襄，乾隆帝親自祭奠，稱舒赫德老成端重，連達有位，宣中外四十餘年，實為國家得力大臣。