段玉瑞于1936年11月2日在上海去世，享年72歲。雖然段岚峨在去世前已經離開人們的視線多年，但他的葬禮卻引起了人們的注意。段輾輾被送回北京，北洋政府為他舉行了葬禮。因為段玉瑞死前信佛，當他進入寺廟時，以僧袍、僧帽、僧鞋為生衣，還給他穿上了繡有福田印花的卐字的紅底金線。段玉瑞去世，葬于北京萬安公墓。
段玉睿和張作瑜等人，在民國衆多軍閥中，段玉瑞的評價非常高，用"六不總理"說，即"不抽煙、不喝酒、不喝酒、不賭博、不貪婪、不占領"（有一定程度的争議）。不僅如此，在他的晚年，段玉睿還拯救了民族精神節，"九一八"事件，日本人試圖拉攏段玉瑞，結果遭到了嚴厲的言語拒絕。
北京萬安公墓是北京市第一座現代化公墓，位于海澱區象山南路萬安裡，始建于1930年。整個墓地占地面積8.6萬平方米，在墓地的建設上按金、木、水、火、土的順序為編号，分為5區，該區也以"千字"、"100姓"為群号，5區沒有等級差，但墓葬有福， 呂、壽、曦、榮5個規格，墓地埋葬着革命烈士、社會活動家、前軍事要人、科學家、文學家和外國朋友。
段玉睿公墓旁（翻新） 段玉瑞之後，他開始在天津生活，由于日本人不斷的騷擾，他最終将家人搬到了上海。段玉睿在接受記者采訪時說："日本的暴力行為，已經到了情感上無法感受、不合理的一步。我們國家隻有下一顆心和一種美德，為求愛而奮鬥。語言雲：最好是要求自己的。全國都在積極準備一起應對，雖然有十個日本人，但有多害怕？"
人們對段玉瑞的葬禮知之甚少，葬禮後并沒有立即埋葬，而是将棺材暫時放在北京西山月侯佛教寺廟的後面，直到28年後才被埋葬。1963年，在張世玄的主持下，段玉睿葬于北京萬安公墓，張世軒還寫下了墓碑。照片的中段是1978年翻新的結果，非常嚴峻和破舊。
《段玉如墓碑》張世軒原本提議寫一段墓碑文字："是以中華民國公治泉墓的統治段"，但經過反複思考，當時正處于特殊時期，最終決定寫題詞還是不提正式标題。梁啟超這樣評價張世玄，"他的人民的缺點是影射出來的，不管是一個利益主體，為國家負責，國家怕沒人能比得上。"
段玉瑞的遺産墓碑刻在他八強的背上，"不要因為看到和點亮政治糾紛，不要說和無視實踐，不要急于利用人民的财富，不要相信過度的言辭和自我震撼的國家;這八者并不是，在每一種情況下，所謂的自力更生都在這裡;"
總的來說，段玉瑞公墓很差。如果不是墓碑，很難想象這裡會是"北海之虎"的墓地。段玉睿也有"三個共和國"的美譽：号召逼清皇帝退位，張勳複位，抗元世凱弘賢稱帝。尤其在袁世凱說皇帝的關鍵時刻，段玉瑞不顧自己被承載的恩典、長袍的意義，當面對立場時。看到反對派無效，也堅決回到家中去，靜靜地去平衡，拿正義。
在段玉瑞的葬禮上，南京國民政府國葬令說："保持低調，尋求國家的忠誠。辛亥倡議上司了各支軍隊，贊助了共和國，并在中華民國工作。而袁詠儀的号角，清白的身體撤退，李薇正義，節日。價值恢複變革，誓言馬場，迅速遏制反氣氛，率能重建國家基礎，鞏固政治制度，大有希望，博海通琴......"