他的名氣，在民國初年就已經很大。在當時，他的許多舊相識，好友一一邀請他當官，卻一個個被他擋在門口，就連袁世凱也被他轟了出去。因為拒絕當官，還飽受蔣介石迫害。晚年，卻因上司的一句話，做起了官，而且是一身三職。他就是愛國人士黃炎培。
黃炎培被人邀請當官，是因為他在民國名氣很大。1927年蔣介石登上大位，他用不同的态度數次邀請黃炎培出來當官，但都被拒絕。
第一次全國通緝黃炎培，稱他是“學閥”，并曾經暗殺。這令黃炎培數次出逃，待風平浪靜後，又悄悄回來，閉門讀書，默默無聞。過了兩年，蔣介石又許願封官，承諾種種優待，也都被黃炎培一一拒絕。
1946年，蔣介石再次托人拉攏黃炎培入國大，脫離民盟，黃炎培作了一首《吾心》詩，再次拒絕。蔣介石眼看招安不行，就派特務暗殺民盟組織，企圖以暴力讓黃炎培屈服，黃炎培不得不轉移。1949年，黃炎培在地下黨的安排下，以金蟬脫殼之計離開吳淞口去香港。而守在家中的次子黃競武被敵人秘密逮捕并殺害。
3月26日，中央上司從西柏坡抵達北平後和黃炎培見面，在香山雙清别墅，他們談至深夜。最後中央上司希望黃炎培在新中國成立後來做實業家們的“頭兒”。
随後上司親自到黃家請他擔任政府公職，可黃炎培一直抱着一生不做官的宗旨，他說自己都72歲了，還能做官嗎？上司說：“這不同于舊社會的官，現在是人民的政府，不是做官，是做事，是為人民服務。”
一句話說的黃老頓然領悟，他欣然同意出山。随後黃炎培為副總理兼輕工業部部長，兼政務院财政經濟委員會委員。
1954年9月，黃炎培卸任了副總理職務，接着出任全國人大副委員長兼全國政協副主席。這兩項職務，他連任多屆，直至1965年12月21日去世時為止。