大西南解放後，查玉升是14軍41師師長，當時大西南的匪患是十分嚴重的，土匪經常襲擊解放軍的征糧工作隊和小股的解放軍隊伍，查玉升在大西南剿匪同土匪打了不少的惡仗，最險的一次是護送當地一個土司到昆明，當時，國民黨殘匪在電話中竊聽了查玉升師長要護送土司到昆明的消息後，糾集了200多人，埋伏在寶山的707地方，準備伏擊查玉升的車隊，路徑此處時，查玉升看地勢險要，提前做好戰鬥準備，他僅僅帶領了一個班的警衛員，看到土匪沖過來，拔出手槍，神槍手一個，一槍打倒一個土匪，在警衛戰士們的共同努力下，打退了200多名土匪的猛烈襲擊，殺的敵人膽寒，憑着頑強的鬥志把土匪給打跑了，土司頭人看到查玉升師長英勇作戰的氣概，驚呼查玉升是高人、神人，查玉升隻是抿嘴一笑，淡定的安慰他是否受到了驚吓，并把土司頭人安全護送到了昆明，使他如期到北京見到了毛主席。
抗美援朝時，查玉升被調到60軍當副軍長，韋傑軍長配置設定他做後勤工作，1950年3月份開赴北韓前線。
4月份腳跟未立穩，就參加了志願軍第五次戰役，180師被圍後，查玉升心中非常焦慮，向軍長韋傑建議投入179師和181師進行反擊，但因為種種原因，180師還是整建制的被打散了，戰後，查玉升感歎仗打的太窩囊，很憋氣。
查玉升（1914至1998），安徽省六安市人，1931年參加了中國工農紅軍，同年加入共産主義青年團并轉入中國共産黨，土地革命戰争時期，擔任紅四方面軍第四軍11師31團排長，31軍93師師部通訊隊隊長，參加了長征。
抗日戰争時期，任八路軍129師386旅772團連長、補充團營長、772團副團長、16團團長。
解放戰争時期，任太嶽軍區獨立旅副旅長兼晉冀魯豫野戰軍第四縱隊22旅旅長，中原野戰軍第四縱隊22旅旅長，第二野戰軍14軍41師師長。
解放戰争時期，晉冀魯豫野戰軍1、2、3、6縱隊于1947年6月30号突破黃河天險，向大别山挺進，插到敵人的心髒去後，留下的陳赓兵團在豫西與敵人展開戰略鬥争，當時，查玉升是陳赓手下的22旅旅長，渡過黃河，在中原腹地同國民黨軍展開大打，打出了四縱四虎的威名。
淮海戰役結束後，人民解放軍跨過長江作戰，查玉升此時已是14軍41師師長了，跟随陳赓兵團，對國民黨殘匪展開千裡大追擊，部隊在消滅白崇禧桂系大部後。
這時，四野的15兵團準備發動海南島戰役，征集到了機帆船，但機帆船沒有發動機，跑也跑不快，韓先楚聽說41師繳獲了大量的國民黨軍的汽車後，韓先楚找到查玉升的41師索要汽車發動機，而41師在雲南瑞麗的戰鬥中的确繳獲敵人汽車不少，他并不像李雲龍那樣小家子氣，而是慷慨大方的把汽車發動機卸給了韓先楚的部隊，自己的部隊走路去追殲敵人，實際上，在我軍中像電視劇李雲龍那樣的軍人是很少的，當時，第一代軍人是很講大局的，對上級下達的指令是堅決不折不扣地去完成。
從北韓回國後，查玉升先後擔任了軍長，昆明軍區副司令員，1955年9月，被授予開國少将軍銜。
查玉升一生槍不離身，即使是晚上睡覺也要把槍放在手邊，随時可以拿到，用他的話說：“咱當兵的就要有這種警覺性，随時準備投入戰鬥。”
查玉升在當昆明軍區副司令員期間，他經常下部隊檢查工作，他一到部隊，不是檢查部隊的火炮裝備，而是直奔連隊的豬圈，看豬的肥瘦，他說：“豬肥了，說明連隊的夥食沒問題”。而是看廁所裡有沒有牢騷話？有沒有罵連長，指導員的？如果有，說明連隊不團結。
他就是這樣一個怪人，脾氣還是異常的火爆，對待同志熱情滿懷，那如果見了歹徒挑釁鬧事，如果碰上他，那地痞流氓們就倒黴了。
有一次，将軍到底下部隊視察工作，中途來到雲南大理飯店吃飯時，他們剛剛在一個包廂坐定，這是一幫當地的地痞流氓闖了進來，說這個包廂是他們經常在這兒聚餐議事的地方，他們在這個地方坐慣了，讓将軍挪到另外的包廂去坐。
将軍一下火了：“我在這坐得好好的，幹嘛要讓給你呢？你是幹什麼的呀？怎麼做事這麼霸道？”
流氓的頭目說：“我們就是這兒的地頭蛇，黑道，怎麼得？讓不讓吧？不讓就給你們好看。”
将軍異常淡定的說：“你知道我是誰嗎？”
地痞流氓們詫異地問道：“你是誰呀？”
将軍說道：“國民黨反動派都被我打得落花流水，在大西南剿匪的時候，200号土匪圍住我們七八個人，都被我們打跑了，北韓戰場上的美軍更不用說了吧？你們沒有見識過，那可真是厲害，那還不是照樣被我們打敗了嗎？你們這幾個臭小子算個什麼玩意兒？在我這裡稱王稱霸，你們不服了較量較量？”
地痞流氓們一聽，這遇上戰場上下來的勇士了，急忙退出，将軍和警衛戰士們哈哈大笑，将軍對戰士們說：“不戰而屈人之兵，也是一種政策，這一幫小毛賊，哪招得住你們收拾，這幫家夥還算知趣，早早退下，免得被你們打折了腿腳。”
将軍一行在包廂安靜地吃過飯後，登車重新上路了。
1984年，将軍從上司崗位上退下來，離休在家安度晚年，在昆明軍區幹了20多年副司令，他從未找組織上要過什麼過分的要求和待遇，養生鍛煉，打太極拳，安享太平生活，他對家人講：“當那麼大的官幹什麼？還是當個平民老百姓好，自由自在的，我們什麼都不缺，甭給組織上添麻煩喲。”
将軍一生簡樸，生活很随便，一身軍裝穿着洗得發白了都不舍得扔掉，他常常說：“我軍的光榮傳統不能丢，艱苦樸素精神要傳續。”