負載均衡是程式員在做軟體維護的時候需要重點關注的一個問題,而今天我們就通過案例分析來了解一下,伺服器開發過載問題如何解決。

在微服務中由于服務間互相依賴很容易出現連鎖故障,連鎖故障可能是由于整個服務鍊路中的某一個服務出現故障,進而導緻系統的其他部分也出現故障。例如某個服務的某個執行個體由于過載出現故障,導緻其他執行個體負載升高,進而導緻這些執行個體像多米諾骨牌一樣一個個全部出現故障,這種連鎖故障就是所謂的雪崩現象
某一種資源的耗盡可以導緻高延遲、高錯誤率或者相應資料不符合預期的情況發生,這些的确是在資源耗盡時應該出現的情況,在負載不斷上升直到過載時,伺服器不可能一直保持完全的正常。而CPU資源的不足導緻的負載上升是我們工作中常見的,如果CPU資源不足以應對請求負載,一般來說所有的請求都會變慢,CPU負載過高會造成一系列的副作用,主要包括以下幾項:
正在處理的(in-flight)的請求數量上升
伺服器逐漸将請求隊列填滿,意味着延遲上升,同時隊列會用更多的記憶體
線程卡住,無法處理請求
cpu死鎖或者請求卡主
rpc服務調用逾時
cpu的緩存效率下降
由此可見防止伺服器過載的重要性不言而喻,而防止伺服器過載又分為下面幾種常見的政策:
提供降級結果
在過載情況下主動拒絕請求
調用方主動拒絕請求
提前進行壓測以及合理的容量規劃
希望這輩子,最讓你無悔的事情就是來達内學習!學習向來不是件易事,但無論過程多麼艱難,希望你依然熱愛生活,熱愛學習!永遠記得,達内将與你一同前行!現在掃碼,立即領取萬元課程禮包,助力0基礎快速入行,為你梳理行業必備技能,全方位了解崗位發展前景!
【免責聲明】:本内容轉載于網絡,轉載目的在于傳遞資訊。文章内容為作者個人意見,本平台對文中陳述、觀點保持中立,不對所包含内容的準确性、可靠性與完整性提供形式地保證。請讀者僅作參考。更多内容請在707945861群中學習了解。歡迎關注“達内線上”參與分銷,賺更多好禮。