中亦安圖 | 2016-01-25 21:39
前言
不知不覺，技術人生系列·我和資料中心的故事來到了第四期。小y又和大家見面了！
當您看到業務系統壓測呈現以下波浪形的tps曲線時，你會怎麼下手？
小y(中亦科技)今天要和大家分享的就是這樣一個業務系統壓測性能問題的分析和解決過程。這個問題困擾了客戶相當長一段時間，幸運的是，小y通過遠端在10分鐘定位到了問題的原因并幫助客戶最終解決了問題。需要說明的是，在這個CASE中，隻調整資料庫參數是不夠的，還需要做其他分析和調整才可以解決問題。
為了保持原汁原味，同時增加文章的趣味性，小y除了會繼續堅持以往分析報告的寫法外，會嘗試開始引入一些問題處理的心理曆程，希望朋友們可以了解到小y的真實工作狀态。
我們能學到什麼
? Oracle資料庫在11.2.0.3及以上的版本上必須要調整的一個重要的性能相關的參數！
? 如何在診斷失敗後堅持或快速調整問題甄别方向的技巧！
? 如何在處理跨團隊/部門的綜合型問題中掌握主動權的一些經驗！
溫馨提示
如果您的高并發、事務型的OLTP核心業務系統中中經常會出現一些性能的抖動。比如交易響應時間突然急劇上升,同時伴随着ap伺服器端口數/程序活動數/jdbc連接配接數升高、資料庫每秒DB TIME升高等現象，并且Oracle版本在11.2.0.3或以上，那麼很可能和該文章提到的一個重要參數有關系哦！如果調整參數後還無法解決，可以聯系小y診斷哦(mian fei de)。
你們的點贊和轉發就是小y繼續堅持分享的動力！
更多Oracle資料庫實戰經驗分享的首發，盡在“中亦安圖”公衆号！歡迎關注。
Part 1
問題來了
上午10點，QQ突然閃了起來，來活了！
小y,有空嗎？幫忙看個awr。
我一會跟你電話說一下情況。
今年他們新上的一個關鍵業務系統，在做上線前的壓力測試時，應用的并發無法達到上線前的并發名額和響應時間名額要求。壓測時TPS的曲線如下所示：發來QQ消息的是國内一個大型航空公司的DBA，一般的問題他都可以自己解決，這次看上去他遇到麻煩了。
可以看到，壓測時的TPS呈現波浪形，極不穩定。
客戶自己做了很多分析，資源層面，CPU、記憶體使用率、IO均正常，不過客戶自己也發現了，壓測時後端Oracle資料庫中出現了大量的異常等待，主要是gc類型的等待，客戶懷疑是不是私網交換機有問題。但可惜的是，網絡團隊卻未檢查出異常。
這個問題，他們也請現有的Oracle服務商進行了分析，但問題遲遲沒有解決。這樣一來，離業務系統要求上線的時間越來越近了，客戶的壓力也越來越大！
小y最近一直在跟這個客戶，從心裡真心希望能有機會為他們提供服務，是以這樣的機會來了，小y自然是打起了十二分精神，準備開始戰鬥。
環境介紹：
作業系統Redhat 64 bit，64C 128G
資料庫 Oracle 11.2.0.3 ,2節點RAC
Part 2
分析過程
2.1分析Oracle資料庫每秒的DB TIME
我們用DB Time除以Elapsed，可以看到每秒DB TIME達到75！這是極度不正常的。
說明資料庫正在經曆嚴重的等待，需要檢視資料庫top等待事件繼續分析。
2.2分析交易時間都消耗到哪了（TOP 5 wait event）
1）節點1等待事件如下所示：
事件分析
?Oracle top 5等待裡，gc buffer busy acquire排在第一位，占了51.2%，平均每次等待時間達到驚人的277毫秒！這裡的gc buffer busy acquire表示在程序A之前已經有程序B先行向節點2請求同樣的一個資料塊，并且還沒有完成，是以處在等待上。
?排在第二位的是log file sync,占了18.58%，平均每次達到293毫秒。這裡的log file sync表示當程序發出commit時，需要等lgwr背景進行将log buffer中的改變向量持久化到磁盤中的redo log中所發生的等待。
?排在第三位的是DB CPU，在一個小時的采樣裡，總的等待時間是24648秒，也就是說大概占了7顆CPU時間，該伺服器配置了64顆CPU，是以平均CPU使用率隻用到了10%。這裡小y順便提一下，通常情況下，我們期望DB CPU的比例越高越好，這樣就意味着SQL在執行的過程中，幾乎不用發生等待，SQL的響應時間也就越快。但不代表就沒問題，比如高邏輯讀的SQL，如果要操作的資料都在記憶體中，也會導緻DB CPU過高，此時就需要對高邏輯讀的SQL進行優化了，進而降低DB CPU。
?排在第四位的是direct path read,平均等待時間也到了153毫秒。這裡的direct path read表示程序直接将資料塊讀入PGA記憶體而不是讀進buffer cache共享記憶體。這種情況下，IO的吞吐顯然會更大，每個程序都各自讀各自的哪怕是相同的資料。如果不同的程序同時讀取的是相同的資料，并且讀進共享記憶體，那麼隻需要一個程序負責讀取，其他程序直接操作記憶體中的資料即可，此時IO吞吐會小很多。
?排在第五位的是buffer busy wait,平均等待時間到了驚人的499毫秒。這裡的buffer busy wait表示當兩個或者兩個以上的程序需要同時對一個資料塊進行寫/寫、寫/讀操作時發生沖突，即熱塊沖突。
看到這裡，小Y已經基本知道答案了！
不過從嚴謹的角度，還是要把RAC 2節點的等待事件也稍微過一下。
2）節點2等待事件如下所示：
和節點1相比，沒有buffer busy wait,多了gc current block busy。
總體來說，兩個節點的等待事件差别不大！
2.3 前2分鐘裡小y的頭腦風暴
2.3.1是不是RAC私網的問題？
看到這裡，也許有人會說:
gc等待那麼高，是不是把另外一個RAC節點臨時關掉，問題就解決了呢？
首先答案是NO！其次，這樣的做法是生産出現緊急gc性能問題時可以臨時采用的，但是對于這樣一個case,客戶顯然是不接受的。
小y從技術層面來回答下這個問題。
首先，如下圖所示
兩個節點的私網不過是每秒3M，而RAC兩台伺服器為私網配置的是千兆交換機。
其次，RAC兩個節點的CPU和記憶體均處于低位，也就沒有出現因為資源問題導緻一個節點運作緩慢，繼而導緻無法快速響應另外一個節點的gc請求的情況。
如果是該類問題，我們通常還可以看到gc*congested*類型的等待（擁堵）。
2.3.2是不是SQL效率導緻gc/bbw/direct path read的問題？
其中bbw即buffer busy wait,
gc即表示gc buffer busy acquire等gc等待。
也許有人會說：
gc等待那麼高，還有buffer busy wait等待,如果SQL效率足夠高，那麼通路的資料塊就少了，那麼程序發生gc請求的個數就很少，同時由于讀/寫造成的熱塊沖突自然也就沒了。
答案是NO！
見下圖，可以看到該應用還是寫的相當不錯的，大部分SQL都控制在100個邏輯讀以下，隻有3個SQL的邏輯讀在幾千到幾萬，這樣的SQL效率和邏輯讀數量不足以導緻如此高的gc/bbw等待！另外，落到SQL效率不高這個點上，是沒有辦法解釋log file sync/direct path read也處于平均單次長時間等待的！錯誤的方向是不能解決根本問題的！也就是說，即使你再花精力優化掉這幾個邏輯讀稍微高一些的SQL，壓測的問題還是會依然存在，因為這不是根本原因，優化SQL對于這個CASE而言是錦上添花而非雪中送炭！
2.3.3是不是direct path read導緻IO帶寬占滿的問題？
也許有人會說，會不會有這樣一種可能：
? 先是direct path read導緻IO帶寬被占滿
說明：多個程序把資料塊讀進PGA私有記憶體而不是buffer cache共享記憶體，以多塊讀16計算，每個BLOCK 8K，每個程序可以讀取30M左右，15個以上的程序同時多塊讀就可以把hba卡帶寬占滿，設定10949 event可禁止該特性。
? 由于IO帶寬被占滿，影響了lgwr寫日志的響應時間，繼而導緻log file sync等待長。
? 而log file sync又是gc和buffer busy wait的一個環節，進而将gc和buffer busy等待時間拉高，是以出現了AWR報告的等待？
首先，可以做出該假設的朋友，可以發小y發一份履歷，說明你對資料庫有非常深入的了解，并且有非常豐富的TroubleShooting經驗，而且也已經不在割裂的分析問題的層面上了！
歡迎你加入中亦科技DBA團隊！來了就是兄弟，我們一起并肩戰鬥，一起挑戰各種疑難問題，一起分享收益！
履歷請發至[email protected]
那麼Log file sync和gc有什麼關系呢？
引用一張RAC SG的圖，其中原理如下圖所示
從上圖可以看到：
gc類的請求，在第二步中包含了lgwr程序寫日志的過程，
即log file sync是gc請求的一個子步驟，嚴格來說，該步驟叫gc log flush sync.
但答案依然是NO！
從下圖load profile中可以看到，每秒的實體讀是498個BLOCK，每個BLOCK是8K，也就是說每秒的IO才4M左右。IOPS和IO帶寬都非常低，顯然不是該問題！
2.3.42.小y快速鎖定問題分析方向！
小y這兩分鐘裡如同上述的分析一樣，飛速的進行着各種假設和排除、問題串聯。
很快小y就鎖定了問題的分析方向——那就是要把分析焦點放在log file sync等待上！
原因很簡單，通過分析top 5等待，不難看到，他們之間是有關聯關系的：
log file sync是gc和buffer busy wait的一個環節！（見2.3.3中的圖）
如果log file sync等待解決了，自然gc*等待和buffer busy wait等待也就下去了！
問題也就得到解決了！
2.4 聚焦在“log file sync“等待上
從上文，我們已經知道，“log file sync”等待事件表示：
當程序發出commit時，需要等lgwr背景進行将log buffer中的改變向量持久化到磁盤中的redo log的過程中所發生的等待。是以，最常見的是lgwr寫日志寫的慢，或者是因為commit太頻繁所導緻！
接下來小y依次檢查了這兩個方面。
ORACLE當中，如果lgwr寫日志寫的慢，會展現到log file parallel write單次響應時間慢上。
節點1
節點2
可以看到，兩個節點無論是log file parallel write還是gc log flush sync都隻在5個毫秒以下，其中log file parallel write更是隻有1毫秒和3毫秒。排除該問題！
接下來檢查commit次數！
如下圖所示,每秒的transactions（commits/rollbacks）隻有48個！
小y服務過的一些大型銀行的高并發的核心系統中，包括每秒事務數在10000以上的，log file sync也都控制在10個毫秒以内。是以每秒transactions隻有48個是非常小的名額，不至于引起這麼嚴重的等待！
2.5 原因基本定位并開始第一次調整
分析到了這裡,小y已經已經找到本次壓測的根本原因了，隻需要調整驗證即可。
建議朋友們，讀到這裡也可以先停一下，看看自己是否找到了問題原因。
也就是客戶AWR報告發過來後的兩分鐘，小y告訴他
“我知道原因了，你把lgwr程序的trace發我最後确認一下，我們就開始調整”
其實并不奇怪，這樣的case小y在幾年前做大量系統更新到11g時就遇到過N次!客戶很驚訝，他甚至還來不及電話小y，小y怎麼可以這樣…
這應該是一個上線前的标配，雖然現象不一樣，但本質上是一個問題。
這也就是小y标題中要重點提示大家的一個重要的資料庫參數。
如果Log file sync等待事件很長，但是lgwr寫日志的時間很快，并且commit次數也不大的話，那就是在發起commit的程序和lgwr之間的通訊環節上出了問題。
關鍵知識點:
ORACLE從11G開始，為lgwr寫日志引入了polling機制，而在以前隻有post/wait機制。
同時引入了一個隐含參數，"_use_adaptive_log_file_sync"，即在兩個機制之間自适應的切換。在11.2.0.3以下，該參數的預設值為false,即隻啟用post/wait機制。
從11.2.0.3開始，該參數的預設值為true,即Oracle會在post/wait機制和polling機制自适應。
? Post/wait進制下，lgwr程序在寫完log buffer中的改變向量後，立刻通知待commit的程序，是以log file sync等待時間短，但lgwr相對來說，負擔要重一些。畢竟12C以下lgwr程序隻有1個，當同時commit的程序比較多的時候，通知待commit的程序也是一種負擔。
? Polling模式下，待commit的程序，通知lgwr程序進行寫入操作後，會進入sleep環節，并在timeout後去看是否log buffer中的内容被寫入了磁盤，lgwr程序不再單獨通知待commit的程序寫已經完成。Polling機制下，解放了一部分lgwr的工作，但是會帶來待commit的程序長時間處于log file sync等待下。對于交易型的系統而言，該機制是極度不适用的！
在post/wait和polling機制之間的切換，ORACLE會記錄到lgwr程序的trace當中，如下所示。
當切換到polling模式下時，很容易引起log file sync等待而影響交易的響應時間！
Log file sync switching to polling
……
Log file sync switching to post/wait
在Oracle 11.2.0.3以下，建議關閉自适應log file sync,務必讓lgwr程序運作在post/wait機制下，以確定資料庫性能不會出現大的抖動！關閉的指令如下，可線上修改！是以，小y在這裡提示各位
alter system set "_use_adaptive_log_file_sync"=false sid='*';
沒錯，小y的第一次調整措施就是調整該參數為false。
2.6 第一次調整後的結果讓是失望！
線上調整參數後，為了安全起見，客戶把兩個節點資料庫都重新開機了一遍。
并且重新做了壓力測試,重新收集後的AWR報告如下所示！
看到節點1的這個AWR報告，gc等待和log file sync等待依然存在，并且看上去單次等待的時間更長了！
難道小y的分析出了問題? 或者說，小y這次遇到了好幾個摻雜在一起的問題？冷靜了一下，RAC的問題，切記隻看單個節點，是以，小y讓客戶出了節點2的AWR報告，調整後節點2的awr報告如下圖所示：
可以看到：
雖然等待還在，但節點2的log file sync等待沒有了！這說明這次調整還是起到效果了的！
并且細心的朋友，可能已經發現了，節點1的第一位的等待gc buffer busy acquire完全沒有了（說明節點2 log file sync快了），從gc buffer busy acquire變成了gc buffer busy release。這不正好說明調整還是起到作用了麼？
到這裡，先不要着急，這裡因為節點1依然存在log file sync,是以節點2的gc buffer busy acquire還依然存在！那麼接下來，小y就要集中精力再解決掉節點1的log file sync就好了！
2.7 真相浮出水面（懷疑一切）
總結一下，這裡調整log file sync自适應後，問題還是沒有得到解決，那麼回到傳統思路上，最可能的問題那就還是lgwr程序寫日志慢了！雖然awr報告中log file parallel write名額隻有幾個毫秒，但是awr報告畢竟是一個工具，提供的隻是參考值，是以我們還是要抱着懷疑一切的态度，再來塞查一次！
這一次，我們來實時觀察lgwr程序寫日志的情況。發出SQL語句，結果如下圖所示：
? RAC兩個節點中，隻有1個節點出現log file parallel write的等待，剛好和前面的所有分析互相吻合！
? 在state是waiting的情況下，log file parallel等待的seq#都是35693，但是seconds_in_wait達到了21秒。簡單來說，就是lgwr程序寫一個IO需要21秒！
至此，我們可以肯定，IO子系統有問題，需要重點排查IO路徑下的光纖線、SAN交換機、存儲的報錯和性能情況。
2.8 如何進一步證明IO路徑環節有問題（跨部門合作）
考慮到客戶那邊管存儲的團隊/部門可能不承認資料庫的IO慢的證據，同時為了讓對方增加排查力度，小y讓客戶發出以下指令，檢視多路徑軟體的IO情況，結果如下圖所示：
節點1上出現明顯的IO ERROR，并且在持續增加！
繼續檢查節點2，發現節點2上沒有任何IO ERROR！
回顧前面的分析，節點2在調整資料庫自适應log file sync為false後，并且沒有出現IO ERROR，是以已經沒有log file sync。
至此，分析結束！所有問題都得到了完美的解釋！
找到原因了，還拿到了說服力極強的證據，客戶終于松了一口氣，不怕存儲團隊不認賬了！
2.9 問題得到圓滿解決
在鐵的證據面前，客戶的存儲團隊沒有再掙紮，而是開始認認真真逐個在排查，最終在更換了光纖線後問題得到圓滿解決。以下是更換光纖線後再次壓測的等待事件！
壓測的TPS曲線從原來的波浪形：
變成了如下的良好曲線
Part 3
問題原因和總結和風險提示
3.1 問題原因總結
該航空客戶業務上線時壓測無法達到并發和響應時間名額的原因在于同時遇到了兩個混在一起的問題：
1）Oracle 11.2.0.3上log file sync預設打開自适應，當切換到polling模式後，導緻log file sync等待時間變長，而log file sync是gc和buffer busy wait的一個環節，是以導緻大量的等待
小y将"_use_adaptive_log_file_sync"調整為false後，就解決了一部分的log file sync等待的問題
2）由于節點1的光纖線存在品質問題，會導緻IO錯誤，繼而導緻IO重發，影響了lgwr寫日志的性能。
在調整資料庫參數預設值并且更換光纖線後，問題得到圓滿解決。
壓測的TPS曲線從原來的波浪形
3.2 解決問題的關鍵點回顧
1）對Oracle等待事件不要割裂的來分析
小y在本case中通過梳理等待事件的共同點為log file sync,進而找到了突破口
2）了解不同版本資料庫的特性和行為
小y平時在不斷了解11g的新特性，并且通過大量的故障處理深入了解了這些特性，是以，當log file sync出現的時候，可以很快定位到新特性引起
3）不要完全相信AWR報告，他隻是個工具，要懷疑一切去驗證。
在這個case中，awr報告的名額并不能真實反映lgwr寫性能的情況，要懷疑一切
4）一個Oracle服務人員，如果隻懂資料庫，就會出現你懷疑這懷疑那，但是其他人根本不認賬的情況，是以必須掌握更多的包括作業系統、存儲、網絡、中間件的技能。當然了，找一家綜合服務能力強的服務商也是不錯的選擇。
在這個case中，小y通過多路徑的指令，找到了直接證據，最終獲得了其他團隊的大力度排查也是這次問題最終解決的關鍵。
風險提示
進制之間的切換回記錄到lgwr程序的trace當中，如下所示。
是以，小y在這裡提示各位。
在Oracle 11.2.0.3以下，建議關閉自适應log file sync,務必讓lgwr程序運作在post/wait機制下，以確定資料庫不會出現嚴重的性能抖動！關閉的指令如下，可線上修改！
About Me
....................................................................................................................................................
本文來自于微信公衆号轉載文章，若有侵權，請聯系小麥苗及時删除
ITPUB BLOG：http://blog.itpub.net/26736162
QQ：642808185 若加QQ請注明您所正在讀的文章标題
【版權所有，文章允許轉載，但須以連結方式注明源位址，否則追究法律責任】