作者 | 元乙
來源 | 阿裡技術公衆号
一 前言
可觀測性這個概念最早出現于20世紀70年代的電氣工程，核心的定義是：
A system is said to be observable if, for any possible evolution of state and control vectors, the current state can be estimated using only the information from outputs.
相比傳統的告警、監控，可觀測性能夠以更加“白盒”的方式看透整個複雜的系統，幫助我們更好的觀察系統的運作狀況，快速定位和解決問題。就像發動機而言，告警隻是告訴你發動機是否有問題，而一些包含轉速、溫度、壓力的儀表盤能夠幫我們大緻确定是哪個部分可能有問題，而真正定位細節問題還需要觀察每個部件的傳感器資料才行。
二 IT系統的可觀測性
電氣化時代起源于第二次工業革命(Second Industrial Revolution）起于19世紀七十年代，主要标志是：電力、内燃機的廣泛應用。而可觀測性這一概念為何在近100年後才會被提出？難道在此之前就不需要依賴各類傳感器的輸出定位和排查故障和問題？顯然不是，排查故障的方式一直都在，隻是整個系統和情況更加複雜，是以才需要更加體系化、系統化的方式來支援這一過程，是以演化出來可觀測性這個概念。是以核心點在于：
- 系統更加的複雜：以前的汽車隻需要一個發動機、傳送帶、車輛、刹車就可以跑起來，現在随便一個汽車上至少有上百個部件和系統，故障的定位難度變的更大。
- 開發涉及更多的人：随着全球化時代的到來，公司、部分的分工也越來越細，也就意味着系統的開發和維護需要更多的部門和人來共同完成，協調的代價也越來越大。
- 運作環境多種多樣：不同的運作環境下，每個系統的工作情況是變化的，我們需要在任何階段都能有效記錄好系統的狀态，便于我們分析問題、優化産品。
而IT系統經過幾十年的飛速發展，整個開發模式、系統架構、部署模式、基礎設施等也都經過了好幾輪的優化，優化帶來了更快的開發、部署效率，但随之而來整個的系統也更加的複雜、開發依賴更多的人和部門、部署模式和運作環境也更加動态和不确定，是以IT行業也已經到了需要更加系統化、體系化進行觀測的這一過程。
IT系統的可觀測性實施起來其實和電氣工程還是比較類似，核心還是觀察我們各個系統、應用的輸出，通過資料來判斷整體的工作狀态。通常我們會把這些輸出進行分類，總結為Traces、Metrics、Logs。關于這三種資料的特點、應用場景以及關系等，我們會在後面進行詳細展開。
三 IT可觀測性的演進
IT的可觀測性技術一直在不斷的發展中，從廣義的角度上講，可觀測性相關的技術除了應用在IT運維的場景外，還可以應用在和公司相關的通用場景以及特殊場景中。
- IT運維場景：IT運維場景從橫向、縱向來看，觀察的目标從最基礎的機房、網絡等開始向使用者的端上發展；觀察的場景也從純粹的錯誤、慢請求等發展為使用者的實際産品體驗。
- 通用場景：觀測本質上是一個通用的行為，除了運維場景外，對于公司的安全、使用者行為、營運增長、交易等都适用，我們可以針對這些場景建構例如攻擊檢測、攻擊溯源、ABTest、廣告效果分析等應用形式。
- 特殊場景：除了場景的公司内通用場景外，針對不同的行業屬性，也可以衍生出特定行業的觀測場景與應用，例如阿裡雲的城市大腦，就是通過觀測道路擁堵、信号燈、交通事故等資訊，通過控制不同紅綠燈時間、出行規劃等手段降低城市整體擁堵率。
四 Pragmatic可觀測性如何落地
回到可觀測性方案落地上，我們現階段可能無法做出一個适用于各個行業屬性的可觀測引擎，更多的還是專注于DevOps和通用的公司商業方面。這裡面的兩個核心工作是：
- 資料的覆寫面足夠的全：能夠包括各類不同場景的不同類型的資料，除了狹義的日志、監控、Trace外，還需要包括我們的CMDB、變更資料、客戶資訊、訂單/交易資訊、網絡流、API調用等
- 資料關聯與統一分析：資料價值的發掘不是簡單的通過一種資料來實作，更多的時候我們需要利用多種資料關聯來達到目的，例如結合使用者的資訊表以及通路日志，我們可以分析不同年齡段、性别的使用者的行為特點，針對性的進行推薦；通過登入日志、CMDB等，結合規則引擎，來實作安全類的攻擊檢測。
從整個流程來看，我們可以将可觀測性的工作劃分為4個組成部分：
- 傳感器：擷取資料的前提是要有足夠傳感器來産生資料，這些傳感器在IT領域的形态有：SDK、埋點、外部探針等。
- 資料：傳感器産生資料後，我們需要有足夠的能力去擷取、收集各種類型的資料，并把這些資料歸類分析。
- 算力：可觀測場景的核心是需要覆寫足夠多的資料，資料一定是海量的，是以系統需要有足夠的算力來計算和分析這些資料。
- 算法：可觀測場景的終極應用是資料的價值發掘，是以需要使用到各類算法，包括一些基礎的數值類算法、各種AIOps相關的算法以及這些算法的組合。
五 再論可觀測性資料分類
- Logs、Traces、Metrics作為IT可觀測性資料的三劍客，基本可以滿足各類監控、告警、分析、問題排查等需求，然而實際場景中，我們經常會搞混每種資料的适用形态，這裡再大緻羅列一下這三類資料的特點、轉化方式以及适用場景：
- Logs：我們對于Logs是更加寬泛的定義：記錄事/物變化的載體，對于常見的通路日志、交易日志、核心日志等文本型以及包括GPS、音視訊等泛型資料也包含在其中。日志在調用鍊場景結構化後其實可以轉變為Trace，在進行聚合、降采樣操作後會變成Metrics。
- Metrics：是聚合後的數值，相對比較離散，一般有name、labels、time、values組成，Metrics資料量一般很小，相對成本更低，查詢的速度比較快。
- Traces：是最标準的調用日志，除了定義了調用的父子關系外（一般通過TraceID、SpanID、ParentSpanID），一般還會定義操作的服務、方法、屬性、狀态、耗時等詳細資訊，通過Trace能夠代替一部分Logs的功能，通過Trace的聚合也能得到每個服務、方法的Metrics名額。
六 “割裂”的可觀測性方案
業界也針對這種情況推出了各類可觀察性相關的産品，包括開源、商業化的衆多項目。例如：
- Metrics：Zabbix、Nagios、Prometheus、InfluxDB、OpenFalcon、OpenCensus
- Traces：Jaeger、Zipkin、SkyWalking、OpenTracing、OpenCensus
- Logs：ELK、Splunk、SumoLogic、Loki、Loggly
利用這些項目的組合或多或少可以解決針對性的一類或者幾類問題，但真正應用起來你會發現各種問題：
- 多套方案交織：可能要使用至少Metrics、Logging、Tracing3種方案，維護代價巨大
- 資料不互通：雖然是同一個業務元件，同一個系統，産生的資料由于在不同的方案中，資料難以互通，無法充分發揮資料價值
在這種多套方案組合的場景下，問題排查需要和多套系統打交道，若這些系統歸屬不同的團隊，還需要和多個團隊進行互動才能解決問題，整體的維護和使用代價非常巨大。是以我們希望能夠使用一套系統去解決所有類型可觀測性資料的采集、存儲、分析的功能。
七 可觀測性資料引擎架構
基于上述我們的一些思考，回歸到可觀測這個問題的本質，我們目标的可觀測性方案需要能夠滿足以下幾點：
- 資料全面覆寫：包括各類的可觀測資料以及支援從各個端、系統中采集資料
- 統一的系統：拒絕割裂，能夠在一個系統中支援Traces、Metrics、Logs的統一存儲與分析
- 資料可關聯：每種資料内部可以互相關聯，也支援跨資料類型的關聯，能夠用一套分析語言把各類資料進行融合分析
- 足夠的算力：分布式、可擴充，面對PB級的資料，也能有足夠的算力去分析
- 靈活智能的算法：除了基礎的算法外，還應包括AIOps相關的異常檢測、預測類的算法，并且支援對這些算法進行編排
可觀測資料引擎的整體架構如下圖所示，從底到上的四層也基本符合方案落地的指導思想：傳感器+資料+算力+算法：
- 傳感器：資料源以OpenTelemetry為核心，并且支援各類資料形态、裝置/端、資料格式的采集，覆寫面足夠的“廣”。
- 資料+算力：采集上來的資料，首先會進入到我們的管道系統（類似于Kafka），根據不同的資料類型建構不同的索引，目前每天我們的平台會有幾十PB的新資料寫入并存儲下。除了常見的查詢和分析能力外，我們還内置了ETL的功能，負責對資料進行清洗和格式化，同時支援對接外部的流計算和離線計算系統。
- 算法：除了基礎的數值算法外，目前我們支援了十多種的異常檢測/預測算法，并且還支援流式異常檢測；同時也支援使用Scheduled SQL進行資料的編排，幫助我們産生更多新的資料。
- 價值發掘：價值發掘過程主要通過可視化、告警、互動式分析等人機互動來實作，同時也提供了OpenAPI來對接外部系統或者供使用者來實作一些自定義的功能。
八 資料源與協定相容
随着阿裡全面擁抱雲原生後，我們也開始逐漸去相容開源以及雲原生的可觀測領域的協定和方案。相比自有協定的封閉模式，相容開源、标準協定大大擴充了我們平台能夠支援的資料采集範圍，而且減少了不必要的造輪子環節。上圖展示了我們相容外部協定、Agent的整體進度：
- Traces：除了内部的飛天Trace、鷹眼Trace外，開源的包括Jaeger、OpenTracing、Zipkin、SkyWalking、OpenTelemetry、OpenCensus等。
- Logs：Logs的協定較少，但是設計比較多的日志采集Agent，我們平台除了自研的Logtail外，還相容包括Logstash、Beats（FileBeat、AuditBeat）、Fluentd、Fluent bits，同時還提供syslog協定，路由器交換機等可以直接用syslog協定上報資料到服務端。
- Metrics：時序引擎我們在新版本設計之初就相容了Prometheus，并且支援Telegraf、OpenFalcon、OpenTelemetry Metrics、Zabbix等資料接入。
九 統一存儲引擎
對于存儲引擎，我們的設計目标的第一要素是統一，能夠用一套引擎存儲各類可觀測的資料；第二要素是快，包括寫入、查詢，能夠适用于阿裡内外部超大規模的場景（日寫入幾十PB）。
對于Logs、Traces、Metrics，其中Logs和Traces的格式和查詢特點非常相似，我們放到一起來分析，推導的過程如下：
- Logs/Traces：
- 查詢的方式主要是通過關鍵詞/TraceID進行查詢，另外會根據某些Tag進行過濾，例如hostname、region、app等
- 每次查詢的命中數相對較少，尤其是TraceID的查詢方式，而且命中的資料極有可能是離散的
- 通常這類資料最适合存儲在搜尋引擎中，其中最核心的技術是反向索引
- Metrics：
- 通常都是range查詢，每次查詢某一個單一的名額/時間線，或者一組時間線進行聚合，例如統一某個應用所有機器的平均CPU
- 時序類的查詢一般QPS都較高（主要有很多告警規則），為了适應高QPS查詢，需要把資料的聚合性做好
- 對于這類資料都會有專門的時序引擎來支撐，目前主流的時序引擎基本上都是用類似于LSM Tree的思想來實作，以适應高吞吐的寫入和查詢（Update、Delete操作很少）
同時可觀測性資料還有一些共性的特點，例如高吞吐寫入（高流量、QPS，而且會有Burst）、超大規模查詢特點、時間通路特性（冷熱特性、通路局部性等）。
針對上述的特性分析，我們設計了一套統一的可觀測資料存儲引擎，整體架構如下：
- 接入層支援各類協定寫入，寫入的資料首先會進入到一個FIFO的管道中，類似于Kafka的MQ模型，并且支援資料消費，用來對接各類下遊
- 在管道之上有兩套索引結構，分别是反向索引以及SortedTable，分别為Traces/Logs和Metrics提供快速的查詢能力
- 兩套索引除了結構不同外，其他各類機制都是共用的，例如存儲引擎、FailOver邏輯、緩存政策、冷熱資料分層政策等
- 上述這些資料都在同一個程序内實作，大大降低運維、部署代價
- 整個存儲引擎基于純分布式架構實作，支援橫向擴充，單個Store最多支援日PB級的資料寫入
十 統一分析引擎
如果把存儲引擎比喻成新鮮的食材，那分析引擎就是處理這些食材的刀具，針對不同類型的食材，用不同種類的刀來處理才能得到最好的效果，例如蔬菜用切片刀、排骨用斬骨刀、水果用削皮刀等。同樣針對不同類型的可觀測資料和場景，也有對應的适合的分析方式：
- Metrics：通常用于告警和圖形化展示，一般直接擷取或者輔以簡單的計算，例如PromQL、TSQL等
- Traces/Logs：最簡單直接的方式是關鍵詞的查詢，包括TraceID查詢也隻是關鍵詞查詢的特例
- 資料分析（一般針對Traces、Logs）：通常Traces、Logs還會用于資料分析和挖掘，是以要使用圖靈完備的語言，一般程式員接受最廣的是SQL
上述的分析方式都有對應的适用場景，我們很難用一種文法/語言去實作所有的功能并且具有非常好的便捷性（雖然通過擴充SQL可以實作類似PromQL、關鍵詞查詢的能力，但是寫起來一個簡單的PromQL算子可能要用一大串SQL才能實作），是以我們的分析引擎選擇去相容關鍵詞查詢、PromQL的文法。同時為了便于将各類可觀測資料進行關聯起來，我們在SQL的基礎上，實作了可以連接配接關鍵詞查詢、PromQL、外部的DB、ML模型的能力，讓SQL成為頂層分析語言，實作可觀測資料的融合分析能力。
下面舉幾個我們的查詢/分析的應用示例，前面3個相對比較簡單，可以用純粹的關鍵詞查詢、PromQL，也可以結合SQL一起使用。最後一個展示了實際場景中進行融合分析的例子：
- 背景：線上發現有支付失敗的錯誤，需要分析這些出現支付失敗的錯誤的機器CPU名額有沒有問題
- 實作
- 首先查詢機器的CPU名額
- 關聯機器的Region資訊（需要排查是否某個Region出現問題）
- 和日志中出現支付失敗的機器進行Join，隻關心這些機器
- 最後應用時序異常檢測算法來快速的分析這些機器的CPU名額
- 最後的結果使用線圖進行可視化，結果展示更加直覺
上述的例子同時查詢了LogStore、MetricStore，而且關聯CMDB以及ML模型，一個語句實作了非常複雜的分析效果，在實際的場景中還是經常出現的，尤其是分析一些比較複雜的應用和異常。
十一 資料編排
可觀測性相比傳統監控，更多的還是在于資料價值的發掘能力更強，能夠僅通過輸出來推斷系統的運作狀态，是以和資料挖掘這個工作比較像，收集各類繁雜的資料、格式化、預處理、分析、檢驗，最後根據得到的結論去“講故事”。是以在可觀測性引擎的建設上，我們非常關注資料編排的能力，能夠讓資料流轉起來，從茫茫的原始日志中不斷的去提取出價值更高的資料，最終告訴我們系統是否在工作以及為什麼不工作。為了讓資料能夠“流轉”起來，我們開發了幾個功能：
- 資料加工：也就是大資料ETL（extract, transform, and load）中T的功能，能夠幫我們把非結構化、半結構化的資料處理成結構化的資料，更加容易分析。
- Scheduled SQL：顧名思義，就是定期運作的SQL，核心思想是把龐大的資料精簡化，更加利于查詢，例如通過AccessLog每分鐘定期計算網站的通路請求、按APP、Region粒度聚合CPU、記憶體名額、定期計算Trace拓撲等。
- AIOps巡檢：針對時序資料特别開發的基于時序異常算法的巡檢能力，用機器和算力幫我們去檢查到底是哪個名額的哪個次元出現問題。
十二 可觀測性引擎應用實踐
目前我們這套平台上已經積累了10萬級的内外部使用者，每天寫入的資料40PB+，非常多的團隊在基于我們的引擎在建構自己公司/部門的可觀測平台，進行全棧的可觀測和業務創新。下面将介紹一些常見的使用我們引擎的場景：
1 全鍊路可觀測
全鍊路的可觀測性一直都是DevOps環節中的重要步驟，除了通常的監控、告警、問題排查外，還承擔使用者行為回放/分析、版本釋出驗證、A/B Test等功能，下圖展示的是阿裡内部某個産品内部的全鍊路可觀測架構圖：
- 資料源包括移動端、Web端、後端的各類資料，同時還包括一些監控系統的資料、第三方的資料等
- 采集通過SLS的Logtail和TLog實作
- 基于離線上混合的資料處理方式，對資料進行打标、過濾、關聯、分發等預處理
- 各類資料全部存儲在SLS可觀測資料引擎中，主要利用SLS提供的索引、查詢和聚合分析能力
- 上層基于SLS的接口建構全鍊路的資料展示和監控系統
2 成本可觀測
商業公司的第一要務永遠是營收、盈利，我們都知道盈利=營收-成本，IT部門的成本通常也會占據很大一個部分，尤其是網際網路類型的公司。現在阿裡全面雲化後，包括阿裡内部的團隊也會在乎自己的IT支出，盡可能的壓縮成本。下面的示例是我們阿裡雲上一家客戶的監控系統架構，系統除了負責IT基礎設施和業務的監控外，還會負責分析和優化整個公司的IT成本，主要收集的資料有：
- 收集雲上每個産品（虛拟機、網絡、存儲、資料庫、SaaS類等）的費用，包括詳細的計費資訊
- 收集每個産品的監控資訊，包括用量、使用率等
- 建立起Catalog/CMDB，包括每個資源/執行個體所屬的業務部門、團隊、用途等
利用Catalog + 産品計費資訊，就可以計算出每個部門的IT支出費用；再結合每個執行個體的用量、使用率資訊，就可以計算出每個部門的IT資源使用率，例如每台ECS的CPU、記憶體使用率。最終計算出每個部門/團隊整體上使用IT資源的合理度，将這些資訊總結成營運報表，推動資源使用合理度低的部門/團隊去優化。
3 Trace可觀測
随着雲原生、微服務逐漸在各個行業落地，分布式鍊路追蹤（Trace）也開始被越來越多的公司采用。對于Trace而言，最基礎的能力是能夠記錄請求在多個服務之間調用的傳播、依賴關系并進行可視化。而從Trace本身的資料特點而言，它是規則化、标準化且帶有依賴關系的通路日志，是以可以基于Trace去計算并挖掘更多的價值。
下面是SLS OpenTelemetry Trace的實作架構，核心是通過資料編排計算Trace原始資料并得到聚合資料，并基于SLS提供的接口實作各類Trace的附加功能。例如：
- 依賴關系：這是絕大部分的Trace系統都會附帶的功能，基于Trace中的父子關系進行聚合計算，得到Trace Dependency
- 服務/接口黃金名額：Trace中記錄了服務/接口的調用延遲、狀态碼等資訊，基于這些資料可以計算出QPS、延遲、錯誤率等黃金名額。
- 上下遊分析：基于計算的Dependency資訊，按照某個Service進行聚合，統一Service依賴的上下遊的名額
- 中間件分析：Trace中對于中間件（資料庫/MQ等）的調用一般都會記錄成一個個Span，基于這些Span的統計可以得到中間件的QPS、延遲、錯誤率。
- 告警相關：通常基于服務/接口的黃金名額設定監控和告警，也可以隻關心整體服務入口的告警（一般對父Span為空的Span認為是服務入口調用）。
4 基于編排的根因分析
可觀測性的前期階段，很多工作都是需要人工來完成，我們最希望的還是能有一套自動化的系統，在出現問題的時候能夠基于這些觀測的資料自動進行異常的診斷、得到一個可靠的根因并能夠根據診斷的根因進行自動的Fix。現階段，自動異常恢複很難做到，但根因的定位通過一定的算法和編排手段還是可以實施的。
下圖是一個典型的IT系統架構的觀測抽象，每個APP都會有自己的黃金名額、業務的通路日志/錯誤日志、基礎監控名額、調用中間件的名額、關聯的中間件自身名額/日志，同時通過Trace還可以得到上下遊APP/服務的依賴關系。通過這些資料再結合一些算法和編排手段就可以進行一定程度的自動化根因分析了。這裡核心依賴的幾點如下：
- 關聯關系：通過Trace可以計算出APP/服務之間的依賴關系；通過CMDB資訊可以得到APP和PaaS、IaaS之間的依賴關系。通過關聯關系就可以“順藤摸瓜”，找到出現問題的原因。
- 時序異常檢測算法：自動檢測某一條、某組曲線是否有異常，包括ARMA、KSigma、Time2Graph等，詳細的算法可以參考：異常檢測算法、流式異常檢測。
- 日志聚類分析：将相似度高的日志聚合，提取共同的日志模式（Pattern），快速掌握日志全貌，同時利用Pattern的對比功能，對比正常/異常時間段的Pattern，快速找到日志中的異常。
時序、日志的異常分析能夠幫我們确定某個元件是否存在問題，而關聯關系能夠讓我們進行“順藤摸瓜”。通過這三個核心功能的組合就可以編排出一個異常的根因分析系統。下圖就是一個簡單的示例：首先從告警開始分析入口的黃金名額，随後分析服務本身的資料、依賴的中間件名額、應用Pod/虛拟機名額，通過Trace Dependency可以遞歸分析下遊依賴是否出現問題，其中還可以關聯一些變更資訊，以便快速定位是否由于變更引起的異常。最終發現的異常事件集中到時間軸上進行推導，也可以由運維/開發來最終确定根因。
十三 寫在最後
可觀測性這一概念并不是直接發明的“黑科技”，而是我們從監控、問題排查、預防等工作中逐漸“演化”出來的詞。同樣我們一開始隻是做日志引擎（阿裡雲上的産品：日志服務），在随後才逐漸優化、更新為可觀測性的引擎。對于“可觀測性”我們要抛開概念/名詞本身來發現它的本質，而這個本質往往是和商業（Business）相關，例如：
- 讓系統更加穩定，使用者體驗更好
- 觀察IT支出，消除不合理的使用，節省更多的成本
- 觀察交易行為，找到刷單/作弊，即使止損
- 利用AIOps等自動化手段發現問題，節省更多的人力，運維提效
而我們對于可觀測性引擎的研發，主要關注的也是如何服務更多的部門/公司進行可觀測性方案的快速、有效實施。包括引擎中的傳感器、資料、計算、算法等工作一直在不斷進行演進和疊代，例如更加便捷的eBPF采集、更高壓縮率的資料壓縮算法、性能更高的并行計算、召回率更低的根因分析算法等。
《看見新力量》第二期免費下載下傳！帶你走進數十位科技創業者背後的故事
這是一本正在進行中的科技創業者的記錄，書中涉及的創業者還都奔跑在路上。然而，他們的所思所做，已足以令一些産業發生微小而有效的變化，令數字經濟時代下人們的生活變得更加智能。阿裡雲創新中心作為科技創業者堅定的陪伴者，希望能夠通過記錄的方式，讓大家聽到創業者真實的聲音，看見科技創新的力量。
點選這裡,檢視詳情！