資料加工簡介
資料加工是阿裡雲SLS推出的一項Serverless的功能,主要解決日志行實時處理的場景,目前提供了200+的DSL算子。 詳細的加工介紹請參考
https://help.aliyun.com/document_detail/125384.html
Logstore日志流轉常見的場景
日志流轉案例 - logstore日志字段過濾複制
案例
A部門有一份敏感日志,由于業務需要, B部門需要通路A部門的日志中的部分字段。為了安全起見,A部門可以使用資料加工實作Logstore對拷, 并過濾掉敏感字段,并且使用RAM授權的方式,給B部門授權
解決方案
使用資料加工 一對一拷貝的功能,并且使用DSL語句進行一定字段的過濾
加工語句範例
e_keep_fields("filed1","field2",regex=False)
日志流轉案例 - 多種格式揉雜的logstore,日志拆分
服務A有一份日志,應用程式打的日志格式并不統一。
當有關鍵詞xx的時候,具備格式 x
當有關鍵詞yy的時候,具備格式 y
由于格式差異較大,冗雜在一個logstore裡不利于搜尋查詢; 比如最後需要投遞到oss資料湖進行進一步查詢分析
使用資料加工一對多的分發能力可以解決以上問題
e_if(e_match("http_code", "500"), e_output(name="logstore1"))
e_if(e_match("http_code", "200"), e_output(name="logstore2"))
e_drop()
日志流轉案例 - 跨Region複制
公司的業務在各個Region都有部署,查詢logstore的時候,需要到不同Project下進行查詢,給開發運維帶來不便。
使用資料加工将logstore 跨Region寫出到中心化的logstore
使用資料加工跨Region傳輸的能力,進行多對一的logstore複制
加工語句直接為空,配置時設定好目标logstore即可
小結
使用資料加工對logstore進行資料流轉,具備以下幾點能力(可根據業務場景進行任意組合)
- 支援流轉時資料處理(轉化、過濾、富化等,200+DSL函數)
- 支援一對一、一對多、多對一進行流轉
- 支援同一個賬号、跨賬号的場景
- 支援同Region、跨Region的場景
- 支援一次性 資料服務, 也支援流式持續複制