天天看點

使用資料加工進行logstore日志流轉

資料加工簡介

資料加工是阿裡雲SLS推出的一項Serverless的功能,主要解決日志行實時處理的場景,目前提供了200+的DSL算子。 詳細的加工介紹請參考

https://help.aliyun.com/document_detail/125384.html
使用資料加工進行logstore日志流轉

Logstore日志流轉常見的場景

使用資料加工進行logstore日志流轉

日志流轉案例 - logstore日志字段過濾複制

案例

A部門有一份敏感日志,由于業務需要, B部門需要通路A部門的日志中的部分字段。為了安全起見,A部門可以使用資料加工實作Logstore對拷, 并過濾掉敏感字段,并且使用RAM授權的方式,給B部門授權

解決方案

使用資料加工 一對一拷貝的功能,并且使用DSL語句進行一定字段的過濾

使用資料加工進行logstore日志流轉

加工語句範例

e_keep_fields("filed1","field2",regex=False)           

日志流轉案例 - 多種格式揉雜的logstore,日志拆分

服務A有一份日志,應用程式打的日志格式并不統一。

當有關鍵詞xx的時候,具備格式 x

當有關鍵詞yy的時候,具備格式 y

由于格式差異較大,冗雜在一個logstore裡不利于搜尋查詢; 比如最後需要投遞到oss資料湖進行進一步查詢分析

使用資料加工一對多的分發能力可以解決以上問題

使用資料加工進行logstore日志流轉

e_if(e_match("http_code", "500"), e_output(name="logstore1"))
e_if(e_match("http_code", "200"), e_output(name="logstore2"))
e_drop()           

日志流轉案例 - 跨Region複制

公司的業務在各個Region都有部署,查詢logstore的時候,需要到不同Project下進行查詢,給開發運維帶來不便。

使用資料加工将logstore 跨Region寫出到中心化的logstore

使用資料加工跨Region傳輸的能力,進行多對一的logstore複制

使用資料加工進行logstore日志流轉

加工語句直接為空,配置時設定好目标logstore即可

小結

使用資料加工對logstore進行資料流轉,具備以下幾點能力(可根據業務場景進行任意組合)

  1. 支援流轉時資料處理(轉化、過濾、富化等,200+DSL函數)
  2. 支援一對一、一對多、多對一進行流轉
  3. 支援同一個賬号、跨賬号的場景
  4. 支援同Region、跨Region的場景
  5. 支援一次性 資料服務, 也支援流式持續複制

參考

  1. sls資料加工 http://help.aliyun.com/document_detail/125384.html