天天看點

大資料從業人員能力要求

作者:資料人plus
大資料從業人員能力要求

大資料職業種類

大資料從業人員能力要求

大資料職業等級要求

大資料從業人員能力要求

大資料從業人員崗位能力要素清單

基礎知識要求

  • 基礎理論知識

基礎理論知識要求具體如下:

a) 作業系統知識,

b) 計算機網絡知識,

c) 程式設計基礎知識,

d) 資料結構與算法知識,

e) 資料庫知識,

f) 軟體工程知識,

g) 雲計算知識,

h) 大資料知識。

  • 技術基礎知識

技術基礎知識要求具體如下:

a) 大資料系統環境安裝、配置和調試知識,

b) 大資料平台架構知識,

c) 軟體應用開發知識,

d) 接口開發與功能子產品設計知識,

e) 資料采集與資料預處理知識,

f) 資料計算與資料名額知識,

g) 常用資料分析與挖掘方法,

h) 常用資料報表與可視化技術方法,

i) 資料管理知識,

j) 資料營運及技術指導知識。SJ/T XXXXX—XXXX

  • 安全知識

安全知識要求具體如下:

a) 大資料應用、裝置與外部服務元件安全管理知識,

b) 大資料服務使用者身份鑒别與通路控制相關知識,

c) 大資料服務資料活動安全管理知識,

d) 大資料服務基礎設施安全管理知識,

e) 大資料系統應急響應管理知識。

  • 其他相關知識

其他安全知識要求具體如下:

a) 環境保護知識,

b) 文明生産知識,

c) 勞動保護知識,

d) 資料保管保密知識。

  • 相關法律、法規知識

相關法律、法規知識要求具體如下:

a)《中華人民共和國民法總則》相關知識,

b)《中華人民共和國勞動法》相關知識,

c)《中華人民共和國安全生産法》相關知識,

d)《中華人民共和國網絡安全法》相關知識,

e)《關于加強網絡資訊保護的決定》相關知識,

f)《關鍵資訊基礎設施安全保護條例》相關知識,

g)《網絡安全等級保護條例》相關知識,

h)《資料安全管理辦法》相關知識,

i)《電信和網際網路使用者個人資訊保護規定》相關知識。

  • 相關标準

應學習以下标準内容,具體如下:

a) GB/T 35589-2017《資訊技術 大資料 技術參考模型》相關知識,

b) GB/T 35295-2017 《資訊技術 大資料 術語》相關知識,

c) GB/T 38673-2020《資訊技術 大資料 大資料系統基本要求》相關知識,

d) GB/T 37721-2019《資訊技術 大資料分析系統功能要求》相關知識,

e) GB/T 37722-2019 《資訊技術 大資料存儲于處理系統功能要求》相關知識,

f) GB/T 36073-2018 《資料管理能力成熟度評估模型》相關知識。

資料采集工程師

應負責資料調研、采集、歸類、預處理、歸類存儲等工作。

  • 初級能力要求

資料采集工程師初級能力要求具體如下。

a) 專業知識:

1) 網絡爬蟲知識,

2) 離線資料采集知識,

3) 實時資料采集知識,

4) 作業排程知識,

5) 檔案系統資料存儲知識,

6) 關系型資料庫知識,

7) 非關系型資料庫知識,

8) 資料清洗知識,

9) 資料 ETL 知識,

10) 資料庫基礎操作知識,

11) SQL 函數知識,

12) 結構化、半結構化與非結構化知識,

13) 分布式計算知識,

14) 記憶體計算知識,

15) 資料結構封裝知識,

16) 關鍵業務名額知識,

17) OLAP 系統應用知識,

18) 資料檢索知識,

19) 互動式計算知識,

20) 報表制作知識。

b) 專業技能:

1) 能根據業務需求進行網絡、離線、實時資料采集;

2) 能根據排程政策使用架構設定排程作業;

3) 能根據存儲政策進行資料存儲;

4) 能根據業務需求對遺漏資料、噪音資料、不一緻資料等進行清洗;

5) 能根據業務需求對不同資料源資料進行整合;

6) 能根據業務規則對資料格式進行轉換;

7) 能根據資料歸一性原則對資料進行機關、數值規約;

8) 能根據業務需求編寫批量、實時資料計算作業;

9) 能根據資料特征計算資料标簽并進行彙總;

10) 能根據資料名額規則計算關鍵業務名額;

11) 能根據資料平台建構聯機事務分析系統并進行即席查詢;

12) 能根據檢索引擎建立索引庫并進行資料檢索;

13) 能使用互動式查詢工具建立資料接口并提供對外服務接口;

14) 能使用互動式查詢平台制作報表及展示圖表。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料采集工程師中級能力要求具體如下。

a) 專業知識:

1) 資訊系統配置知識,

2) 資料監測與遷移知識,

3) 資料存儲政策知識,

4) 常用算法與資料結構知識,

5) 資料畫像知識,

6) 資料傾斜知識,

7) 大規模并行分析資料庫知識,

8) 資料立方知識,

9) 查詢引擎知識,

10) 資料分詞知識。

b) 專業技能:

1) 能根據業務需求進行網絡、離線、實時資料采集,并配置資料緩存及消息隊列;

2) 能根據業務需求參與制定資料遷移方案;

3) 能制定排程政策;

4) 能制定存儲政策并指導初級工程師存儲資料;

5) 能根據業務需求編寫批量、實時資料計算作業并優化作業參數;

6) 能根據業務規則設計相應标簽庫并進行标簽管理;

7) 能根據業務規則設計相應資料名額計算算法;

8) 能根據業務規則對關系對象進行圖計算;

9) 能使用大規模并行分析資料庫優化聯機事務分析系統性能;

10) 能使用計算引擎優化資料查詢效率;

11) 能通過計算平台建構檢索分析系統。

c) 經驗:

1) 具備一定的采集相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料采集工程師進階能力要求具體如下。

a) 專業知識:

1) 資料采集與遷移政策,

2) 依賴排程原理知識,

3) 存儲架構知識,

4) 資料算法設計,

5) 資料分區及緩存知識,

6) 外部程式管道知識,

7) 計算引擎優化知識,

8) 索引優化知識,

9) 資料加鹽知識,

10) 驅動器與執行器知識。

b) 專業技能:

1) 能根據業務場景制定資料采集政策并監控采集情況;

2) 能根據業務場景制定資料遷移政策并監測遷移情況;

3) 能根據業務及性能需求設計消息傳輸及推送方案;

4) 能根據業務需求及依賴關系設計排程方案;

5) 能根據業務需求及存儲應用設計存儲政策;

6) 能根據業務需求設計離線或實時資料計算算法;

7) 能制定資料标簽庫管理及規範;

8) 能制定資料計算開發流程及規範;

9) 能制定資料查詢操作流程及規範;

10) 能深入計算引擎對底層代碼進行優化以提升查詢性能;

11) 能制定對外資料接口規範及權限。

c) 經驗:

1) 具備資料采集相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料标注工程師

應負責通過借助标注工具對人工智能學習資料進行加工

  • 初級能力要求

資料标注工程師初級能力要求具體如下。

a) 專業知識:

1) 計算機基礎知識,

2) 資料結構知識,

3) 資訊安全基礎知識,

4) 資料采集知識,

5) 資料庫知識,

6) 機器學習知識。

b) 專業技能:

1) 能了解資料處理、資料挖掘技術;

2) 能了解資料調研、資料采集、資料歸類存儲技術;

3) 能完成資料脫敏、資料格式轉換;

4) 能對文本、圖檔、視訊等資料進行整理;

5) 能掌握資料标注工具;

6) 能完成精準标注。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料标注工程師中級能力要求具體如下。

a) 專業知識:

1) 描述性統計知識,

2) 大資料技術知識,

3) 資料資産知識,

4) 判别分析知識。

b) 專業技能:

1) 能熟練掌握和運用資料脫敏、資料格式轉換技術;

2) 能熟悉掌握資料标注工具;

3) 能高效地完成精準标注。

c) 經驗:

1) 具備一定的資料标注相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

資料開發工程師

應負責分析、處理、服務等大資料相關軟體和應用研發等工作。

  • 初級能力要求

資料應用開發工程師初級能力要求具體如下。

a) 專業知識:

1) 軟體應用開發知識,

2) 資料通信知識,

3) 資料緩存知識,

4) 商業智能體系相關知識,

5) 消息中間件知識。

b) 專業技能:

1) 能根據系統架構,規劃各項元件接口規範;

2) 能根據業務功能,設計接口權限及參數規範;

3) 能對整體系統進行資料打通方案設計;

4) 能對整體系統進行庫表結構設計及優化。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料應用開發工程師中級能力要求具體如下。

a) 專業知識:

1) 大資料元件 API 知識,

2) 模型層接口開發知識,

3) 服務層接口開發知識,

4) 測試技術知識,

5) 測試用例設計知識,

6) 測試腳本開發知識。

b) 專業技能:

1) 能根據系統所使用的元件接口,開發相應的資料通路層業務代碼;

2) 能根據大資料存儲系統結構,設計對接業務庫表結構;

3) 能根據産品業務需求,開發相應資料或計算接口;

4) 能根據流程圖梳理代碼邏輯,優化接口及功能子產品;

5) 能根據測試用例,對系統進行接口、功能、壓力等黑盒測試并輸出缺陷、測試報告;

6) 能根據測試用例,對代碼進行邏輯、分支等白盒測試并輸出缺陷、測試報告;

7) 能根據相應測試需求,開發自動化測試腳本。

c) 經驗:

1) 具備一定的資料業務應用相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料應用開發工程師進階能力要求具體如下。

a) 專業知識:

1) 設計模式知識,

2) 分布式算法,

3) 計算引擎技術,

4) 軟體應用接口開發知識,

5) 資料通信知識,

6) 資料緩存知識,

7) 消息中間件知識,

8) 自動化測試腳本技術,

9) 測試工具開發方法。

b) 專業技能:

1) 能根據相關論文、材料實作存儲、計算功能的分布式并行算法;

2) 能根據算法構造存儲、讀寫或處理工具的海量計算引擎;

3) 能根據應用需求開發基于計算引擎的算子、函數或方法;

4) 能根據算子、函數或方法構造隊列或流程,實作計算作業功能;

5) 能根據系統架構,規劃各項元件接口規範;

6) 能根據業務功能,設計接口權限及參數規範;

7) 能對整體系統進行資料打通方案設計;

8) 能對整體系統進行庫表結構設計及優化;

9) 能對整體系統的資料傳輸、緩存、推送設計方案;

10) 能根據産品說明文檔,規劃系統測試計劃;

11) 能根據測試計劃,協調人力、裝置等測試資源;

12) 能根據測試需求,開發自動化測試工具;

13) 能根據性能需求,進行系統深度性能優化測試。

c) 經驗:

1) 具備資料業務應用相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料管理工程師

應負責資料的基礎摸底、挖掘、統計分析,并依據資料做出評估和預測等工作。

  • 初級能力要求

資料管理工程師初級能力要求具體如下。

a) 專業知識:

1) 資料标準知識,

2) 資料血緣知識,

3) 資料品質知識,

4) 資料審計知識。

b) 專業技能:

1) 能對大資料全生命周期進行監控,定義、管理中繼資料,并提供通路中繼資料接口服務;

2) 能對資料品質評估,有效管控資料品質,校正異常資料和缺失資料;

3) 能根據安全審計要求,對資料活動的主題、操作及對象等資料相關屬性進行稽核,確定

資料活動過程和相關操作符合安全要求。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料管理工程師中級能力要求具體如下。

a) 專業知識:

1) 資料标準管理知識,

2) 資料品質管理知識,

3) 生命周期管理知識,

4) 資料安全知識,

5) 資料資産管理知識。

b) 專業技能:

1) 能制定資料标準管理制度,通過制度限制、系統控制等手段,提高平台治理水準;

2) 能制定資料品質管理規範,確定平台資料品質符合規範,探查剖析資料品質問題,制定

解決方案和處理流程,熟悉低品質資料成本和高品質資料收益;

3) 能制定生命周期管理規範、資料血緣管理規範和元模型标準,資料的倫理影響及資料風

險;

4) 能制定資料資産管理規則,注冊入庫資料資産資訊,并進行資産維護;

5) 能制定資料驅動下的資訊解決方案。

c) 經驗:

1) 具備大型或複雜項目資料管理相關經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料管理工程師進階能力要求具體如下。

a) 專業知識:

1) 整體規劃知識,

2) 經營管理知識,

3) 産品優化知識,

4) 系統架構知識。

b) 專業技能:

1) 能結合企業發展目标制定資料戰略;

2) 能根據主流的企業架構架構定制企業級資料管了解決方案;

3) 能夠設計大資料架構、制定技術路線和标準規範;

4) 能夠将各部分知識和技能結合在一起,通過協作共同推動企業實施資料跨部門管理。

c) 經驗:

1) 具備資料管理相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料管理評估師

應依照資料管理标準要求,承擔資料管理評估工作。

  • 初級能力要求

資料管理評估師初級能力要求具體如下。

a) 專業知識:

1) 資料管理能力成熟度評估模型知識。

b) 專業技能:

1) 能夠編寫或者受理評估申請;

2) 依據 DCMM(資料管理能力成熟度評估)規則群組織需求确定評估範圍;

3) 能夠協助企業實施 DCMM 成熟度自評。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料管理評估師中級能力要求具體如下。

a) 專業知識:

1) DCMM 評估方法,

2) 資料治理知識。

b) 專業技能:

1) 能夠獨立開展 DCMM 調研訪談,收集、解讀評估材料;

2) 能夠運用評估表等工具進行 DCMM 評估;

3) 能夠分析企業資料管理現狀,識别資料管理問題及改進項,給出資料管理能力成熟度等

級建議。

c) 經驗:

1) 具備一定的資料評估相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料管理評估師進階能力要求具體如下。

a) 專業知識:

1) DCMM 評估報告的結構和内容,

2) 企業流程再造知識,

3) 成熟度模型改進知識。

b) 專業技能:

1) 能夠編寫、分析 DCMM 評估報告;

2) 能夠解讀 DCMM 模型并組織現場評估;

3) 能夠建立企業資料管理組織和制度;

4) 能夠指導企業實施 DCMM 改進。

c) 經驗:

1) 具備資料評估相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料模組化開發工程師

應負責資料算法模型、機理模型研究和設計及大資料解決方案的制定設計與開發。

  • 初級能力要求

資料模組化開發工程師初級能力要求具體如下。

a) 專業知識:

1) 計算機基礎知識,

2) 資料庫知識,

3) 機率論與數理統計知識,

4) 資料倉庫知識,

5) 名額體系和分析體系的基礎知識,

6) 次元模組化知識。

b) 專業技能:

1) 了解大資料預處理和分析技術,了解常用資料庫;

2) 了解名額體系和分析體系的基礎知識;

3) 掌握常用的程式設計語言和挖掘工具;

4) 熟悉掌握挖掘算法開發與實施;

5) 能根據資料模組化規範設計資料模型;

6) 能根據存儲系統選型編寫并優化資料模型實作腳本;

7) 能根據業務需求對資料模型進行優化。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料模組化開發工程師中級能力要求具體如下。

a) 專業知識:

1) 資料倉庫知識,

2) 資料湖知識,

3) 層次模組化知識,

4) 次元模組化知識,

5) 讀寫性能知識,

6) 資訊技術文檔編制知識,

13SJ/T XXXXX—XXXX

7) 資料序列化知識,

8) 資料壓縮知識。

b) 專業技能:

1) 能根據資料模組化規範設計資料模型;

2) 能根據存儲系統選型編寫并優化資料模型實作腳本;

3) 能根據業務需求對資料模型進行優化;

4) 能根據資料品質要求制定資料清洗政策及評估方案;

5) 能根據業務要求制定資料整合方案;

6) 能根據業務需求及性能要求設計資料結構及格式調整方案;

7) 能根據歸一性需求制定資料規約方案;

8) 能根據業務需求編寫自定義資料預處理函數。

c) 經驗:

1) 具備一定的資料模組化相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料模組化開發工程師進階能力要求具體如下。

a) 專業知識:

1) 資料中台設計知識,

2) 資料模組化知識,

3) SOA/DOA 體系結構知識,

4) 資料清洗流程規範,

5) 文法樹解析知識。

b) 專業技能:

1) 能制定資料模組化流程規範;

2) 能根據業務需求,對模型進行優化;

3) 能跨團隊部門協作,系統性分析并解決各類資料中台相關的運作或資料問題;

4) 能根據行業經驗指導工程師進行資料模型優化;

5) 能根據品質要求制定資料清洗流程規範;

6) 能根據資料處理需求制定統一資料預處理方案;

7) 能指導工程師開發資料預處理系統;

8) 能指導工程師對資料預處理程式進行性能及效果優化。

c) 經驗:

1) 具備資料模組化相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料分析工程師

應負責資料的基礎摸底、挖掘、統計分析,并依據資料做出評估和預測等工作

  • 初級能力要求

資料分析工程師初級能力要求具體如下。

a) 專業知識:

1) BI 工具使用知識,

2) 前端頁面開發知識,

3) 可視化平台配置及使用知識,

4) 資料清洗知識,

5) 資料 ETL 知識,

6) 資料庫基礎操作知識,

7) SQL 函數知識,

8) 結構化、半結構化與非結構化知識,

9) 描述性統計知識,

10) 統計工具使用知識,

11) 線性相關及回歸相關知識,

12) 程式設計基礎知識,

13) 有無監督學習知識,

14) 資料挖掘類庫應用知識。

b) 專業技能:

1) 能選擇關鍵名額抽取資料并進行圖表展示;

2) 能使用可視化庫進行可視化頁面開發并配置互動模式;

3) 能根據産品回報對可視化頁面及圖表進行調整和美化;

4) 能根據業務需求對遺漏資料、噪音資料、不一緻資料等進行清洗;

5) 能根據業務需求對不同資料源資料進行整合;

6) 能根據業務規則對資料格式進行轉換;

7) 能根據資料歸一性原則對資料進行機關、數值規約;

8) 能根據資料特征及規律,選擇合适方法對資料進行采樣;

9) 能結合業務場景使用工具對資料集進行概要、描述性統計分析;

10) 能在描述結果基礎上,對資料進行特征和規律的分析與推測;

11) 能結合業務場景編寫資料統計報告;

12) 能根據技術指導使用工具對資料進行特征工程處理;

13) 能調用正常模型進行模型訓練;

14) 能根據合适評價名額對模型進行驗證和調參;

15) 能根據合适評價名額對模型進行測試并輸出最終模型的性能評估分數。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料分析工程師中級能力要求具體如下。

a) 專業知識:

1) 資料可視化設計知識,

2) 可視化元件開發知識,

3) 資訊技術文檔編制知識,

4) 資料格式線性變換知識,

5) 資料清洗需求分析,

6) 資料清洗方案設計,

7) 多元統計分析知識,

8) 判别分析知識,

9) 聚類分析知識,

10) 主成分分析知識,

11) 因子分析知識,

12) 特征工程處理知識,

13) 模型訓練知識,

14) 模型評估知識,

15) 模型部署知識。

b) 專業技能:

1) 能根據業務需求及分析結果,制定資料展示方案;

2) 能設計資料可視化實作方式;

3) 能與産品、營運人員合作美化資料報表及資料展示頁面;

4) 能開發并優化資料可視化庫;

5) 能對資料可視化結果進行業務分析并輸出分析報告;

6) 能根據資料品質要求制定資料清洗政策及評估方案;

7) 能根據業務要求制定資料整合方案;

8) 能根據業務需求及性能要求設計資料結構及格式調整方案;

9) 能根據歸一性需求制定資料規約方案;

10) 能根據業務需求編寫自定義資料預處理函數;

11) 能根據資料特征及規律,制定資料采樣方案;

12) 能根據分析需求進行資料準備;

13) 能根據業務需求建構合适的分析模型;

14) 能使用合适的算法實作分析模型并對拟合結果進行優化;

15) 能分析資料的主成分及因子等相關特征,重構資料内容;

16) 能針對資料結果進行歸納并輸出分析報告;

17) 能評估挖掘需求并選擇合适方法對資料進行特征工程處理;

18) 能使用算法庫及工具建立資料挖掘模型并進行模型訓練;

19) 能選擇合适評價名額對模型進行驗證及調優;

20) 能選擇合适評價名額對模型進行測試并輸出最終模型的性能評估報告;

21) 能使用程式設計語言對模型進行部署和重構。

c) 經驗:

1) 具備一定的資料統計與分析相關項目經驗;

2) 具有商業、政務、工業大資料等行業資料分析經驗;

3) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料分析工程師進階能力要求具體如下。

a) 專業知識:

1) 前端展示需求分析,

2) 前端優化技術,

3) 大資料分析算法,

4) 大資料模組化知識,

5) 綜合評價方法知識,

6) 大資料挖掘算法,

7) 機器學習知識,

8) 圖計算知識,

9) 語義分析知識。

b) 專業技能:

1) 能根據業務分析需求及分析結果,指導資料展示方案制定;

2) 能研發并設計前端圖表展示功能代碼;

3) 能指導工程師并完成可視化元件開發、封裝及優化;

4) 能對資料可視化結果進行業務分析并輸出分析報告;

5) 能夠結合理論和業務實際,完成進行大資料分析相關算法研究;

6) 能針對研究結果設計分析算法并指導算法模型實作;

7) 能針對現有算法提出新的改進和優化方法,建立新的分析體系;

8) 能根據理論研究及數學原理,建構并行挖掘算法;

9) 能指導工程師實作挖掘算法并封裝為算法庫;

10) 能根據挖掘性能及業務特征,優化挖掘算法;

11) 能根據業務特性,制定合适的挖掘模型評價名額;

12) 能指導工程師完成對挖掘模型的部署和重構。

c) 經驗

1) 具備資料統計與分析相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料系統工程師

應負責大資料系統/平台的運作和維護等工作。

  • 初級能力要求

資料系統工程師初級能力要求具體如下。

a) 專業知識:

1) 運維基礎知識:

2) 硬體裝置功能知識,

3) 伺服器組網知識,

4) 伺服器配置知識,

5) 作業系統安裝知識,

6) 雲計算及虛拟化部署知識,

7) Linux 系統基礎操作知識,

8) 大資料元件安裝知識,

9) 大資料叢集配置知識,

10) 大資料元件基礎操作知識,

11) 應用變更管理知識,

12) 代碼倉庫托管知識,

13) 功能持續內建知識,

14) 代碼版本控制知識,

15) 管理平台操作知識,

16) 系統環境監控知識,

17) 常見故障排查知識,

18) 容災備份知識。

b) 專業技能:

1) 能根據施工方案,進行需求溝通并确認裝置參數;

2) 能參照施工方案,對大資料機架及大型裝置進行機房空間規劃并部署伺服器;

3) 能根據組網規劃方案,對各伺服器或需聯通網絡裝置進行組網布置;

4) 能根據現場設施及電力系統,對裝置進行上電測試及點亮測試;

5) 能根據系統部署方案,安裝叢集環境、硬體環境、虛拟化環境所需的各類系統;

6) 能根據軟體部署方案使用腳本部署産品或用原生方法安裝各類大資料功能元件;

7) 能根據節點連接配接資訊配置大資料叢集;

8) 能根據叢集功能對元件進行啟動調試;

9) 能對現有大資料叢集的各類元件進行應用變更或版本更疊;

10) 能根據上線計劃,按時完成功能上線;

11) 能對送出代碼的版本進行管理;

12) 能使用工具對叢集的軟硬體運作狀态進行監控管理;

13) 能使用工具對大資料叢集的各類元件、服務的運作狀态進行監控管理;

14) 能使用工具對作業運作情況和資源占用進行監控管理;

15) 能根據故障報告,參與故障排查,處理故障問題;

16) 能根據容災計劃,定期備份和遷移關鍵資料。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料系統工程師中級能力要求具體如下。

a) 專業知識:

1) 網絡架構和規劃,

2) 伺服器底層配置知識,

3) 雲計算及虛拟化知識,

4) 自動化腳本開發知識,

5) 叢集配置知識,

6) 高可用及容災知識,

7) 叢集技術知識,

8) 安全通路控制知識,

9) 性能調優知識,

10) 故障排查知識,

11) 容災管理知識。

b) 專業技能:

1) 能根據配置需求,規劃及選型硬體配置設施;

2) 能根據機房環境和配置清單,制定工程實施方案;

3) 能根據實體硬體特性,制定組網規劃方案;

4) 能根據硬體裝置條件,進行底層及驅動配置;

5) 能根據現場施工情況進行故障處理指導;

6) 能根據應用需求,規劃系統部署方案;

7) 能根據性能需求,對各運作系統進行配置和調優;

8) 能根據軟體部署方案,編寫自動化部署腳本,并完成部署;

9) 能根據叢集元件進行高可用及容災配置;

10) 能根據叢集功能對各元件進行聯通調試;

11) 能根據叢集功能變更需求,制定元件更新及功能遷移方案;

12) 能對上線功能進行測試,評估上線可行性,制定上線計劃;

13) 能對大資料平台中的各個元件使用權限進行管理;

14) 能編寫腳本對叢集軟硬體、元件與服務、作業運作情況進行監控及管理操作;

15) 能對叢集的運作性能、讀寫性能等名額進行調優;

16) 能根據故障報告,排查故障原因,處理故障問題,并編寫自動化運維腳本;

17) 能制定容災計劃,對異常服務進行故障轉移。

c) 經驗:

1) 具備一定的資料運維相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料系統工程師進階能力要求具體如下。

a) 專業知識:

1) 安全施工規範,

2) 硬體産品知識,

3) 故障管理知識,

4) 權限安全規範,

5) 軟體産品知識,

6) 聯邦叢集知識,

7) 異地多活知識,

8) 風險管理知識,

9) 應用變更知識,

10) 代碼管理知識,

11) 權限管理知識,

12) 性能名額知識,

13) 負載均衡知識,

14) 故障分析方法,

15) 故障轉移知識。

b) 專業技能:

1) 能根據安全施工規範,整體規劃硬體設施安全方案;

2) 能稽核及指導工程師規劃和選型硬體配置設施;

3) 能根據産品特性,制定統一施工标準;

4) 能根據系統部署方案,與産品開發部門整體規劃硬體承載、配置及擴充方案;

5) 能根據不同硬體設施,制定故障處理規範及流程;

6) 能根據權限安全規範,制定軟體權限安全方案;

7) 能稽核并指導工程師制定系統及軟體部署方案;

8) 能根據産品特性,制定部署及更新政策;

9) 能根據叢集元件特性制定高可用及容災政策;

10) 能根據調試結果,制定部署優化方案;

11) 能評估應用變更風險,釋出應用變更計劃,管控變更流程,總結變更報告;

12) 能根據軟體部署方式,制定各類元件應用變更或版本更疊方案;

13) 能制定代碼管理規範并配置代碼倉庫管理系統;

14) 能制定各部門平台功能使用權限規範;

15) 能規劃監控名額,制定監控管理規範;

16) 能開發監控腳本,并規劃門檻值;

17) 能對系統性能進行調優;

18) 能使用資料挖掘方法挖掘潛在故障;

19) 能對故障事故進行複盤,編寫故障預防規範;

20) 能定期組織容災演練。

c) 經驗:

1) 具備資料運維相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料安全工程師

應負責資料防護、資料風險排查、資料安全營運風險管控工作。

  • 初級能力要求

資料安全工程師初級能力要求具體如下。

a) 專業知識:

1) 網絡安全知識,

2) 資訊安全知識,

3) 資料安全、隐私安全法律、法規知識,

4) 權限管理知識,

5) 滲透測試知識,

6) 常見異常處理知識,

7) 網絡攻防知識。

b) 專業技能:

1) 能根據權限規範,使用工具配置和管理使用者權限;

2) 能定期執行漏洞掃描和滲透測試修複安防系統存在的漏洞;

3) 能針對各類突發的外部攻擊或異常事件進行應急處理;

4) 能在技術指導下對安防系統進行更新和維護工作。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料安全工程師中級能力要求具體如下。

a) 專業知識:

1) 網絡攻防知識,

2) 資料安全存儲,

3) 資料安全計算,

4) 資料安全分析,

5) 資料安全、隐私安全法律、法規知識,

6) 安全更新檔開發知識,

7) 安防工具産品知識。

b) 專業技能:

1) 能使用資料庫和大資料平台日志收集和問題分析工具,具備資料收集和分析能力;

2) 能根據權限管理規範,編寫日志監控腳本進行權限安全管理;

3) 能根據漏洞報告和測試報告開發相應安防更新檔;

4) 能針對各類突發的外部攻擊或異常事件制定應急處理方案;

5) 能對安防系統進行開發、更新和維護工作;

6) 能熟練掌握網絡架構、防火牆相關技術。

c) 經驗:

1) 具備資料安全營運相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料安全工程師進階能力要求具體如下。

a) 專業知識:

1) 安全規範知識,

2) 應急管理知識。

b) 專業技能:

1) 能根據安全規範制定風險預警等級;

2) 能明确安全需求,稽核并制定權限管理規範和資料分類分級;

3) 能制定應急管理政策并定期組織安全演練;

4) 能根據漏洞測試報告和突發事件應對政策,評估系統潛在風險;

5) 能建構系統安全機制并指導工程師完成對安防系統的開發工作;

6) 能制度主流黑客攻擊技術及防禦政策,熟悉 APT、Web 安全、系統安全、滲透測試和應急

響應工作;

7) 能對業務方案的安全評審,發現安全風險并提供安全咨詢及方案建議。

c) 經驗:

1) 具備資料安全營運相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

資料咨詢師

應負責需求調研,系統化思想、方法和工具的問題解決,解決方案策劃、設計和報告編制,知識轉移和經驗總結等工作。

  • 初級能力要求

資料咨詢師初級能力要求具體如下。

a) 專業知識:

1) 大資料行業應用知識,

2) 大資料技術體系知識,

3) 大資料基礎理論知識,

4) 大資料行業發展知識,

5) 大資料軟體架構知識。

b) 專業技能:

1) 能根據團隊既定計劃,收集市場目标資訊;

2) 能配合銷售團隊制作宣講材料及解決方案展示材料;

3) 能配合工程師解決客戶技術咨詢問題并提供參考資訊;

4) 能進行産品示範和講解産品特性;

5) 能根據客戶溝通回報整理需求文檔;

6) 能根據客戶需求提供産品咨詢及參考架構。

c) 經驗:

1) 累計從事本崗位工作 1 年以上。

  • 中級能力要求

資料咨詢師中級能力要求具體如下。

a) 專業知識:

1) 大資料架構知識,

2) 大資料技術趨勢知識,

3) 大資料基礎理論知識,

4) 大資料行業背景知識,

5) 市場營銷知識,

6) 項目管理知識,

7) 技術教學知識,

8) 雲計算技術趨勢知識,

9) 微服務架構知識。

b) 專業技能:

1) 能收集目标市場資訊,分析行業需求;

2) 能配合銷售團隊進行産品宣講和解決方案展示;

3) 能獨立解決客戶技術咨詢問題并提供技術方案;

4) 能參與項目架構設計并提出參考意見;

5) 能根據項目需求,在産品功能和技術架構相關技術文檔基礎上調整輸出項目解決方案;

6) 能進行産品調研、示範和講解産品特性;

7) 能結合業務情況主導或輔助原型項目傳遞;

8) 能與業務部門合作挖掘客戶需求并輸出解決方案;

9) 能制定技術員、初級工程師對應的人才培養計劃;

10) 能制作教育訓練資源;

11) 能使用教育訓練材料開展對技術員、初級工程師的專業能力教育訓練;

12) 能獨立完成資料管理咨詢調研工作活動,并分析客戶需求,提出解決方案,撰寫形成咨

詢方案建議書;

13) 能夠組織商務過程,全面掌握工作要點,有效指導團隊協作,并進行知識經驗總結。

c) 經驗:

1) 具備一定的資料咨詢相關項目經驗;

2) 累計從事本崗位工作 3 年以上。

  • 進階能力要求

資料咨詢師進階能力要求具體如下。

a) 專業知識:

1) 大資料架構分析知識,

2) 大資料行業應用,

3) 大資料産品設計,

4) 項目管理方法,

5) 需求分析技術,

6) 技術團隊建設知識,

7) 教育訓練方案設計知識,

8) 流程優化知識,

9) 營運管理知識。

b) 專業技能:

1) 能建立目标市場分析模型,分析行業需求;

2) 能整體輸出産品解決方案;

3) 能獨立解決客戶技術咨詢難題并提供技術解決方案;

4) 能參與項目架構設計與産品設計,并提出建設性意見;

5) 能根據産品功能設計和技術架構,輸出産品的配套文檔,并根據項目需求針對性設計項

目解決方案;

6) 能與業務部門合作引導和挖掘客戶需求并輸出解決方案;

7) 能挖掘行業普遍需求,提煉産品價值特征,整理競品分析報告;

8) 能主動分析與挖掘市場情況,對市場政策制定提出建議;

9) 能制定工程師及以下職位人員對應的人才培養計劃;

10) 能規劃教育訓練資源體系,并主導教育訓練資源開發及教育訓練平台建設;

11) 能針對性指導工程師及以下職位人員的技術及業務能力;

12) 能開展面向不同人群及個體的教育訓練活動;

13) 能建立業務需求收集業務名額資料,并根據實際資料建立業務分析模型;

14) 能根據資料分析情況指導業務開展及流程優化;

15) 能管理不同業務部門的開發生産活動。

c) 經驗:

1) 具備資料咨詢相關項目經驗;

2) 累計從事本崗位工作 5 年以上。

大資料從業人員能力要求

大資料從業人員初級崗位能力要素明細表

大資料從業人員能力要求

大資料從業人員中級崗位能力要素明細表

大資料從業人員能力要求

大資料從業人員進階崗位能力要素明細表

繼續閱讀