天天看點

從1天到10分鐘的超越,華為雲DRS在背後做了這些

摘要:華為雲DRS助力一汽-大衆BI平台實時檢視報表,提升數字化決策能力。

本文分享自華為雲社群《分鐘級檢視報表,華為雲&一汽-大衆,讓商機時刻被洞見》,作者:GaussDB 資料庫。

數字化時代下,企業IT的資料重心從支援線上交易後移到營運分析,資料的及時更新、高效分析、減少人工幹預,是企業經營的追求目标,是以企業不再滿足于“T+1”,而是“T+0”,需要實時和個性化,對于汽車行業也不例外。

一汽-大衆汽車有限公司(簡稱一汽-大衆)于1991年成立,是我國第一個按經濟規模起步建設的現代化乘用車工業基地,旗下有奧迪、大衆、捷達三大品牌20餘款産品,覆寫A、B、C級全系列乘用車型。

從1天到10分鐘的超越,華為雲DRS在背後做了這些

數字革命的浪潮下,4S門店的服務也更加精準高效,為了更好的服務客戶,4S集團通過分析客戶使用習慣及偏好、産品個性化需求收集等方式,多元度滿足使用者購車和體驗需求。但随着資料挖掘的深入,對BI平台的要求也越高,為解決報表業務系統資料量的快速增長、資料彙集、互動分析難等難題,一汽-大衆攜手華為雲資料庫在MEP(經銷商多功能生态平台)-BI平台項目合作中取得了突破,跨越了挑戰。

實時資料更新,才能具備更快的市場反應能力

衆所周知,BI平台的報表系統可以連接配接多元資料庫,報表目的是幫助使用者掌握和了解資料,企業決策者通過實時的資料進行分析和挖掘,為業務的變化及時作出應對政策。一汽-大衆4S門店的BI報表業務需要實時彙集所有門店的資料,面臨巨大的技術挑戰。一汽-大衆所有的4S門店擁有總計60+MySQL執行個體,200+資料庫,每個資料庫約有150+張表要同步,共有3萬張表需要資料實時同步到BI系統内。如果按照傳統的資料入湖方式,需要配置3萬條資料同步鍊路,更需要海量的工作比對資料一緻性,維護成本極高,同步效率低下。此外,随着資料量的膨脹,現有的資料庫無法支撐數TB級别的資料量。是以打造支援海量資料存儲、資料實時同步的商業資料智能分析的BI平台迫在眉睫。

面對一汽-大衆的業務挑戰,華為在方案選型上的主要考量如下:

  • 抽取資料對源資料庫影響最小化:抽取資料絕對不能拖垮源資料庫,也不能對源業務的性能造成較大的衰減,甚至表被鎖定;
  • 部署實施要輕量簡單:不需要在每個資料源安裝代理程式,即開即用,配置操作簡單易用;
  • 資料一緻性有保障:基于binlog解析進行邏輯資料同步,具有斷點續傳和嚴格的認點技術,不懼網絡抖動,有效確定資料一緻性。

綜上,具備實時精準同步且保障資料一緻的輕量級服務,華為雲資料複制服務DRS是迎接業務挑戰的不二之選。

從1天到10分鐘的超越,華為雲DRS在背後做了這些

華為雲DRS助力一汽-大衆報表系統資料實時同步,全面釋放資料價值

DRS(Data replication Service)華為雲資料複制服務,将雲上的資料通過多對一的方案彙集到具備超強寫入能力的華為旗艦型雲原生資料庫GaussDB(for MySQL)中,保證資料一緻性和實效性,再通過DRS實施同步,從GaussDB(for MySQL)同步到華為雲資料倉庫GaussDB(DWS)中進行分析。但要想達到實時資料同步難度極大,是以,華為雲資料庫解決了如下核心難題:

  • 增加資料來源列,解決主鍵沖突:通過MySQL到GaussDB(for MySQL)的多對一方案,增加資料來源列,記錄server/database/table資訊,避免多個源表主鍵沖突。
  • 同步鍊路支援動态加減表:新增業務随時需要增加同步的表,華為雲DRS支援GaussDB(for MySQL)的鍊路動态增減表,配置更加簡單友善。
  • 标記資料入湖時間,幫助實時分析:華為雲資料庫提供的方案中,增加附加列資料行寫入時間和更新時間的列,标記資料插入和更新時間。為資料入湖及資料實時分析打下基礎。
  • 引入緩沖資料庫,實時計算:針對1.8萬張表不停的彙集和寫入,選擇了百萬級QPS吞吐量和海量資料存儲能力的GaussDB(for MySQL)作為緩沖層資料庫,解決OLTP和OLAP資料庫之間天然的資料處理能力差異。基于DRS實時準确的資料同步後,華為雲GaussDB(DWS)實作實時計算,極大縮短複雜報表的執行時間。
  • 資料實時精準同步:基于華為雲DRS準确的資料同步能力,正常情況下延遲均在1s以内,為實時報表提供基礎條件,幫助一汽-大衆實作了銷售報表資料可用時間從1天降低為10分鐘。且資料同步準确度高,源端和目标端資料行數一緻。

業務上線後,一汽-大衆業務報表系統維護的鍊路數量從3萬條降低至65條,工作效率大幅提升;同時DRS保證資料一緻性,10億級資料無一條丢失,極大降低資料比對工作;幫助一汽-大衆實作了銷售報表資料可用時間從1天降低為10分鐘,時效性大幅提升。此外,對于緩沖層資料庫GaussDB(for MySQL) 具備海量資料存儲能力,最大支援128TB,超百萬級QPS吞吐,可支撐業務快速發展;基于GaussDB(for MySQL)的計算存儲分離架構,資料三副本存儲強一緻,資料零丢失;RTO秒級,故障秒切換,全面保障資料安全。

一汽-大衆以使用者為中心,建構以資料分析為核心的生态圈,洞察使用者需求,提供高價值産品,深受客戶青睐。而華為雲資料庫通過技術手段實作資料實時同步,從海量的資料中發現洞察,為企業經營決策提供資料基礎。未來,華為雲資料庫将持續攜手一汽-大衆通過數字技術,打造差異化有競争力的數字化服務,滿足客戶對産品和服務日益增長的個性化需求。更多華為雲資料庫詳情了解,歡迎前往華為雲官網:https://www.huaweicloud.com/product/dbs.html

點選關注,第一時間了解華為雲新鮮技術~