天天看點

案例丨「多法人、多中心緩存」農信内容管理平台建設實踐

作者:SequoiaDB巨杉資料庫

導讀:

作為鄉村振興、服務實體經濟的金融主體,農信堅持回歸本源,專注主業,做好服務“三農”、服務小微企業、服務金融精準扶貧三方面工作,全力支援地方經濟轉型發展。随着移動網際網路的飛速發展,由于使用者對金融服務的需求從線下向線上轉移,新需求場景也帶來海量非結構化資料存儲、管理和高并發通路的問題,也對金融機構提出了更高的服務品質和效率要求。同時,AI技術的應用,實作智能化客戶服務和風險管理,也提高金融機構的業務營運效率和創新能力。充分證明在建構自身特色服務的過程中,結合AI技術将會釋放非結構化資料潛在的巨大價值。

在此背景下,巨杉資料庫基于原生分布式技術,演進出獨特的多模資料湖,支援結構化和非結構化資料的海量存儲,高并發通路,分布式叢集跨多中心部署,解決農信多法人機構本地資料中心建設,多中心統一資料管理的問題。巨杉深度剖析了客戶内容管理平台的業務需求,基于多模資料湖,在結構化資料與非結構化資料融合處理方向提供了成功的解決方案,并進一步積極探索在全量資料場景下的落地方案。

巨杉資料庫農信典型客戶案例

省級農信内容管理平台基于巨杉資料庫多級緩存資料服務,實作多法人、多中心緩存系統的資料共享能力及高并發通路能力。在省級農信的内容管理平台場景中,已經落地了近幾十億條、超百TB級資料的穩定支撐能力,提供多法人、多中心緩存資料場景下的資料共享及高并發通路。

案例丨「多法人、多中心緩存」農信内容管理平台建設實踐

背景

省農村信用社聯合社是由省内的地市級農村信用合作聯社(農村商業銀行)和縣(市、區)級農村信用合作聯社(農村信用合作社聯合社、農村商業銀行、農村合作銀行)自願入股組成,具有獨立企業法人資格的地方性金融機構。經省政府授權,省農村信用社聯合社在省政府的上司下,負責行使對轄内市、縣(市、區)農村信用合作聯社、農村信用合作社聯合社、農村合作銀行、農村商業銀行等農村合作金融機構的行業管理、業務指導、協調服務職能。

基于農信的組織架構模式,農信的原有内容管理平台以各社資料中心獨立建設,以滿足分社本地内容檔案的業務需求以及聯合社的資料管理需求,一般的系統建設概況如圖1所示。

案例丨「多法人、多中心緩存」農信内容管理平台建設實踐

圖1 農信影像系統建設現狀圖

随着移動網際網路的飛速發展,使用者對金融服務的方式由線下轉為線下線上相結合,新需求場景帶來海量非結構化資料存儲、管理和高并發通路的問題,而目前的建設情況形成了資料孤島,無法實作實時的跨資料中心資料通路。

需求痛點

農信在各地擁有大量分支機構,因業務交易由各地分支機構系統承載,故内容資料存儲在本地資料中心。省中心對業務資料的管理,需要将各分中心資料通過網絡帶寬傳輸到省資料中心,資料傳輸的性能與時效嚴重不滿足業務發展需求。

業務痛點

異地分布式架構整合難:各地農信獨立法人機構,資料中心本地化建設,難統一

網絡差:地市與省農信資料中心間網絡情況複雜,性能差

擴容難:業務系統煙囪式建構,當資料量激增,這種單點架構下系統橫向擴容難

監管難:資料單點系統部署,無雙活機制,無法全量資料線上滿足監管查詢需求,資料安全性低

為了更好的适應業務發展的挑戰,增強市場的競争力,急需建設各分社與總中心關聯的内容緩存系統,以滿足分社本地内容檔案的管理需求,提高相關業務系統的整體性能,同時通過資料遷移、清理機制将所有的内容管理中繼資料資訊存放在省中心,實作全社影像檔案中繼資料統一納管,非結構化資料異地存放,最大化節省資料中心之間的帶寬。

改造方案

農信内容管理平台是基于SequoiaDB分布式資料庫叢集進行規劃的,改造設計架構如圖2所示。

農信内容管理平台改造方案

案例丨「多法人、多中心緩存」農信内容管理平台建設實踐

圖2 農信内容管理平台改造前後架構對比

本改造方案替換掉之前由關系型資料庫存儲影像中繼資料、進階儲存設備存儲影像非結構化資料的方式,通過省農信主中心與地市農信分中心的多級緩存服務、SequoiaDB分布式資料庫以及中心排程的服務實作項目落地。

本改造方案采用叢集方式部署,消除單點問題,提供高可用、高并發性能。

改造方案優勢

非結構化資料統一管理:省與地市農信影像中繼資料、影像資料統一管理、通路

高并發低延時:高并發、毫秒級響應

海量存儲:PB級資料管理、彈性擴容、靈活資料分片

多級緩存管理:SequoiaDB多級緩存服務提供跨資料中心、跨實體域通路

實時線上服務:跨資料中心統一資料存儲,實時資料線上通路

改造方案設計:

各廠商的内容管理平台(如:信雅達、大連同方軟銀)通過調用巨杉資料庫提供的多級緩存服務,與SequoiaDB分布式叢集進行互動,實作可按需橫向擴充的影像中繼資料、影像檔案、标簽資料的跨中心一體化管理。

影像中繼資料統一存儲于省農信資料中心SequoiaDB分布式資料庫,以便為地市農信分資料中心提供資料查詢服務;地市農信影像資料本地資料中心存放,通過SequoiaDB多級緩存服務資料遷移機制将影像資料遷移存放于省農信内容管理平台,實作跨中心資料通路、統一存儲和管理。

巨杉資料庫原生分布式架構:

案例丨「多法人、多中心緩存」農信内容管理平台建設實踐

圖3 SequoiaDB巨杉資料庫原生分布式架構

SequoiaDB作為分布式資料庫,由資料庫存儲引擎與資料庫執行個體層架構組成。其中,資料庫存儲引擎是資料存儲的核心,負責提供整個資料庫的讀寫服務、資料的高可用與容災等全部核心資料服務能力。

資料庫執行個體子產品則作為協定與文法的适配層,支援結構化、半結構化、非結構化資料的統一存儲,提供S3對象資料引擎接口和相容JSON、SQL接口。

SequoiaDB分布式資料庫架構優勢

無縫遷移:使用者可以通過建立不同類型的資料庫執行個體,使應用程式從傳統資料庫進行無縫遷移,大幅度降低應用程式開發者的學習成本。

應用透明:每個執行個體中的資料在底層是存放在一個機器還是十個機器,對上層應用來說完全透明不需要感覺。

引擎級多模:相容SDB API、SQL、S3對象資料引擎接口

高性能,低成本:全量内容資料持續線上,多政策分區管理、分域緩存,資源池化的存儲引擎層,提升海量資料管理效率及處理性能,TCO為傳統ECM方案1/3

除此之外,系統還擁有豐富的平台能力,如下:

系統能力

集約營運:多模資料統一管理

資料管理:資料權限管理、對象資料版本控制、曆史版本回溯等功能,資料生命周期管理、冷熱資料分層存儲,提升資料治理水準

服務節點高可用:節點無狀态,多節點提供服務

多中心:跨中心部署,邏輯隔離、實體隔離

多索引:不同字段、次元建立索引,精确查詢

資料高可用:多副本機制

滿足監管要求:資料全量線上,資料安全

系統自主可控,支援信創:支援x86、ARM,核心代碼可控

容災:同城雙活、兩地三中心、三地五中心,RPO=0,RTO<15秒

此改造方案已經成功落地實施,并幫助客戶實作系統性能提升。

結束語

未來,巨杉資料庫基于多模資料湖與AI技術的進一步深化,所建構的内容管理平台可以更好地處理和利用非結構化資料,實作智能化客戶服務和風險管理,提高業務營運效率和創新能力,不僅為農信銀行提供了更多的商業機會和競争優勢,也為金融行業的數字化轉型和更新注入了新的活力和動力。

繼續閱讀