近日,由中國信息通信研究院和中國通信標準化協(xié)會大數(shù)據(jù)技術標準推進委員會(CCSA TC601)共同組織的 2023 大數(shù)據(jù)“星河(Galaxy)”案例征集活動評選結果現(xiàn)已公示。案例征集自9月啟動以來,受到了業(yè)界廣泛關注和踴躍報名。經過形式審查和專家評審,矩陣起源與深圳智慧城市大數(shù)據(jù)中心有限公司聯(lián)合申報的《基于超融合數(shù)據(jù)庫的一站式交通大數(shù)據(jù)平臺》在 706 份申報案例中成功入選數(shù)據(jù)庫優(yōu)秀案例。
在智慧交通應用中面臨著復雜的數(shù)據(jù)處理需求,即:人、車輛、道路和環(huán)境等各個方面都會產生大量異構數(shù)據(jù),交通管理人員需要實時分析和決策這些數(shù)據(jù),以應對各種交通事件。深智城大數(shù)據(jù)公司在承接了多個交通領域的大數(shù)據(jù)項目之后,形成了一套基于傳統(tǒng)數(shù)據(jù)庫與 Hadoop 架構的大數(shù)據(jù)解決方案。但在實際使用中發(fā)現(xiàn):
在交通場景中有較大缺陷:無法滿足超大規(guī)模高頻數(shù)據(jù)寫入、實時數(shù)據(jù)分析、數(shù)據(jù)實時更新、數(shù)據(jù)一致性保證和異構數(shù)據(jù)兼容等業(yè)務需求。
在管理復雜度上存在較大問題:Hadoop 技術棧組件分散、運維復雜,對于快速交付和長期的運維都造成了很大的挑戰(zhàn)。
對于新興的云原生基礎設施(如 K8s)的兼容性不夠高:無法充分利用底層硬件資源,管理維護碎片化。
矩陣起源歷時 10 個月,幫助其將存量的百TB數(shù)據(jù)離線數(shù)據(jù)及數(shù)十 TB 的實時數(shù)據(jù)分別從 Hadoop 及 ClickHouse 中遷移到 MatrixOne 中,針對業(yè)務需求的實時分析鏈路進行專項性能優(yōu)化;并針對一些半結構化和非結構化的數(shù)據(jù)定制了數(shù)據(jù)類型及 UDF 函數(shù)。最終,成功使得深圳智慧城市大數(shù)據(jù)中心有限公司減少 80% 數(shù)據(jù)組件個數(shù),并降低 50% 運維成本。此案例是交通行業(yè)首個采用超融合數(shù)據(jù)庫的大數(shù)據(jù)業(yè)務項目,也是首個原生使用 K8s 將數(shù)據(jù)層和業(yè)務層統(tǒng)一納管并完全容器化的項目。
此次成功入選大數(shù)據(jù)“星河”案例,證明了矩陣起源在項目中展現(xiàn)出了卓越的專業(yè)技能和技術創(chuàng)新能力,為深圳智慧城市大數(shù)據(jù)中心有限公司帶來了顯著的效益;同時,也為整個交通行業(yè)提供了全新的數(shù)據(jù)處理思路和解決方案。該案例為行業(yè)帶來了較為深遠的影響,為數(shù)據(jù)智能在交通行業(yè)的廣泛應用貢獻了技術力量。
(責任編輯:華康)