作者:胡敏 / 日期:2016-05-31
從美國“棱鏡門事件”之后銀監(jiān)會(huì)出于國家安全考慮,在2014年發(fā)布39號(hào)文,號(hào)召國內(nèi)金融機(jī)構(gòu)采用自主研發(fā)技術(shù)代替原本核心業(yè)務(wù)系統(tǒng)普遍采用的“IOE”(指IBM的小型機(jī)、Oracle數(shù)據(jù)庫、EMC存儲(chǔ)設(shè)備)架構(gòu),國內(nèi)金融圈就掀起了核心業(yè)務(wù)系統(tǒng)的“自主”熱潮。但更換核心業(yè)務(wù)系統(tǒng)并非易事,尤其核心數(shù)據(jù)平臺(tái)的遷移,不僅復(fù)雜度和難度高,對(duì)于銀行業(yè)務(wù)也影響巨大。到2016年時(shí),國內(nèi)也僅有中國郵政儲(chǔ)蓄銀行、新疆建行、洛陽銀行等幾家在銀行關(guān)鍵應(yīng)用系統(tǒng)采用國產(chǎn)主機(jī)系統(tǒng)。
近日,大連銀行宣布上線基于自主系統(tǒng)的新一代基礎(chǔ)數(shù)據(jù)平臺(tái),不僅將整體性能提高了2.5倍以上,成本還比原有的IOE架構(gòu)降低了1/3,也大幅降低了后期數(shù)據(jù)系統(tǒng)的維護(hù)成本。至此大連銀行成為繼前3家銀行之后在銀行關(guān)鍵應(yīng)用系統(tǒng)采用國產(chǎn)主機(jī)系統(tǒng)的又一個(gè)成功試點(diǎn)項(xiàng)目。
這無疑給國內(nèi)重點(diǎn)金融機(jī)構(gòu)和城商行在核心基礎(chǔ)數(shù)據(jù)平臺(tái)上引入國產(chǎn)主機(jī)系統(tǒng)起到了示范作用,大連銀行是如何完成其數(shù)據(jù)平臺(tái)的遷移的?
破解數(shù)據(jù)平臺(tái)難題
大連銀行是國內(nèi)少數(shù)具有一定實(shí)力采用“IOE””架構(gòu)的城商行之一。作為區(qū)域性銀行,大連銀行在城商行中已經(jīng)率先建立了集中管理的業(yè)務(wù)架構(gòu)、IT系統(tǒng)和數(shù)據(jù)平臺(tái)。基礎(chǔ)數(shù)據(jù)平臺(tái)已完成32個(gè)上游業(yè)務(wù)系統(tǒng)的數(shù)據(jù)接入。隨著大連銀行總資產(chǎn)的逐步增長,不斷推出“九鉆完美貴賓卡”等創(chuàng)新金融業(yè)務(wù),以及分行數(shù)量不斷增多,大連銀行原有系統(tǒng)架構(gòu)的數(shù)據(jù)平臺(tái)漸漸無法滿足業(yè)務(wù)增長的需要。
原有數(shù)據(jù)平臺(tái)的基礎(chǔ)架構(gòu)以共享存儲(chǔ)方式搭建,一般適用于支付、結(jié)算等OLTP(On-Line Transaction Processing聯(lián)機(jī)事務(wù)處理過程,也稱為面向交易的處理過程,其基本特征是前臺(tái)接收的用戶數(shù)據(jù)可以立即傳送到計(jì)算中心進(jìn)行處理,并在很短的時(shí)間內(nèi)給出處理結(jié)果,是對(duì)用戶操作快速響應(yīng)的方式之一)交易型金融業(yè)務(wù),對(duì)于管理分析、監(jiān)管報(bào)送等數(shù)據(jù)類項(xiàng)目,當(dāng)業(yè)務(wù)規(guī)模達(dá)到一定程度時(shí),就會(huì)凸顯出系統(tǒng)方面存在的瓶頸。
大連銀行在數(shù)據(jù)處理方面,從晚上八九點(diǎn)到次日的凌晨4點(diǎn)半左右,不同系統(tǒng)分別將當(dāng)天業(yè)務(wù)數(shù)據(jù)傳送至基礎(chǔ)數(shù)據(jù)平臺(tái),特別是重要核心、信貸、總賬系統(tǒng)為基礎(chǔ)數(shù)據(jù)平臺(tái)預(yù)留的數(shù)據(jù)加工時(shí)間更是非常有限;如何在有限的時(shí)間內(nèi)為下游系統(tǒng)提供更為及時(shí)準(zhǔn)確的數(shù)據(jù),已經(jīng)成為基礎(chǔ)數(shù)據(jù)平臺(tái)所面臨的最大考驗(yàn)。
抱著嘗試和創(chuàng)新探索的想法,大連銀行申報(bào)參與由銀監(jiān)會(huì)組織的863國產(chǎn)高端主機(jī)試點(diǎn)項(xiàng)目,用浪潮天梭K1替換IBM小機(jī)。運(yùn)行一年左右,國產(chǎn)主機(jī)運(yùn)行穩(wěn)定。隨著業(yè)務(wù)增長需要、跑批等管理需求,以及成本考慮,把傳統(tǒng)關(guān)系型的甲骨文數(shù)據(jù)庫替換成分布式數(shù)據(jù)庫成為大連銀行的現(xiàn)實(shí)選擇。
業(yè)內(nèi)同類項(xiàng)目普遍采用的一體機(jī)都比較封閉,后期擴(kuò)容成本非常高。每年的維護(hù)成本是采購成本的22%。對(duì)于城商行來說,這是一個(gè)非常大的壓力。在原有數(shù)據(jù)平臺(tái)的共享存儲(chǔ)架構(gòu)之下,也無法通過橫向擴(kuò)展的方式增加系統(tǒng)處理性能。
隨著大連銀行基礎(chǔ)數(shù)據(jù)平臺(tái)數(shù)據(jù)容量的不斷擴(kuò)充,必須建立能夠滿足業(yè)務(wù)彈性擴(kuò)張的分布式存儲(chǔ)的數(shù)據(jù)架構(gòu)。
當(dāng)前流行的Hadoop技術(shù),因?yàn)榫哂蟹植际郊軜?gòu)的技術(shù)特點(diǎn),又因其屬于開源數(shù)據(jù)技術(shù),所以受到越來越多客戶的青睞。但是由于其技術(shù)的復(fù)雜性,對(duì)企業(yè)技術(shù)人員的要求比較高,需要投入很多人力去不停地調(diào)優(yōu)和維護(hù),而當(dāng)前大多數(shù)城商行的科技人員配置相對(duì)短缺,沒有那么多的人力成本投入維護(hù)工作當(dāng)中,所以也不能很好的解決大連銀行未來發(fā)展需要。
在對(duì)比各種方案利弊后,大連銀行的新一代數(shù)據(jù)平臺(tái)決定采用DB2 DPF分布式數(shù)據(jù)庫技術(shù)替換原有的Oracle數(shù)據(jù)庫產(chǎn)品。
系統(tǒng)遷移要過哪些坎?
大連銀行最終選擇“浪潮天梭K1+DB2 DPF”構(gòu)建新一代基礎(chǔ)數(shù)據(jù)平臺(tái),由文思海輝負(fù)責(zé)軟件集成。這也是國產(chǎn)主機(jī)系統(tǒng)——浪潮天梭K1在城商行的第一個(gè)重點(diǎn)項(xiàng)目,因此三方成立了專門的實(shí)施團(tuán)隊(duì)(包括項(xiàng)目經(jīng)理、硬件工程師、數(shù)據(jù)庫工程師和應(yīng)用遷移工程師)共同配合實(shí)施“遷移工程”。
新舊系統(tǒng)遷移的過程,主要分為評(píng)估、計(jì)劃、驗(yàn)證、測試和上線五個(gè)階段,其中的重點(diǎn)是數(shù)據(jù)遷移和應(yīng)用改造,以及POC驗(yàn)證三大部分。
比如數(shù)據(jù)遷移方面,大連銀行有兩大疑慮:此前沒有案例可以借鑒;從Oracle到DB2的跨平臺(tái)、大數(shù)據(jù)量遷移,會(huì)不會(huì)丟失數(shù)據(jù)?會(huì)不會(huì)出現(xiàn)平臺(tái)不一致,數(shù)據(jù)庫無法相融的局面?
三方工程師根據(jù)兩款數(shù)據(jù)庫的差異,提出了三套解決方案進(jìn)行驗(yàn)證,但測試成績均不理想。在此過程中,大連銀行完全按照遷移時(shí)間窗口的最大容忍度要求,制定遷移速率指標(biāo),即在12小時(shí)內(nèi)完成1.5T數(shù)據(jù)量的遷移工作。
為達(dá)到這一目標(biāo),整個(gè)項(xiàng)目團(tuán)利用了近一個(gè)月的時(shí)間,開發(fā)測試完畢最終的遷移工具。該工具采用標(biāo)準(zhǔn)OCI接口進(jìn)行開發(fā),支持自定義的并行度設(shè)置,從而滿足遷移過程中的數(shù)據(jù)導(dǎo)出要求。
歷時(shí)兩年的探索和嘗試,大連銀行新一代基礎(chǔ)數(shù)據(jù)平臺(tái)運(yùn)行穩(wěn)定。大連銀行基礎(chǔ)數(shù)據(jù)平臺(tái)的的近5TB數(shù)據(jù)順利從原有架構(gòu)遷移到新一代數(shù)據(jù)平臺(tái)上,而實(shí)際修改的代碼量不到總代碼的1%。據(jù)浪潮實(shí)驗(yàn)室對(duì)原平臺(tái)和新一代平臺(tái)前后執(zhí)行效率進(jìn)行比較后發(fā)現(xiàn),新平臺(tái)比老系統(tǒng)執(zhí)行效率有明顯提升,特別是在整合處理包括文件加載的過程中,極限性能甚至超過原平臺(tái)的九倍,整體性能提高了2.5倍以上。
比如在銀行管理層比較關(guān)心的行內(nèi)報(bào)表數(shù)據(jù)方面,以前往往需要花費(fèi)10多個(gè)小時(shí)處理,以及于相關(guān)數(shù)據(jù)報(bào)表在第二天上午的上班時(shí)間仍然無法查看。而現(xiàn)在90%的報(bào)表在每天早上6點(diǎn)之前就加工完畢,其它復(fù)雜報(bào)表也在7點(diǎn)之前就完成,再也沒有出現(xiàn)“上班之后領(lǐng)導(dǎo)看不到報(bào)表”的情況。
現(xiàn)在,客戶在前臺(tái)即可完成對(duì)公客戶回單和賬單的統(tǒng)一打印、支取和管理,實(shí)現(xiàn)客戶自助打印回單,不僅提升效率和客戶體驗(yàn),也提高了客戶滿意度。讓城商行最頭疼的監(jiān)管報(bào)送問題,如今也輕松化解。新一代數(shù)據(jù)平臺(tái)不僅不會(huì)耽誤監(jiān)管報(bào)送的時(shí)間要求,也提高了報(bào)送效率。
特別是當(dāng)業(yè)務(wù)規(guī)模擴(kuò)展了之后,客戶不必像過去那樣,拋棄老系統(tǒng)采用重建方式,只需要在原有系統(tǒng)上進(jìn)行一個(gè)擴(kuò)展就可以滿足未來業(yè)務(wù)的需求,從而加速了大連銀行未來的業(yè)務(wù)創(chuàng)新。
“像嘗過鮮一樣,往后我們再做新的嘗試的時(shí)候,可能會(huì)更積極一些,不至于瞻前顧后,因?yàn)橹辽傥覀冏鲞^了,不會(huì)太懼怕一些不成型的、創(chuàng)新的項(xiàng)目。”大連銀行相關(guān)負(fù)責(zé)人總結(jié)道。下一步,大連銀行也會(huì)更加深入推進(jìn)數(shù)據(jù)倉庫等重要內(nèi)容在國產(chǎn)主機(jī)上的應(yīng)用。