[教育]銀行金融領(lǐng)域數(shù)據(jù)大集中之路

1、金融領(lǐng)域數(shù)據(jù)大集中之路,內(nèi)容提要,數(shù)據(jù)大集中的背景工行數(shù)據(jù)大集中的建設(shè)歷程數(shù)據(jù)大集中過程中的關(guān)鍵技術(shù)及難點工行數(shù)據(jù)大集中帶來的好處工行實施數(shù)據(jù)大集中后面臨的挑戰(zhàn)及對策,數(shù)據(jù)大集中的背景,為什么要實施數(shù)據(jù)大集中? 數(shù)據(jù)大集中的前提條件,為什么要實施數(shù)據(jù)大集中,,外部驅(qū)動力,為什么要實施數(shù)據(jù)大集中,,內(nèi)部驅(qū)動力,為什么要實施數(shù)據(jù)大集中,業(yè)務(wù)驅(qū)動：業(yè)務(wù)發(fā)展和創(chuàng)新速度不斷加快，新業(yè)務(wù)的技術(shù)實現(xiàn)和市場化速度要求越來越快技術(shù)驅(qū)動：軟硬件

2、產(chǎn)品成熟度以及通訊網(wǎng)絡(luò)質(zhì)量穩(wěn)定性不斷提高，一個集中、統(tǒng)一、整合的技術(shù)平臺可以更好地為業(yè)務(wù)發(fā)展與創(chuàng)新提供強有力的支持，可以更好地為客戶提供統(tǒng)一服務(wù)水平和質(zhì)量的標準化服務(wù)管理驅(qū)動：成本、效益、質(zhì)量、風險管理；企業(yè)內(nèi)部變革和管理流程再造，要求全面打造決策支持、經(jīng)營管理、業(yè)務(wù)操作三個層面的企業(yè)核心競爭力服務(wù)驅(qū)動：真正實現(xiàn)“以客戶為中心”，借助于先進的技術(shù)手段“不斷拓展新的服務(wù)渠道”，為客戶提供優(yōu)質(zhì)高效的服務(wù),為什么要實施數(shù)據(jù)大集中,綜上所述

3、：企業(yè)規(guī)模越大，實施數(shù)據(jù)大集中的緊迫性越高，效益越顯著，但實施的難度也越大。,數(shù)據(jù)大集中的前提條件,技術(shù)方面管理方面業(yè)務(wù)方面項目管理,數(shù)據(jù)大集中的前提條件,技術(shù)方面高可用性技術(shù)平臺設(shè)計選用成熟可靠的軟硬件產(chǎn)品關(guān)鍵資源的冗余配置設(shè)計快速高效的故障恢復(fù)能力應(yīng)用體系的配套改造可靠的外部基礎(chǔ)設(shè)施支持選用兩家以上電信運營商提供網(wǎng)絡(luò)接入確保外部雙路供電，UPS及自備發(fā)電機的強有力基礎(chǔ)設(shè)施保障必要的外部產(chǎn)品和技術(shù)支持服務(wù)產(chǎn)品

4、維護和二線技術(shù)支持生產(chǎn)問題和重大故障的現(xiàn)場支持通過合同確保服務(wù)的水平和質(zhì)量,數(shù)據(jù)大集中的前提條件,管理方面管理流程的標準化、規(guī)范化、制度化運行操作流程的標準化和自動化配套管理制度的建立和修訂，有效防范各類風險做好科技隊伍建設(shè)和人才培養(yǎng)業(yè)務(wù)方面實現(xiàn)業(yè)務(wù)需求的統(tǒng)一歸口管理業(yè)務(wù)流程再造與技術(shù)平臺集中建設(shè)的協(xié)調(diào)發(fā)展項目管理建立強有力的項目管理組織體系，確保各項工作的有序開展統(tǒng)籌規(guī)劃、分布實施充分的測試和必要的驗證重點

5、做好風險控制和應(yīng)急處理機制，最大程度上減少項目實施對客戶的影響,工行數(shù)據(jù)大集中的建設(shè)歷程,中國工商銀行簡介信息系統(tǒng)規(guī)模IT戰(zhàn)略歷程,中國最大及最具影響力的商業(yè)銀行截至2004年末：資產(chǎn)總額近57000億元人民幣，占中國境內(nèi)銀行業(yè)金融機構(gòu)資產(chǎn)總和的18%，位居中國第一。全年經(jīng)營利潤達746億元，位居中國第一。英國《銀行家》雜志按一級資本排序，名列全球1000家大銀行的第25位，連續(xù)五次入圍美國《財富》全球500強。,中國工商

6、銀行簡介,中國信息化建設(shè)領(lǐng)先的銀行截至2004年末：信息化建設(shè)水平均處于國內(nèi)領(lǐng)先地位和國際先進水平。國內(nèi)率先實現(xiàn)全國數(shù)據(jù)大集中的商業(yè)銀行。國內(nèi)率先實現(xiàn)千公里級最高安全等級異地災(zāi)難備份系統(tǒng)。國內(nèi)信息化建設(shè)水平最高、電子化覆蓋全行的商業(yè)銀行。中國電子銀行和網(wǎng)上銀行規(guī)模最大和發(fā)展最快。2004年電子銀行交易額達38.44萬億元，網(wǎng)上銀行交易額34萬億元。連續(xù)三年被國際主流媒體評為中國最佳網(wǎng)上銀行。,行業(yè)信息系統(tǒng)領(lǐng)導(dǎo)者,信息系統(tǒng)規(guī)模

7、,數(shù)據(jù)中心7x24x365,21000個營業(yè)網(wǎng)點3400萬筆聯(lián)機交易/天,17000臺ATM230 萬筆存取款交易/天,80000臺POS 63萬筆交易/天,674萬信用卡11000萬借記卡280萬筆交易/天消費金額160億/月,,1100萬網(wǎng)上銀行個人客戶85萬筆交易/天15.35萬網(wǎng)銀企業(yè)客戶31萬筆交易/天,,電話銀行客戶1818萬戶71萬筆交易/天,15800MIPS生產(chǎn)主機處理能力（two syspl

8、ex)100T生產(chǎn)存儲容量（主機）近千臺開放系統(tǒng)服務(wù)器千公里級異地主機災(zāi)備系統(tǒng)（北京/上海）系統(tǒng)運行狀況主機系統(tǒng)可用率達99.95%。系統(tǒng)高峰時間交易率超過1000筆/秒/1 sysplex。主機系統(tǒng)交易平均響應(yīng)時間約0.1秒。,信息系統(tǒng)規(guī)模,信息系統(tǒng)主要配置,整合后主機災(zāi)備架構(gòu),,生產(chǎn)系統(tǒng),Primary(24TB),,SDM系統(tǒng),Secondary(24TB),Tertiary(24TB),恢復(fù)系統(tǒng),生產(chǎn)中

9、心,災(zāi)難/測試中心,CNT,CNT,,,,,,,,,Flashcopy,測試,Test Dasd(30TB),,Sys+Temp(6TB),,Temp(6TB),,主機系統(tǒng)災(zāi)備架構(gòu),XRC/FICON,,辦公用戶網(wǎng),辦公用戶網(wǎng),Extranet接入網(wǎng),Extranet接入網(wǎng),,,,,,,,,,,,,,,,,,,,,GE,GSR,GSR,2.5G,2.5G,GE,數(shù)據(jù)中心（主）,,數(shù)據(jù)中心（備）,15454,15454,,,

10、,,6509,FireWall,6509,FireWall,業(yè)務(wù)內(nèi)網(wǎng),業(yè)務(wù)內(nèi)網(wǎng),,,,ATM線路1（10M）,ATM線路2（10M）,,,,,,,,,,,,,,業(yè)務(wù)內(nèi)網(wǎng),二級分行,,,,撥號線,,,,,,,,ATM,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,終端,,服務(wù)器,,,,ATM,,直連ATM,營業(yè)網(wǎng)點,DDN專線,,,,,,,,,Extranet接入網(wǎng),,,,,,,,一級分行,,,,

11、,,,,,,,二級分行,,,,撥號線,,,,,,,,ATM,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,,終端,,服務(wù)器,,,,ATM,,直連ATM,營業(yè)網(wǎng)點,DDN專線,,,,,,,,,,,,,,辦公/業(yè)務(wù)內(nèi)網(wǎng),,一級分行,,ATM線路2（20M）,ATM線路1（20M）,ATM2（4M）,ATM1（4M）,ATM2（6M）,ATM1（6M）,,測試網(wǎng),業(yè)務(wù)內(nèi)網(wǎng),,,測試網(wǎng),,Extranet接入

12、網(wǎng),辦公/業(yè)務(wù)內(nèi)網(wǎng),工行全國網(wǎng)絡(luò)系統(tǒng)連接圖,經(jīng)營分析型應(yīng)用 業(yè)務(wù)管理,應(yīng)用架構(gòu),客戶關(guān)系,企業(yè)級數(shù)據(jù)倉庫,,財務(wù)管理,風險管理,資產(chǎn)管理,…,績效管理,人力資源,資產(chǎn)管理,內(nèi)部管理,辦公管理,…,科技管理,,,說明： 報文 文件,總行（數(shù)據(jù)中心）,,,,,,系統(tǒng)整體架構(gòu),,,ATM,POS,,,,自助終

13、端,,,,,,Internet,電話,,郵件及應(yīng)用服務(wù),IE瀏覽器,NoteClient,檔案,后督,報表,報送,分行數(shù)據(jù)平臺,,分行外連前置,合作伙伴方（前置）,,總行外連前置,,,企業(yè)級數(shù)據(jù)倉庫,文件傳輸平臺,,,統(tǒng)一認證,總行業(yè)務(wù)大前置,辦公管理,通用報文交換平臺,分行綜合大前置,,文件傳輸平臺,總行數(shù)據(jù)平臺,電子銀行,,,,業(yè)務(wù)管理,核心業(yè)務(wù)處理,企業(yè)級客戶信息,柜員終端,用創(chuàng)新、靈活和成熟的技術(shù)方案支持銀行的成長以穩(wěn)定、安全

14、、高效和可靠的IT結(jié)構(gòu)提供具有競爭力的業(yè)務(wù)運行環(huán)境建立一支具有核心研發(fā)能力和管理世界級數(shù)據(jù)中心的技術(shù)和運行團隊實現(xiàn)由集中式信息系統(tǒng)向單一管理視圖的高度集成的簡約的信息系統(tǒng)的演變,IT 戰(zhàn)略,銀行需求,技 術(shù),IT 戰(zhàn)略,ICBC IT價值鏈,工行信息化建設(shè)發(fā)展歷程,技術(shù)體系從分散到集中1996年，從縣支行到地市行，再到省分行和總行，共擁有幾千個計算中心。1999年大機延伸工程竣工后，全行數(shù)據(jù)中心數(shù)目減少為47個。20

15、02年10月，數(shù)據(jù)集中工程提前兩年竣工，北京、上海兩大集中式數(shù)據(jù)中心全面投入使用，承擔全行核心銀行系統(tǒng)的運行任務(wù)。2004年9月，通過數(shù)據(jù)中心整合工程的實施，數(shù)據(jù)中心（北京）主機生產(chǎn)系統(tǒng)順利遷移至上海，全行生產(chǎn)運行管理集中到數(shù)據(jù)中心（上海）。在2005年，完成全行生產(chǎn)、災(zāi)備、測試、研發(fā)體系建設(shè)和組織機構(gòu)調(diào)整工作，最終實現(xiàn)全行科技一體化管理。,數(shù)據(jù)大集中建設(shè)歷程-人員組織,科技一體化管理體系科技管理流程價值鏈,全行科技一體化管理

16、體系,科技管理流程價值鏈,,,,,,,,,北京,,軟件開發(fā)中心,,上海,數(shù)據(jù)中心整合以后各機構(gòu)在軟件價值鏈中的作用,,,,,,,,制度標準規(guī)范培訓(xùn)顧問服務(wù),建立了以生產(chǎn)運行管理、科技項目管理、科技行政管理三條主線的制度體系。通過管理制度、技術(shù)標準、操作規(guī)范實現(xiàn)了對管理、技術(shù)和操作三個層面風險的有效防范。,數(shù)據(jù)大集中建設(shè)歷程 – 制度流程,管理辦法與實施細則問題管理變更管理安全管理應(yīng)急管理操作管理數(shù)據(jù)管理機房管理

17、性能管理網(wǎng)絡(luò)管理變更測試計算機資源管理科技檔案管理考核管理,信息制度生產(chǎn)運行管理制度范例,重點工程建設(shè)情況介紹,大機延伸工程（1996-1999）數(shù)據(jù)集中工程（1999-2002）全國骨干網(wǎng)絡(luò)改造工程（2003）數(shù)據(jù)中心災(zāi)備工程（2003）企業(yè)總控中心工程（2003-2004）數(shù)據(jù)中心整合工程（2004-2005）應(yīng)用系統(tǒng)開發(fā)與推廣核心業(yè)務(wù)系統(tǒng)綜合業(yè)務(wù)管理系統(tǒng)（2002年5月）全功能銀行系統(tǒng)（2003年11月

18、）經(jīng)營管理與決策支持系統(tǒng)信貸管理系統(tǒng)綜合報表統(tǒng)計系統(tǒng)……電子銀行網(wǎng)上銀行/一體化電話銀行系統(tǒng)/……工程規(guī)劃設(shè)計與實施：思路清晰、統(tǒng)籌規(guī)劃、分布實施、組織有力、執(zhí)行到位。,數(shù)據(jù)大集中過程中的關(guān)鍵技術(shù)及難點,關(guān)鍵技術(shù)應(yīng)用 主要難點,關(guān)鍵技術(shù)應(yīng)用,高可用性系統(tǒng)結(jié)構(gòu)設(shè)計系統(tǒng)：并行耦合體（Parallel Sysplex）技術(shù)聯(lián)機應(yīng)用：CICSPlex技術(shù)數(shù)據(jù)庫：數(shù)據(jù)共享（DataSharing）技術(shù)網(wǎng)絡(luò)：負載均衡技術(shù)

19、操作管理和維護自動化并行批量處理系統(tǒng)（OPC）系統(tǒng)網(wǎng)絡(luò)自動化監(jiān)控系統(tǒng)（Netview/SA/Openview）7*24小時不停機系統(tǒng)維護生產(chǎn)備份系統(tǒng)建設(shè)主機異地災(zāi)難備份系統(tǒng)（RTO<2小時，RPO<2分鐘）遠程異地磁帶庫備份系統(tǒng)N+1/HA/Workload balance備份系統(tǒng),關(guān)鍵技術(shù)應(yīng)用,數(shù)據(jù)遷移技術(shù)PPRC/XRC/PPRCXD/SRDF技術(shù)的合理使用應(yīng)用系統(tǒng)分層負載均衡技術(shù)CMC/TOR/A

20、OR/FOR(DB),主要難點,系統(tǒng)建設(shè)容量和規(guī)模大，系統(tǒng)復(fù)雜度高，新技術(shù)應(yīng)用多，沒有可借鑒成功經(jīng)驗，外部技術(shù)支持和服務(wù)環(huán)境不成熟涉及系統(tǒng)多、范圍廣、環(huán)節(jié)多，項目管理和風險控制難度大如何實現(xiàn)平穩(wěn)遷移、最大限度地減少停機時間，是工程組織和技術(shù)水平的一個挑戰(zhàn)和難點與技術(shù)體系建設(shè)的高水平相比，科技人員管理和技術(shù)水平的提高相對滯后，風險意識需要進一步加強技術(shù)體系和組織結(jié)構(gòu)的快速變化，對制度體系建設(shè)的時效性和適應(yīng)性要求更高,主要難點,非規(guī)

21、范數(shù)據(jù)的整理清洗轉(zhuǎn)換遷移和加載(可控的停機時間)新舊系統(tǒng)的混合運營業(yè)務(wù)員工操作技能和管理技能調(diào)整培訓(xùn)端對端的集成測試和壓力測試,工行數(shù)據(jù)大集中帶來的好處,統(tǒng)一的技術(shù)平臺和服務(wù)水平管理，實現(xiàn)了“以客戶為中心”的服務(wù)理念，更好地為客戶提供全天候全地域高質(zhì)量的標準化服務(wù)。通過實現(xiàn)應(yīng)用產(chǎn)品的四統(tǒng)一，大大縮短了應(yīng)用開發(fā)和推廣的周期，提高了應(yīng)用產(chǎn)品市場化的速度和質(zhì)量。通過數(shù)據(jù)的集中存儲和處理，實現(xiàn)了客戶信息的集中統(tǒng)一管理，通過技術(shù)手段實現(xiàn)

22、了對全行業(yè)務(wù)操作的集中授權(quán)管理，實現(xiàn)了對經(jīng)營管理的硬控制，為全行決策支持提供了及時、準確、高效的信息化服務(wù)。通過全行科技一體化體系的建立，實現(xiàn)了全行科技管理和技術(shù)的優(yōu)勢資源的高度集中，可以更好地為業(yè)務(wù)發(fā)展和創(chuàng)新服務(wù)。大大降低了整個信息系統(tǒng)的運維和管理成本為業(yè)務(wù)系統(tǒng)的整合級流程再造提供了穩(wěn)定的技術(shù)平臺,銀行業(yè)務(wù)和管理處于重大變革和轉(zhuǎn)型期需求的不穩(wěn)定性（尚未形成穩(wěn)定的業(yè)務(wù)體系）組織的不穩(wěn)定性（正在變革的治理結(jié)構(gòu)）技術(shù)架構(gòu)的不穩(wěn)定

23、性（正在進行中的系統(tǒng)重構(gòu)和整合）復(fù)雜龐大的信息系統(tǒng)規(guī)模15000MIPS主機和100T需有效管理的數(shù)據(jù)需要管理由數(shù)以百計的開放系統(tǒng)服務(wù)器組成的幾十個分布式應(yīng)用系統(tǒng)始終處于高負荷運行中的信息處理平臺外部支持單位和業(yè)務(wù)合作伙伴的有效合作技術(shù)產(chǎn)品供應(yīng)商缺乏有效及時的服務(wù)業(yè)務(wù)合作伙伴技術(shù)體系的不完善,數(shù)據(jù)大集中后面臨的挑戰(zhàn)及對策,IT部門尚未形成穩(wěn)定的管理框架和運作流程技術(shù)管理團隊缺乏成熟的技術(shù)和管理技能大量的高密度的技術(shù)變更

24、計劃內(nèi)停機的有效控制和減少高度集成的應(yīng)用系統(tǒng)和集約化的研發(fā)體系與區(qū)域客戶差異化服務(wù)需求的矛盾,數(shù)據(jù)大集中后面臨的挑戰(zhàn),數(shù)據(jù)大集中后面臨的挑戰(zhàn),系統(tǒng)故障分類統(tǒng)計硬件和系統(tǒng)平臺原因 55% 這些原因在開發(fā)、測試系統(tǒng)均未發(fā)生，均由于硬件系統(tǒng)熱備份失效，PTF缺失，容量參數(shù)評估不足引起應(yīng)用軟件原因 17.5% 集成測試不足，問題經(jīng)常重復(fù)發(fā)生（問題未有效解決或解決方案未形成規(guī)范文檔）管理原因 27.5%

25、 系統(tǒng)監(jiān)控不及時，技術(shù)人員技能不足，變更文檔不完整，缺乏有效的應(yīng)急操作手冊和回退方案大多數(shù)問題由于前一天晚間系統(tǒng)變更引起,對策,系統(tǒng)思維提高整個系統(tǒng)的可用性必須從涉及IT價值鏈的各個環(huán)節(jié)整體分析規(guī)劃入手，找出關(guān)鍵失效因素分步實施如何利用有限的資源先解決關(guān)鍵問題風險和成本的最佳平衡,對策,實施各中心功能定位優(yōu)化計劃對各數(shù)據(jù)中心和開發(fā)中心就設(shè)計、開發(fā)、測試、運行、支持、災(zāi)備等功能進行重新定位，理順技術(shù)架構(gòu)和管理流程在系統(tǒng)設(shè)計

26、時嚴格遵循以下原則沒有單點故障更強調(diào)系統(tǒng)的橫向擴展性（更多的LPAR而非更大的LPAR)動態(tài)系統(tǒng)維護多對多的系統(tǒng)連接負載均衡技術(shù)和動態(tài)路由技術(shù)等等在系統(tǒng)恢復(fù)技術(shù)中考慮突發(fā)問題加強變更管理將各類技術(shù)變更固定安排在每周六晚進行,對策,平臺標準化工作，減少系統(tǒng)復(fù)雜性，提高可維護性對開放平臺（特別是B/S結(jié)構(gòu)）進行軟應(yīng)件平臺標準化建立各類技術(shù)標準和管理流程科技項目管理辦法信息系統(tǒng)生產(chǎn)運行管理制度（基于ITIL）信息系統(tǒng)