達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)(DMETL)執(zhí)行過程改進(jìn).pdf_第1頁(yè)
已閱讀1頁(yè),還剩56頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、數(shù)據(jù)抽取轉(zhuǎn)換裝載(ETL)是數(shù)據(jù)倉(cāng)庫(kù)的核心組成部分,負(fù)責(zé)從異構(gòu)的數(shù)據(jù)源中抽取數(shù)據(jù),對(duì)這些數(shù)據(jù)進(jìn)行清洗、轉(zhuǎn)化,并最終加載到數(shù)據(jù)倉(cāng)庫(kù)當(dāng)中去。ETL平臺(tái)開發(fā)和設(shè)計(jì)的好壞直接影響了數(shù)據(jù)倉(cāng)庫(kù)的構(gòu)建乃至整個(gè)商業(yè)智能系統(tǒng)的應(yīng)用。因此,對(duì)達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)(DMETL)進(jìn)行改進(jìn)以提高產(chǎn)品的指標(biāo)具有重要意義。
   在深入研究和分析了達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)的工作原理和機(jī)制以及該平臺(tái)在設(shè)計(jì)和實(shí)現(xiàn)中所涉及的關(guān)鍵技術(shù)的基礎(chǔ)上,找出了現(xiàn)有達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)存在的不

2、足和缺陷,提出了兩種改進(jìn)方法。其一:考慮到原有DMETL的串行工作方式不利于發(fā)揮系統(tǒng)的功效,將流水線技術(shù)引入到達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)之中。流水線的工作方式實(shí)質(zhì)上是利用多線程和緩存技術(shù),使得ETL數(shù)據(jù)的抽取,轉(zhuǎn)換和加載三個(gè)環(huán)節(jié)的執(zhí)行可以抽象成流水線一樣運(yùn)行在不同的線程實(shí)例中,從而減少了中間環(huán)節(jié)的等待時(shí)間。通過流水線工作方式充分的利用了計(jì)算機(jī)資源,提高了系統(tǒng)的吞吐率,提升了ETL的工作效率。第二,針對(duì)原有DMETL增量抽取方式對(duì)客戶系統(tǒng)進(jìn)行未授權(quán)

3、操作所帶來的弊端,同時(shí)考慮到實(shí)際項(xiàng)目中ORACLE作為數(shù)據(jù)源的應(yīng)用較多,設(shè)計(jì)和實(shí)現(xiàn)了針對(duì)ORACLE數(shù)據(jù)源的基于日志分析的增量數(shù)據(jù)抽取方式。利用ORACLE數(shù)據(jù)庫(kù)自身的日志分析工具LOG MINER,對(duì)數(shù)據(jù)庫(kù)日志文件進(jìn)行解析,獲取用戶對(duì)數(shù)據(jù)庫(kù)的變更操作。通過分析數(shù)據(jù)庫(kù)的變更操作來對(duì)數(shù)據(jù)庫(kù)中的增量數(shù)據(jù)進(jìn)行捕獲。該方法可以有效降低DMETL對(duì)客戶系統(tǒng)的影響。
   通過實(shí)驗(yàn)表明,流水線技術(shù)的引入是可以在一定程度上提高達(dá)夢(mèng)數(shù)據(jù)交換平臺(tái)

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論