基于主動學(xué)習(xí)的漢語依存樹庫構(gòu)建.pdf

1、句法分析是自然語言處理領(lǐng)域的一個關(guān)鍵問題，如能將其有效解決，一方面，可對相應(yīng)樹庫構(gòu)建體系的正確性和完善性進(jìn)行驗(yàn)證；另一方面，也可直接服務(wù)于各種上層應(yīng)用，比如搜索引擎用戶日志分析和關(guān)鍵詞識別，比如信息抽取、自動問答、機(jī)器翻譯等其他自然語言處理相關(guān)的任務(wù)。
　　目前句法分析仍主要采用有指導(dǎo)的機(jī)器學(xué)習(xí)方法，因此需要大規(guī)模高質(zhì)量的樹庫作為訓(xùn)練語料，而現(xiàn)階段漢語依存樹庫資源相對較少，樹庫標(biāo)注又是一件費(fèi)時費(fèi)力的工作。
　　本文首先介紹

2、HIT-CIR-CDT（全稱為“哈工大社會計(jì)算與信息檢索研究中心漢語依存樹庫”）的詳細(xì)標(biāo)注過程，然后基于該樹庫介紹如何將主動學(xué)習(xí)應(yīng)用到漢語依存樹庫的構(gòu)建以達(dá)到減少標(biāo)注成本的目的。主要采用了以下兩大類方法：
　?。?）聚類方法：采用聚類直接剔除冗余實(shí)例的標(biāo)注，以期達(dá)到使用相同數(shù)目的訓(xùn)練實(shí)例能使句法分析達(dá)到更高性能；（2）置信度判別法：優(yōu)先選擇當(dāng)前句法模型預(yù)測不準(zhǔn)（即置信度較低）的實(shí)例交由人工標(biāo)注，以期使句法分析達(dá)到相同性能只需更少的

3、訓(xùn)練實(shí)例。在置信度判別法中，本文提出并比較了多種衡量依存句法模型預(yù)測可信度的準(zhǔn)則，包括基于不確定性度量和委員會投票兩大類。
　　實(shí)驗(yàn)結(jié)果表明，置信度判別法比基于聚類的方法更簡單有效。一方面，它使依存句法分析在達(dá)到相同性能時只需標(biāo)注更少量實(shí)例，人工標(biāo)注量最多可減少30％；另一方面，與隨機(jī)選擇標(biāo)注實(shí)例相比，當(dāng)使用相同數(shù)目的訓(xùn)練實(shí)例時，它總能使?jié)h語依存句法分析性能有所提高，性能最高提升0.8%。這種方法也可用到句法分析的領(lǐng)域移植上，以減