基于短文本的分類算法研究.pdf

1、短文本指的是長度較短，通常不超過100個(gè)字符，內(nèi)容精煉內(nèi)聚的文本，例如新聞標(biāo)題和手機(jī)短信息都是典型的短文本。由于海量信息資源的出現(xiàn)，采用人工方式進(jìn)行管理越來越不切實(shí)際。分類可以在一定程度上解決網(wǎng)上信息雜亂的現(xiàn)象，方便用戶準(zhǔn)確地定位所需的信息和分流信息，文本分類則有助于用戶有選擇地閱讀和處理海量文本。短文本分類與普通文本分類有很大的不同，本文將針對短文本的特殊性，對短文本分類算法進(jìn)行研究。新聞標(biāo)題和手機(jī)短信這兩類典型的短文本將作為本文的研

2、究重點(diǎn)。通過對短文本特有規(guī)律以及相關(guān)領(lǐng)域的深入分析，本文將包括基于短文本的多分類以及一類分類算法的研究。本文將以具有確定分類標(biāo)準(zhǔn)的短文本分類為應(yīng)用背景，利用基于統(tǒng)計(jì)學(xué)方法對短文本進(jìn)行詞頻統(tǒng)計(jì)，同時(shí)利用基于支持向量機(jī)(SVM)的分類技術(shù)，評價(jià)短文本與類別的相關(guān)關(guān)系。本文將短文本的多分類算法和一類分類算法的算法實(shí)現(xiàn)和精度提高作為主要研究方向。多分類算法指的是：對于給定的文本和已知的類別集合(多于一個(gè))，確定給定文本所屬的類別。一類分類算法指

3、的是：對于給定的文本和一個(gè)類別，確定給定文本屬于這一類別的概率。在介紹多分類算法的過程中將以文本新聞標(biāo)題的分類算法作為研究對象；在介紹一類分類算法的時(shí)候?qū)⒁允謾C(jī)短信息的分類算法作為研究對象。本文的特點(diǎn)是充分利用短文本的獨(dú)有特點(diǎn)，確定短文本與類別相關(guān)程度，在現(xiàn)有文本分類方法的基礎(chǔ)上做出了適當(dāng)改進(jìn)，經(jīng)過實(shí)驗(yàn)和參數(shù)調(diào)整，多分類算法和一類分類算法在訓(xùn)練集內(nèi)部的分類準(zhǔn)確率超過98%的情況下，多類分類算法平均準(zhǔn)確率超過了86%，一類分類算法的平均準(zhǔn)