群智學(xué)習(xí)若干問(wèn)題研究.pdf

1、隨著我們步入人工智能時(shí)代，機(jī)器學(xué)習(xí)，尤其是有監(jiān)督的機(jī)器學(xué)習(xí)已經(jīng)在工業(yè)界得到了廣泛的應(yīng)用。然而在大數(shù)據(jù)的背景下，機(jī)器學(xué)習(xí)在真實(shí)應(yīng)用中面臨著許多巨大的挑戰(zhàn)。比如機(jī)器學(xué)習(xí)在訓(xùn)練模型的時(shí)候需要有標(biāo)簽的訓(xùn)練數(shù)據(jù)，而在很多實(shí)際應(yīng)用中，獲得這些訓(xùn)練樣本的真實(shí)標(biāo)簽的代價(jià)非常大甚至是不可能的。為此，研究者們提出了群智學(xué)習(xí)，即通過(guò)多個(gè)非完美的標(biāo)記者（有可能會(huì)錯(cuò)誤標(biāo)記）標(biāo)記的數(shù)據(jù)，學(xué)習(xí)得到性能良好的預(yù)測(cè)模型。
　　雖然在近幾十年里，越來(lái)越多研究者開始關(guān)

2、注群智學(xué)習(xí)，群智學(xué)習(xí)領(lǐng)域也得到了長(zhǎng)足的發(fā)展。但仍然還有很多問(wèn)題沒(méi)有得到很好地研究。其中有三個(gè)問(wèn)題是本文覺(jué)得亟待解決的:1）二階段方法用于群智學(xué)習(xí)存在的問(wèn)題;2）如何鑒別每個(gè)標(biāo)記者和標(biāo)簽的可靠性以及如何利用這些可靠性訓(xùn)練模型;3）如何設(shè)計(jì)高效的群智學(xué)習(xí)系統(tǒng)。本文針對(duì)這3個(gè)問(wèn)題展開了研究，本文的主要貢獻(xiàn)有:
　　(1)提出了群智學(xué)習(xí)有效性的定義以及定理3.1，闡述了在一定條件下二階段方法有效的充要條件，并從理論和實(shí)驗(yàn)兩個(gè)方面對(duì)該定理進(jìn)

3、行了驗(yàn)證。此外，本文還分析得到了二階段方法的目標(biāo)與原始的群智學(xué)習(xí)的優(yōu)化目標(biāo)不一致的結(jié)論。上述兩個(gè)結(jié)論告訴我們，對(duì)于群智學(xué)習(xí)這個(gè)新的學(xué)習(xí)問(wèn)題，應(yīng)該研究專門的學(xué)習(xí)算法而不是簡(jiǎn)單地將群智學(xué)習(xí)轉(zhuǎn)化成先估計(jì)樣本標(biāo)簽進(jìn)而學(xué)習(xí)模型的問(wèn)題。
　　(2)利用數(shù)據(jù)特征與數(shù)據(jù)標(biāo)簽的內(nèi)在關(guān)系，本文提出了一種估計(jì)標(biāo)簽可靠性的方法。此外，從代價(jià)敏感的角度，本文對(duì)群智學(xué)習(xí)問(wèn)題進(jìn)行了分析，分析表明群智學(xué)習(xí)本質(zhì)上是一個(gè)代價(jià)敏感的學(xué)習(xí)問(wèn)題。進(jìn)一步，本文提出了質(zhì)量敏感

4、的群智學(xué)習(xí)框架QS-LFC以及基于該框架的SVM實(shí)現(xiàn)算法QS-LFC-SVM。實(shí)驗(yàn)結(jié)果表明，QS-LFC可以實(shí)現(xiàn)比現(xiàn)有方法更好的泛化性能和更強(qiáng)的魯棒性。
　　(3)本文提出在主動(dòng)群智學(xué)習(xí)中引入不確定選項(xiàng)，并闡述了引入不確定選項(xiàng)給主動(dòng)群智學(xué)習(xí)帶來(lái)的多方面好處。此外，針對(duì)這種具有不確定選項(xiàng)的主動(dòng)群智學(xué)習(xí)問(wèn)題，本文提出了算法框架ALCU以及基于該框架的SVM實(shí)現(xiàn)算法ALCU-SVM。實(shí)驗(yàn)結(jié)果驗(yàn)證了不確定選項(xiàng)帶來(lái)的好處以及ALCU的優(yōu)越性