基于動(dòng)機(jī)的強(qiáng)化學(xué)習(xí)及其應(yīng)用研究.pdf

1、傳統(tǒng)強(qiáng)化學(xué)習(xí)通常只考慮其外在動(dòng)機(jī)，即針對(duì)某一特定的、具體的目標(biāo)任務(wù)，設(shè)計(jì)專門的外部獎(jiǎng)勵(lì)信號(hào)用以驅(qū)動(dòng)智能體進(jìn)行行為策略的學(xué)習(xí)，以實(shí)現(xiàn)長(zhǎng)期累積獎(jiǎng)勵(lì)的最大化。獎(jiǎng)勵(lì)信號(hào)通常需要系統(tǒng)設(shè)計(jì)者根據(jù)場(chǎng)景和智能體自身的特點(diǎn)進(jìn)行專門設(shè)計(jì)以提高學(xué)習(xí)效率，缺乏設(shè)計(jì)上的通用性和學(xué)習(xí)上的主動(dòng)性。
　　針對(duì)降低獎(jiǎng)勵(lì)信號(hào)設(shè)計(jì)難度和實(shí)現(xiàn)智能體自主學(xué)習(xí)的需要，本文在對(duì)現(xiàn)有的動(dòng)機(jī)獎(jiǎng)勵(lì)機(jī)制和動(dòng)機(jī)強(qiáng)化學(xué)習(xí)框架進(jìn)行研究的基礎(chǔ)上，借鑒情感心理在人類行為決策中的角色，通過將智能

2、體感知到的狀態(tài)映射為情感維度，提出了一種量化的情感模型作為內(nèi)在動(dòng)機(jī)機(jī)制。內(nèi)在情感動(dòng)機(jī)在外界獎(jiǎng)勵(lì)信號(hào)的基礎(chǔ)上提供附加補(bǔ)充獎(jiǎng)勵(lì)，或者單獨(dú)作為獎(jiǎng)勵(lì)來驅(qū)動(dòng)智能體進(jìn)行學(xué)習(xí)，從而形成一套閉環(huán)的“感知–評(píng)價(jià)–內(nèi)在情感動(dòng)機(jī)相關(guān)獎(jiǎng)勵(lì)與外界獎(jiǎng)勵(lì)相結(jié)合–強(qiáng)化學(xué)習(xí)–行動(dòng)–感知”基于情感動(dòng)機(jī)的強(qiáng)化學(xué)習(xí)框架。內(nèi)在情感動(dòng)機(jī)與具體的任務(wù)無關(guān)，因此具有一定的通用性，其量化模型中，好奇心通過評(píng)價(jià)狀態(tài)和動(dòng)作的新奇程度來控制智能體對(duì)陌生或熟悉環(huán)境的探索偏好；控制欲通過評(píng)價(jià)智能

3、體對(duì)環(huán)境模型的掌控程度來調(diào)節(jié)智能體在“保守”和“冒險(xiǎn)”策略間的權(quán)衡；而幸福指數(shù)則用來判斷當(dāng)前狀態(tài)和動(dòng)作的相對(duì)優(yōu)劣程度，對(duì)外部獎(jiǎng)勵(lì)進(jìn)行微調(diào)；三者結(jié)合作為內(nèi)在動(dòng)機(jī)共同實(shí)現(xiàn)對(duì)智能體學(xué)習(xí)和行為偏好的調(diào)整。
　　在基于情感動(dòng)機(jī)的強(qiáng)化學(xué)習(xí)框架的基礎(chǔ)上，本文對(duì)其在提高傳統(tǒng)強(qiáng)化學(xué)習(xí)中具體任務(wù)學(xué)習(xí)效率方面的應(yīng)用進(jìn)行了仿真驗(yàn)證：一是將內(nèi)在情感動(dòng)機(jī)驅(qū)動(dòng)的學(xué)習(xí)作為具體任務(wù)學(xué)習(xí)的“預(yù)習(xí)階段”，提前學(xué)習(xí)到盡可能準(zhǔn)確的環(huán)境模型供后期具體任務(wù)學(xué)習(xí)時(shí)利用，并緩解傳

4、統(tǒng)強(qiáng)化學(xué)習(xí)中的“探索–利用”兩難問題；二是將內(nèi)在情感動(dòng)機(jī)作為附加獎(jiǎng)勵(lì)與外部獎(jiǎng)勵(lì)融合為一體，以更高效地直接驅(qū)動(dòng)具體任務(wù)的學(xué)習(xí)。通過在開源機(jī)器人軟件開發(fā)框架Robot Operating System(ROS)上搭建貓作為智能體捕捉老鼠的仿真場(chǎng)景、設(shè)計(jì)實(shí)驗(yàn)方案并與單純外部獎(jiǎng)勵(lì)驅(qū)動(dòng)的學(xué)習(xí)進(jìn)行對(duì)比，證明了情感作為內(nèi)在動(dòng)機(jī)在提高具體任務(wù)學(xué)習(xí)效率方面的通用效果以及本文所提情感動(dòng)機(jī)量化方案的合理性。
　　另外，針對(duì)基于情感動(dòng)機(jī)的強(qiáng)化學(xué)習(xí)在智能體