【導(dǎo)讀】以往的情緒分類研究由于數(shù)據(jù)的限制,只能局限于六種基本的情緒分類。好消息終于來(lái)了,Google最近發(fā)布迄今為止最強(qiáng)情緒分類數(shù)據(jù)集GoEmotions,情緒類別提升到28種,并且每個(gè)類別標(biāo)簽的質(zhì)量都超高!
互聯(lián)網(wǎng)文化的興起,讓NLP研究員也是壓力山大,不光要搜集傳統(tǒng)的語(yǔ)料,新興的各種梗表達(dá)的微妙情緒也只能讓機(jī)器學(xué)習(xí)模型直呼看不懂。
情緒的表達(dá)在社交軟件上十分關(guān)鍵,影響著人們的交流方式和社交關(guān)系的塑造,在語(yǔ)言方面尤其如此,只要幾個(gè)詞就能表達(dá)各種各樣的微妙和復(fù)雜的情感。
因此,使機(jī)器能夠理解上下文和情感一直是研究界的一個(gè)長(zhǎng)期目標(biāo),這反過(guò)來(lái)又將支持各種應(yīng)用,包括情感聊天機(jī)器人、檢測(cè)負(fù)面情緒的網(wǎng)絡(luò)行為模型以及改善消費(fèi)者的互動(dòng)反饋。
在過(guò)去的十年里,NLP 研究界已經(jīng)為基于語(yǔ)言的情感分類提供了一些數(shù)據(jù),大多數(shù)都是人工標(biāo)注的,涵蓋了多個(gè)目標(biāo)領(lǐng)域,如新聞標(biāo)題、電影字幕、甚至童話故事,但規(guī)模往往相對(duì)較小,或者只關(guān)注于1992 年提出的六種基本情緒:憤怒(anger)、驚訝(surprise)、沮喪(disgust)、快樂(lè)(joy)、恐懼(fear)和悲傷(sadness)。
雖然這些情緒數(shù)據(jù)能夠?qū)η榫w進(jìn)行初步、粗糙的分類,但這些數(shù)據(jù)集在建立時(shí)也強(qiáng)調(diào)需要在更廣泛的情緒集上建立一個(gè)大規(guī)模的數(shù)據(jù)集,以在更廣泛范圍促進(jìn)未來(lái)潛在應(yīng)用。
Google 最近就帶來(lái)了一個(gè)全新的情緒數(shù)據(jù)集GoEmotion,包含了58000個(gè)人工標(biāo)注的Reddit 評(píng)論,并且將情緒分為28個(gè)類別。作為迄今為止標(biāo)注最詳細(xì)的英語(yǔ)情感數(shù)據(jù)集,Google從心理學(xué)和數(shù)據(jù)適用性上設(shè)計(jì)了一個(gè)GoEmotion情感分類法。
和只有一種積極情緒(joy)的六種基本情緒相比,新的分類包括12種積極情緒、11種消極情緒、4種模棱兩可的情緒類別和1種中立情緒,能夠廣泛適用于需要微妙區(qū)分情緒表達(dá)的對(duì)話理解任務(wù)。
數(shù)據(jù)集的初衷是建立一個(gè)以對(duì)話數(shù)據(jù)為重點(diǎn)的大型數(shù)據(jù)集,其中情感是交流的關(guān)鍵組成部分。由于Reddit平臺(tái)提供了大量公開的內(nèi)容,包括用戶與用戶之間的直接對(duì)話,因此它也成為了情緒分析的絕佳場(chǎng)景和資源。
為了建立具有廣泛代表性的情感模型,研究人員采用了數(shù)據(jù)修復(fù)措施以確保數(shù)據(jù)集沒(méi)有改變通用性、情感特定性和語(yǔ)言偏見。
這一點(diǎn)尤其重要,因?yàn)镽eddit的平臺(tái)也具有用戶群體的偏差,年輕的男性使用者居多,其中的評(píng)論也無(wú)法反映全球不同的人口的情緒表達(dá)。
并且Reddit 還有一些攻擊性的語(yǔ)言,為了解決這些問(wèn)題,需要使用預(yù)先定義的攻擊性、少兒不宜、粗俗內(nèi)容以及宗教的術(shù)語(yǔ)來(lái)識(shí)別和過(guò)濾劣質(zhì)評(píng)論。
除此之外,Google還對(duì)數(shù)據(jù)進(jìn)行了額外的過(guò)濾,如限制文本長(zhǎng)度,并對(duì)數(shù)據(jù)集中所表達(dá)的情感和感受進(jìn)行平衡,防止過(guò)度某些情感占比過(guò)多。
GoEmotion分類法在設(shè)計(jì)的時(shí)候主要考慮同時(shí)最大化三個(gè)目標(biāo):
1、最大限度地涵蓋Reddit數(shù)據(jù)中表達(dá)的情緒;
2、提供覆蓋最廣泛的情緒表達(dá)類型;
3、限制情緒類別的總體數(shù)量,并且不能互相重疊。
這種分類法能夠有效地理解數(shù)據(jù)驅(qū)動(dòng)的精細(xì)情緒,同時(shí)也解決了某些情緒的潛在數(shù)據(jù)稀疏性。
建立整個(gè)分類體系是迭代過(guò)程,包含定義和細(xì)化情緒標(biāo)簽。在數(shù)據(jù)標(biāo)記階段,研究人員實(shí)際總共考慮了56種情緒類別。從這些樣本中,消除了那些被標(biāo)注人員(rater)選擇得很少、與其他情緒相似并且相互作用程度較低的情緒、難以從文本中檢測(cè)到的情緒。
并且還額外增加了rater在數(shù)據(jù)標(biāo)注過(guò)程中建議新增的情緒,這些情緒能夠很好地描述在評(píng)論數(shù)據(jù)中的情緒。
最后,研究人員對(duì)情感類別名稱進(jìn)行了細(xì)化,以最大限度地提高可解釋性和相互關(guān)聯(lián)的一致性,在標(biāo)簽的設(shè)置上,94%的樣本需要至少有兩個(gè)rater 同意至少一個(gè)情感標(biāo)簽。
在實(shí)驗(yàn)過(guò)程中可以發(fā)現(xiàn),GoEmotion 的分類方法產(chǎn)生的情緒在數(shù)據(jù)中的分布并不是均勻的。正向情緒的出現(xiàn)頻率更高,這也讓研究人員意識(shí)到僅有六個(gè)基礎(chǔ)情緒類別是遠(yuǎn)遠(yuǎn)不夠的。
為了驗(yàn)證分類的選擇是否與數(shù)據(jù)相匹配,研究人員進(jìn)行了主保留成分分析(principal preserved component analysis, PPCA),這是一種通過(guò)提取情感判斷的線性組合來(lái)比較兩個(gè)數(shù)據(jù)集的方法,在兩組rater 之間顯示出最高的聯(lián)合可變性(joint variability)。它有助于發(fā)現(xiàn)rater 之間的情感維度是否高度一致。PPCA常被用來(lái)理解視頻和語(yǔ)音中情感識(shí)別的主要維度,也可以用它來(lái)理解文本中情感的主要維度。
通過(guò)實(shí)驗(yàn)可以發(fā)現(xiàn)每個(gè)成分都是顯著的(所有維度的p值<1.5e-6),表明每個(gè)情緒都捕捉到數(shù)據(jù)的獨(dú)特部分。這可以說(shuō)是一個(gè)巨大的提升,因?yàn)樵谝郧暗恼Z(yǔ)言情感識(shí)別工作中,30個(gè)維度中大約只有12個(gè)維度被認(rèn)為是有意義的。
研究人員還根據(jù)rater 的情緒判斷之間的相關(guān)性來(lái)研究定義情緒的聚類。采用這種方法,當(dāng)兩種情緒經(jīng)常被rater 共同選擇時(shí),這兩種情緒可以被聚類在一起。
研究結(jié)果發(fā)現(xiàn),盡管GoEmotion 分類法中沒(méi)有預(yù)先定義情感(sentiment)的概念,但在情感(消極、積極和模棱兩可)方面相關(guān)的情緒能夠聚合在一起,表明了rater 的數(shù)據(jù)標(biāo)注質(zhì)量很高,和數(shù)據(jù)標(biāo)注的一致性。
例如,如果一個(gè)rater 選擇給一個(gè)評(píng)論的標(biāo)簽是興奮(excited),那么另一個(gè)rater 也更有可能選擇一種相關(guān)的情緒,比如快樂(lè)(joy),而不是說(shuō)選擇恐懼(fear)。
一個(gè)比較意外的情況是所有模棱兩可的情緒都能夠聚集在一起,并且它們與積極的情緒更緊密地結(jié)合在一起。
同樣地,在強(qiáng)度上相關(guān)的情緒,如joy和excitment、nervousness和fear、sadness和grief、annoyance和anger,也密切相關(guān)。
雖然GoEmotions提供了一組人類注釋的情感數(shù)據(jù),但也存在一些額外的情感數(shù)據(jù)沒(méi)有包含在內(nèi),其他數(shù)據(jù)集一般使用啟發(fā)式的方法來(lái)自動(dòng)標(biāo)記弱類型的情緒。
主流的啟發(fā)式方法使用與情緒相關(guān)的Twitter標(biāo)簽作為情緒類別,無(wú)需人工參與就可以生成大量數(shù)據(jù)。但這種方法也受到多種限制:
1、Twitter上使用的語(yǔ)言與許多其他語(yǔ)言領(lǐng)域明顯不同,從而限制了數(shù)據(jù)的適用性;
2、標(biāo)簽是人類產(chǎn)生的,直接使用時(shí)容易重復(fù)、重疊和其他分類不一致;
3、這種Twitter方法的特殊性限制了它在其他語(yǔ)言群體中的應(yīng)用。
GoEmotion 提供了一種替代的、更容易使用的啟發(fā)式方法,將Emoji嵌入到用戶對(duì)話中,作為情感類別的代理(proxy)。這種方法可以應(yīng)用于任何包含合理的Emoji的對(duì)話中,因?yàn)镋moji比Twitter標(biāo)簽更標(biāo)準(zhǔn)化,更少稀疏,所以它們的不一致性更少。
需要注意的是兩種方法,無(wú)論是使用Twitter標(biāo)簽還是emoj,都不是直接針對(duì)情感理解,而是針對(duì)對(duì)話的變體。
例如,在下面的對(duì)話中,
- 濕地之美|廣州海珠濕地
- (熱點(diǎn)觀察 漫評(píng))美國(guó)對(duì)歐洲盟友“下狠手”
- 全球微動(dòng)態(tài)丨德媒文章:政治極化愈演愈烈,美國(guó)民主面臨墮落
- 每日觀察!海河觀津丨百萬(wàn)候鳥來(lái)“息”,它們?yōu)楹纹珢郾贝蟾郏?/a>
- 焦點(diǎn)!一起來(lái)拍中國(guó)空間站!
- 焦點(diǎn)播報(bào):北京新增本土感染者16例 詳情公布
- 天天快看點(diǎn)丨遼寧匯聚高校校友資源 引青年人才在遼創(chuàng)新創(chuàng)業(yè)
- 每日熱文:夢(mèng)天成功發(fā)射!天空飄來(lái)一個(gè)字:6
- 環(huán)球最資訊丨長(zhǎng)圖丨“院士天團(tuán)”做優(yōu)“湖南飯”,該是什么味?
- 常益懷等5市州明早有大霧 出行請(qǐng)注意安全
- 環(huán)球動(dòng)態(tài):11月全省溫高干旱持續(xù)發(fā)展
- 【全球獨(dú)家】10月制造業(yè)PMI為49.2% 建筑業(yè)景氣水平較高
- 環(huán)球今日訊!亞馬遜營(yíng)業(yè)利潤(rùn)率下降至2% 國(guó)內(nèi)頭部電商或進(jìn)一步搶占海外市場(chǎng)
- 國(guó)家藥監(jiān)局:促進(jìn)彩色隱形眼鏡生產(chǎn)經(jīng)營(yíng)企業(yè)規(guī)范化發(fā)展
- 即時(shí)焦點(diǎn):智慧芽升級(jí)科創(chuàng)力評(píng)估平臺(tái) 累計(jì)上線12條產(chǎn)業(yè)技術(shù)鏈
- 【世界熱聞】?jī)?nèi)蒙古啟動(dòng)人力資源誠(chéng)信服務(wù)示范機(jī)構(gòu)評(píng)選
- 環(huán)球觀焦點(diǎn):內(nèi)蒙古:這5項(xiàng)職業(yè)資格考試暫停
- 全球熱門:飛天圓夢(mèng)|靜待夢(mèng)天,中國(guó)空間站在軌建造收官在即
- 飛天圓夢(mèng)|“夢(mèng)天”已就位!楊利偉動(dòng)情講述“初代”航天人故事
- 對(duì)標(biāo)保時(shí)捷Taycan?大眾中國(guó)功勛蘇偉銘親自下場(chǎng)造車
- 北京石景山開展冬季供暖前特種設(shè)備安全專項(xiàng)檢查
- 陜西延安:開展兒童化妝品專項(xiàng)檢查 規(guī)范化妝品市
- 北京海淀開展商品條碼專項(xiàng)監(jiān)督檢查 努力打造穩(wěn)定
- 金華推進(jìn)網(wǎng)絡(luò)直播營(yíng)銷治理顯成效 培育放心消費(fèi)直
- 北京延慶對(duì)重點(diǎn)行業(yè)開展格式條款專項(xiàng)檢查 做好市
- 北京海淀開展電動(dòng)自行車整治夜查行動(dòng) 全力保障轄
- 江蘇昆山全力規(guī)范大閘蟹市場(chǎng)秩序 營(yíng)造安全放心消
- 福建寧化開展“兩品一械”網(wǎng)絡(luò)銷售專項(xiàng)檢查 保障
- 北京懷柔:開展市場(chǎng)綜合執(zhí)法監(jiān)督檢查 督導(dǎo)各類經(jīng)
- 天津河?xùn)|:多措并舉推進(jìn)企業(yè)信用修復(fù)工作 助力轄
- 1 濕地之美|廣州海珠濕地
- 2 (熱點(diǎn)觀察 漫評(píng))美國(guó)對(duì)歐洲盟友“下狠手”
- 3 全球微動(dòng)態(tài)丨德媒文章:政治極化愈演愈烈,美國(guó)民主
- 4 5 焦點(diǎn)!一起來(lái)拍中國(guó)空間站!
- 6 焦點(diǎn)播報(bào):北京新增本土感染者16例 詳情公布
- 7 天天快看點(diǎn)丨遼寧匯聚高校校友資源 引青年人才在遼
- 8 每日熱文:夢(mèng)天成功發(fā)射!天空飄來(lái)一個(gè)字:6
- 9 環(huán)球最資訊丨長(zhǎng)圖丨“院士天團(tuán)”做優(yōu)“湖南飯”,該
- 10 常益懷等5市州明早有大霧 出行請(qǐng)注意安全