《紐約時報》聯(lián)合谷歌開發(fā)的 AI 算法
網(wǎng)絡(luò)媒體的的一大特色就是有評論區(qū),供讀者直接對文章、視頻發(fā)表自己的看法,但灌水、罵戰(zhàn)、惡毒言論也讓媒體頭疼不已,于是有些媒體選擇將評論區(qū)關(guān)閉。例如紐約時報的網(wǎng)站就只有 10% 的文章開放評論,但這種做法也讓很多理性的讀者失去了發(fā)表看法的平臺,于是《時報》和谷歌合作,利用后者的算法開發(fā)了評論區(qū)惡毒言論過濾器,借此希望未來能夠?qū)?80% 的文章開放給讀者評論。
本文引用地址:http://butianyuan.cn/article/201706/360605.htmBassey Etim 是《紐約時報》網(wǎng)站的社區(qū)編輯。在他看來,新聞通訊社與讀者間的關(guān)系相當(dāng)簡單,讀者付款訂閱或者看廣告免費(fèi)讀新聞,而通訊社們將掙來的錢投入后續(xù)的新聞報道中去。
不過,網(wǎng)站社區(qū)的出現(xiàn)卻讓事情變得越來越復(fù)雜。通訊社們想與讀者進(jìn)行深入交流,而讀者也想找個渠道來發(fā)表自己的看法,于是讀者們開始在評論區(qū)交流起來。當(dāng)然,如果大家都本著友好交流的心態(tài),評論區(qū)可能會出現(xiàn)許多金句,但事實(shí)上評論區(qū)卻總是會出現(xiàn)各種不相干的內(nèi)容,同時這里也成了網(wǎng)絡(luò)暴力和謠言的溫床。
為了凈化評論區(qū)風(fēng)氣,《紐約時報》會人工對評論區(qū)的讀者評論進(jìn)行審核。不過,每天平均 1.2 萬條以上的評論卻讓審核人員怨聲載道。有時由于缺乏人手,他們還會直接關(guān)閉某些新聞的評論區(qū)。雷鋒網(wǎng)發(fā)現(xiàn),《紐約時報》許多爭議性較強(qiáng)的頭條新聞在發(fā)布時就直接禁止評論。
不過,這樣的情況馬上就要發(fā)生改變了。
今天,《紐約時報》上線了名為 Moderator(意為版主)的新系統(tǒng),未來頭條新聞的評論區(qū)在工作日每天都會開放 8 小時。此外,新聞和觀點(diǎn)板塊的評論區(qū)則會 24 小時開放。
Moderator 的誕生還要感謝 Jigsaw,它是谷歌旗下的技術(shù)孵化器,該公司利用機(jī)器學(xué)習(xí)技術(shù)優(yōu)先審核“言論不太出格”的溫和評論,有時還會自動給它們放行。Moderator 有這樣的能耐是因?yàn)樗殚喠?2007 年以來評論區(qū)里超過 1600 萬條溫和評論。
在《紐約時報》看來,讀者的評論也是內(nèi)容,但它們更重視質(zhì)量而非數(shù)量。調(diào)查結(jié)果也顯示,《紐約時報》的讀者們非常喜歡評論區(qū)不時出現(xiàn)的神評論。
去年夏天,Jigsaw 也發(fā)覺自己需要處理類似的問題:到底怎樣提升網(wǎng)絡(luò)會話的質(zhì)量呢?
于是,兩家公司一拍即合,拿到《紐約時報》的匿名評論數(shù)據(jù)后,Jigsaw 打造了一款機(jī)器學(xué)習(xí)算法,它能掌握社區(qū)編輯對待評論的尺度。除此之外,這兩家公司還拉上了名為 Instrument 的數(shù)字產(chǎn)品合作伙伴一起打造 Moderator。如今,這款算法還成了 Perspective 計(jì)劃的一部分,該項(xiàng)目的目標(biāo)是揪出網(wǎng)上的騷擾和各種語言暴力。
“出版商靠廣告生存,而廣告商投放廣告時看的是讀者的參與度?!盝igsaw 董事長 Jared Cohen 寫道。Jigsaw 將“幫助各大新聞平臺開辟供讀者進(jìn)行兩性討論的空間?!?/p>
《紐約時報》將如何利用 Moderator
Moderator 的加入讓社區(qū)管理用戶貢獻(xiàn)內(nèi)容的方式發(fā)生了改變,傳統(tǒng)上優(yōu)先考慮每一條評論的方法被摒棄了。在 Moderator 的管理下,每條評論都會被打分,如果不符合要求就不會出現(xiàn)在評論區(qū)。
對《紐約時報》的社區(qū)編輯來說,每條評論都像是直方圖上的一個小點(diǎn)(如下圖)。
在直方圖上的位置可能就會決定一條評論是否會被刪掉。除此之外,Moderator 還會試著預(yù)測為何一些評論會被刪掉。
有了新工具,《紐約時報》的社區(qū)編輯們輕松多了,它們能直接參考機(jī)器學(xué)習(xí)模型,閱讀那些有 15%-20% 被刪除可能性的評論,如果這些評論足夠溫和,他們可能就會對 0%-20% 區(qū)間的所有評論放行。回想從前,社區(qū)編輯們需要對每條評論進(jìn)行逐個閱讀。
被優(yōu)先推薦的評論總是“綜合評分”較高,新系統(tǒng)加入后,能否得高分則主要看三個方面:評論是否包含淫穢色情內(nèi)容、毒害性言論和被刪除的概率。
隨著綜合評分系統(tǒng)的逐漸成熟,《紐約時報》決定進(jìn)一步降低社區(qū)編輯們的工作強(qiáng)度,那些絕對人畜無害的評論會被自動放行。
Cohen 先生表示:“機(jī)器學(xué)習(xí)的優(yōu)勢就在于它會隨著學(xué)習(xí)的深入變得越來越聰明?!?/p>
未來,網(wǎng)絡(luò)評論的好日子可能會重新到來?!都~約時報》就正在搭建一個能讓讀者隨心討論的安全環(huán)境,這里沒有臟話、騷擾和網(wǎng)絡(luò)暴力,每個人都能平心靜氣的抒發(fā)自己的觀點(diǎn)。
評論