AI神器可診斷你是否有抑郁癥
麻省理工學(xué)院的研究人員最近開發(fā)出一種神經(jīng)網(wǎng)絡(luò),能夠以相對(duì)較高的準(zhǔn)確度對(duì)個(gè)人患有認(rèn)知功能障礙的可能性做出預(yù)測。因此在一定程度上,我們可以將其理解為一種抑郁癥檢測器。
本文引用地址:http://butianyuan.cn/article/201809/392279.htm當(dāng)然,這種說法并不準(zhǔn)確,我們將稍后詳加探討。
由麻省理工研究員Tuka Alhanai、Mohammad Ghassemi以及James Glass組成的研究團(tuán)隊(duì)在Interspeech 2018大會(huì)上展示其工作成果。
根據(jù)相關(guān)論文,他們開發(fā)出一種無情境方法,可借此確保機(jī)器對(duì)人類的文本或音頻表達(dá)內(nèi)容進(jìn)行分析,從而檢測出該人的抑郁度評(píng)分。其中最為關(guān)鍵的,當(dāng)然在于這套人工智能方案的“無情境”因素。
一般來講,治療師需要利用經(jīng)過驗(yàn)證的問題與直接觀察相結(jié)合,共同診斷對(duì)方的抑郁癥等精神健康狀況。而根據(jù)麻省理工學(xué)院團(tuán)隊(duì)的說法,他們的人工智能能夠在無需條件性問題或者直接觀察的前提下,實(shí)現(xiàn)類似的效果。換言之,其不需要情景信息,而只需要數(shù)據(jù)資料。
下面來看該團(tuán)隊(duì)所發(fā)布論文中的部分內(nèi)容:
麻省理工學(xué)院研究人員詳細(xì)介紹一種神經(jīng)網(wǎng)絡(luò)模型,該模型能夠通過訪談方式對(duì)原始文本及音頻數(shù)據(jù)進(jìn)行解析,從而發(fā)現(xiàn)可能預(yù)示抑郁癥疾病的表達(dá)模式。在給定新主題的情況下,其能夠準(zhǔn)確預(yù)測相關(guān)個(gè)體是否存在壓抑情緒,且不需要任何其它相關(guān)問題及答案信息。
那么,這到底屬于檢測還是預(yù)測?
雖然看似無關(guān)緊要,但檢測與預(yù)測實(shí)際上屬于完全不同的兩回事。預(yù)測個(gè)體是否存在抑郁傾向的算法僅僅代表一種標(biāo)記數(shù)據(jù),將被提交給治療師進(jìn)行進(jìn)一步審查。但對(duì)抑郁癥的檢測,則要求其給出的確定性結(jié)果確實(shí)與目標(biāo)個(gè)體的精神狀態(tài)相符。
當(dāng)然,研究人員們也意識(shí)到了這一點(diǎn)。論文第一作者Tuka Alhanai表示,“這不是在對(duì)抑郁癥進(jìn)行檢測,而是根據(jù)言語中的常見信號(hào)對(duì)個(gè)體的認(rèn)知障礙問題做出一定程度的評(píng)估?!?/p>
幸好,看起來他們很明確地強(qiáng)調(diào)這是一種預(yù)測,而非檢測。但也正是這種微小的區(qū)別,使得這項(xiàng)工作在本質(zhì)上具有可怕的影響。
為了測試這套人工智能方案,研究人員們進(jìn)行了一項(xiàng)實(shí)驗(yàn),由人為控制的虛擬代理對(duì)142名受試者提出一系列問題,從而進(jìn)行抑郁癥篩查。人工智能并沒有事先了解問題內(nèi)容,而受訪者亦可自由以任何形式做出回答。問題的形式并非單項(xiàng)選擇,人工智能需要從語言線索當(dāng)中辨別抑郁癥。
在這項(xiàng)研究中,參與者的回答將以文本及音頻形式進(jìn)行記錄。在文本版本中,人工智能能夠在大約7個(gè)問答序列之后預(yù)測抑郁癥。但有趣的是,在音頻版本當(dāng)中,人工智能需要大約30個(gè)序列才能做出決定。據(jù)研究人員稱,其平均準(zhǔn)確率達(dá)到驚人的77%。
問題在哪?很明顯,相信任何能夠直接接受醫(yī)師診療的病患,都不會(huì)選擇這種預(yù)測方式。
在辦公室中觀察病人的治療師們顯然認(rèn)為自己擁有遠(yuǎn)超算法的診斷能力。而且這類人工智能方案與利用圖像識(shí)別/檢測癌癥不同。人類醫(yī)師可以通過醫(yī)學(xué)影像發(fā)現(xiàn)并清除癌癥(在大多數(shù)情況下),但卻無法利用同樣的方式驗(yàn)證人工智能做出的抑郁癥診斷。
從理論角度講,當(dāng)計(jì)算機(jī)與人類聆聽同一段對(duì)話并最終做出截然相反的抑郁癥診斷結(jié)論時(shí),我們該如何判斷真?zhèn)?或者,如果大家愿意,那么在計(jì)算機(jī)發(fā)現(xiàn)對(duì)方存在潛在抑郁癥跡象時(shí),我們是否也應(yīng)進(jìn)行相同的檢查以確保醫(yī)生做出的非抑郁癥判斷準(zhǔn)確無誤?在這樣的情況下,自動(dòng)化機(jī)制存在的意義是什么?
更重要的是,當(dāng)醫(yī)療專業(yè)人員以外的人士使用這種“抑郁癥檢測器”時(shí),又會(huì)引發(fā)怎樣的后果?論文中的某些表達(dá)似乎證明,這些算法確實(shí)是為了在高枕而麻省理工學(xué)院實(shí)驗(yàn)環(huán)境之外的實(shí)際應(yīng)用而開發(fā):
患有抑郁癥的病患將長年累月受到消極與悲傷情緒的困擾。要治療抑郁癥患者,必須首先對(duì)其做出診斷。而為了獲取診斷結(jié)果,受試個(gè)體必須主動(dòng)與心理健康專業(yè)人士進(jìn)行接觸。實(shí)際上,由于移動(dòng)性、成本與動(dòng)機(jī)等因素的限制,抑郁癥患者可能無法得到應(yīng)有的專業(yè)關(guān)注。在這種情況下,人工智能方案提供的人類交流內(nèi)容自動(dòng)監(jiān)測能力將解決這些限制,并提供更好的抑郁癥篩查服務(wù)。
對(duì)人類通信進(jìn)行自動(dòng)監(jiān)控似乎代表著夢魘般的反烏托邦未來。我們可以想象,人們將在不知情的前提下面對(duì)一系列問答序列,并由機(jī)器對(duì)其心理健康情況做出評(píng)估。相信大多數(shù)人都會(huì)意識(shí)到,在未經(jīng)同意的情況下利用神經(jīng)網(wǎng)絡(luò)這類黑匣子進(jìn)行心理健康評(píng)估絕不是什么好主意。
想象一下,如果企業(yè)利用“抑郁癥檢測器”這類人工智能方案在面試過程中對(duì)您進(jìn)行心理狀況檢測,或者律師通過算法解釋您在子女監(jiān)護(hù)權(quán)案件中的表述,會(huì)引發(fā)怎樣可怕的后果乃至影響。
更糟糕的是,我們甚至能夠想到警察局利用人工智能黑匣子對(duì)嫌疑人在審訊過程中的精神狀態(tài)進(jìn)行監(jiān)測。畢竟世界各地的執(zhí)法單位需要投入大量資金與寶貴時(shí)間對(duì)嫌疑人進(jìn)行心理學(xué)側(cè)寫,而人工智能據(jù)稱能夠更好地“檢測”對(duì)方的情緒狀態(tài)。
可以想象,如果全面推出,這類解決方案最終一定會(huì)出現(xiàn)在審訊室、就業(yè)面試以及其它難以預(yù)知的場景當(dāng)中。我們絕不應(yīng)被人工智能的判斷所左右:機(jī)器絕對(duì)無法檢測到我們是否身為同性戀、有罪或者沮喪,它們只是在做出猜測。而身為人類,我們理應(yīng)非常謹(jǐn)慎地對(duì)這種猜測結(jié)果加以運(yùn)用。
評(píng)論