谷歌 CEO 承認(rèn) AI 摘要功能存在“幻覺”問題：尚無解決方案

5 月 26 日消息，谷歌搜索新推出的“AI 摘要（AI Overviews）”功能近日備受詬病，原因是該功能經(jīng)常提供嚴(yán)重錯(cuò)誤的搜索結(jié)果信息，例如，該功能曾建議用戶使用膠水來防止披薩上的奶酪滑落。

本周早些時(shí)候，據(jù)科技媒體 The Verge 報(bào)道，谷歌首席執(zhí)行官桑達(dá)爾?皮查伊在接受采訪時(shí)承認(rèn)，這些“AI 摘要”功能產(chǎn)生的“幻覺”是大型語(yǔ)言模型（LLM）的“固有缺陷”，而大型語(yǔ)言模型正是“AI 摘要”功能的核心技術(shù)。皮查伊表示，這個(gè)問題目前尚無解決方案（is still an unsolved problem）。

這意味著盡管谷歌工程師一直在努力修復(fù)“AI 摘要”功能出現(xiàn)的各種奇怪且嚴(yán)重錯(cuò)誤的答案，但此類問題仍會(huì)持續(xù)出現(xiàn)。

然而，皮查伊似乎淡化了這些錯(cuò)誤的嚴(yán)重性。他表示：“‘AI 摘要’功能有時(shí)會(huì)出錯(cuò)，但這并不意味著它沒有用處。我認(rèn)為這并不是看待該功能的正確方式。我們?nèi)〉昧诉M(jìn)展嗎？是的，肯定有。與去年相比，我們?cè)谑聦?shí)準(zhǔn)確性方面的指標(biāo)上取得了很大進(jìn)步。整個(gè)行業(yè)都在改進(jìn)，但問題還沒有完全解決。”

盡管皮查伊對(duì)“AI 摘要”功能的實(shí)用性持樂觀態(tài)度，但該功能出現(xiàn)的錯(cuò)誤已經(jīng)在網(wǎng)上引起了軒然大一波，許多用戶紛紛展示了該功能生成各種錯(cuò)誤信息的例子。這進(jìn)一步損害了谷歌搜索引擎的信譽(yù)，谷歌搜索此前就因向用戶提供垃圾結(jié)果而備受詬病。

注意到，人工智能顧問和 SEO 專家布蘭妮?穆勒在社交媒體上寫道：“人們期望人工智能的準(zhǔn)確性遠(yuǎn)遠(yuǎn)超過傳統(tǒng)方法，但事實(shí)并非總是如此！ 谷歌正為了超越競(jìng)爭(zhēng)對(duì)手 Perplexity 和 OpenAI 而在搜索領(lǐng)域進(jìn)行一場(chǎng)冒險(xiǎn)的賭博，但他們本可以將人工智能用于更大、更有價(jià)值的用例上?！?/span>