Bard首次亮相就大翻車，端掉了谷歌1000億美元市值

這是目前AI犯下的最昂貴的錯(cuò)誤

文|  VickyXiao 編輯| VickyXiao

在試圖追上微軟和OpenAI在人工智能方面的先發(fā)優(yōu)勢(shì)時(shí)，谷歌自己搞砸了。

在今天谷歌在巴黎召開的發(fā)布會(huì)上，谷歌再一次展示了Bard——這款為了對(duì)抗ChatGPT推出來的聊天機(jī)器人。按照谷歌的宣傳，Bard不僅要和ChatGPT一樣有問必答，還要更“負(fù)責(zé)任”——暗搓搓地指ChatGPT里摻雜的虛假信息太多，不夠“負(fù)責(zé)”。

這一宣傳明顯提高了人們對(duì)于Bard的期望值。畢竟在最初的驚艷過后，ChatGPT“一本正經(jīng)”的胡說八道，也就是回答里夾雜的不少似是而非的偽信息，已經(jīng)讓很多人對(duì)于使用它提高了警惕，里面邏輯和數(shù)學(xué)上的錯(cuò)誤更加驚人。

讓人沒想到的是，谷歌的Flag立得太早。Bard剛一亮相，就出錯(cuò)了——而且出了個(gè)大糗。

在谷歌短短的幾秒展示里，Bard其實(shí)只被問了一個(gè)問題——“我可以告訴我 9 歲的孩子關(guān)于詹姆斯·韋伯太空望遠(yuǎn)鏡（James Webb Space Telescope ，簡(jiǎn)稱JWST） 的哪些新發(fā)現(xiàn)？” 

Bard的回答很精彩——有豐富的信息，而且很形象的比喻，確實(shí)****地給孩子解釋了JWST的發(fā)現(xiàn)。

然而，里面有一個(gè)巨大的錯(cuò)誤：回答里提到“ JWST 拍攝到了太陽(yáng)系外行星的第一張照片”，也就是下圖灰線部分。

然而，事實(shí)上，第一張系外行星照片是由歐洲南方天文臺(tái)的Very Large Telescope (VLT) 在 2004 年拍攝的。

圖源：谷歌

最先指出這個(gè)錯(cuò)誤的是天體物理學(xué)家 Grant Tremblay。

他在推特上寫道：“我不是要成為一個(gè)討厭鬼，我相信 Bard 會(huì)令人印象深刻，但鄭重聲明：JWST 并沒有拍下‘我們太陽(yáng)系外行星的第一張圖片’?！?/span>

圖源：Twitter

在唯一的一次演示里，就犯了這么大的錯(cuò)誤，谷歌可以說顏面盡失，不得不快速撤下了相關(guān)演示的YouTube視頻。不過不少官方宣傳推文里的演示動(dòng)圖還在。

AI犯錯(cuò)不可怕，正如前文所說的，ChatGPT上同樣充斥著大量似是而非的虛假信息，而且比較來說，對(duì)于同樣一個(gè)問題，ChatGPT的回答并不好，它只能回答出來JWST能做一些什么，而沒有辦法回答它的新發(fā)現(xiàn)，更不用說以一種小孩更能理解的通俗易懂的方式來解釋。

圖源：Twitter

但是在谷歌這么關(guān)鍵的產(chǎn)品的首次公開亮相上，這樣明顯的事實(shí)錯(cuò)誤，卻通過了層層審核，被批準(zhǔn)放上了CEO的案頭、大幅宣傳——這一點(diǎn)，卻明顯讓人感覺到谷歌員工的麻痹大意。

有谷歌員工對(duì)硅星人表示，谷歌這兩年的各種活動(dòng)往往追求市場(chǎng)宣傳效果，放放產(chǎn)品視頻就好，沒有上真產(chǎn)品的，就算上了真產(chǎn)品，也不用好好測(cè)試，不管到時(shí)候展示結(jié)果如何，哪怕實(shí)際產(chǎn)品越來越爛，只要PR做好了就好了?！爱a(chǎn)品和運(yùn)營(yíng)都麻痹了，太缺乏實(shí)戰(zhàn)經(jīng)驗(yàn)了，總有一天要出糗。只是沒料到在跟微軟硬抗的時(shí)候掉鏈子。真是天意?！?/strong>

而在ChatGPT的步步緊逼下，谷歌管理層也失去了方寸。正如硅星人此前所說的，這次Bard的發(fā)布有點(diǎn)趕，在內(nèi)部算不上完全準(zhǔn)備好，所以才以面向有限開發(fā)者的形式推出。這種情況下出現(xiàn)錯(cuò)誤，也就情有可原了。

但這個(gè)錯(cuò)誤的代價(jià)就是，投資人失去了信心。消息一傳出，谷歌股價(jià)大跌9%，一天就丟了1000億美元的市值。

1000億美元，可以說，這是AI到目前為止犯下的最昂貴的一個(gè)錯(cuò)誤。有網(wǎng)友很悲觀地預(yù)計(jì)，“Bard會(huì)不會(huì)又是下一個(gè)Google+、Stadia、Wave等等等等？真是想不到，谷歌甚至沒有辦法對(duì)自己的宣傳材料進(jìn)行事實(shí)核查。”

也有推特網(wǎng)友評(píng)價(jià)說，這也正是如今的AI研究和語(yǔ)言模型共有的問題：它們非常擅長(zhǎng)生成*看起來*準(zhǔn)確的，但其實(shí)并不準(zhǔn)確的信息。概括來說，他們就是很牛的扯淡人。

在后續(xù)推文中，Tremblay 也補(bǔ)充道：“我非常喜歡并感謝地球上最強(qiáng)大的公司之一正在使用 JWST 搜索來宣傳他們的 LLM（大語(yǔ)言模型）。棒棒噠！但是 ChatGPT 等等這些，雖然令人印象深刻，但通常*非常自信*地犯錯(cuò)。 如果未來看到LLM 進(jìn)行自我錯(cuò)誤檢查將會(huì)很有趣?！?/span>

正如 Tremblay 所指出的，ChatGPT 和 Bard 等 AI 聊天機(jī)器人的一個(gè)主要問題是它們傾向于自信地將不正確的信息陳述為事實(shí)。這些系統(tǒng)經(jīng)?！爱a(chǎn)生幻覺”，即編造虛假信息，因?yàn)?/span>他們只是接受大量文本語(yǔ)料庫(kù)的訓(xùn)練，但并不是查詢已經(jīng)過驗(yàn)證的事實(shí)的數(shù)據(jù)庫(kù)來回答問題。這導(dǎo)致一位著名的 AI 教授將它們稱為“扯淡生成器”。

很明顯的一個(gè)例子就是，對(duì)于Bard犯錯(cuò)的這個(gè)問題，其實(shí)Google搜索已經(jīng)給出了正確答案。

如果你在Google上搜索“太陽(yáng)系外行星的第一張圖片”，Google自己就給出了準(zhǔn)確信息——它是在2004年由VLT第一次捕捉成像。

微軟已經(jīng)預(yù)見到了這樣的事情發(fā)生。它昨天演示了集成了ChatGPT的人工智能Bing搜索引擎，就試圖通過把責(zé)任丟給用戶來避開同樣的這些問題。它在免責(zé)聲明里稱，“Bing 由 AI 提供支持，因此可能會(huì)出現(xiàn)意外和錯(cuò)誤。請(qǐng)確保進(jìn)行事實(shí)核查并分享反饋，以便我們學(xué)習(xí)和改進(jìn)！”

在周一官宣Bard發(fā)布的博文里，CEO 皮柴特別強(qiáng)調(diào)，谷歌希望通過這一階段的測(cè)試，來提高 Bard 的質(zhì)量和速度，確保 Bard 的回答達(dá)到高標(biāo)準(zhǔn)。

然而，在這個(gè)望遠(yuǎn)鏡烏龍事件后，谷歌發(fā)言人不得不強(qiáng)行挽回一點(diǎn)顏面。他們告訴媒體稱：

“這凸顯了嚴(yán)格測(cè)試過程的重要性，我們本周將通過 Trusted Tester 計(jì)劃啟動(dòng)這一過程。我們會(huì)將外部反饋與我們自己的內(nèi)部測(cè)試相結(jié)合，以確保 Bard 的回應(yīng)在質(zhì)量、安全性和現(xiàn)實(shí)世界信息的基礎(chǔ)性方面達(dá)到高標(biāo)準(zhǔn)。”