蘋(píng)果如何保護(hù)AI隱私：將云數(shù)據(jù)封入"黑箱"中

5月30日消息，據(jù)內(nèi)部知情人士透露，蘋(píng)果正在其服務(wù)器內(nèi)部設(shè)立的虛擬“黑箱”中處理來(lái)自人工智能應(yīng)用的數(shù)據(jù)，確保即使公司內(nèi)部員工也無(wú)法訪問(wèn)。此策略通過(guò)云計(jì)算分擔(dān)iPhone執(zhí)行人工智能任務(wù)時(shí)的負(fù)載，同時(shí)確保用戶(hù)數(shù)據(jù)的安全與隱私得到持續(xù)保護(hù)。據(jù)悉，這一技術(shù)依賴(lài)于蘋(píng)果自主設(shè)計(jì)的高安全性芯片以及“安全飛地”，即便在數(shù)據(jù)泄露的情況下，也能有效阻止黑客訪問(wèn)。

以下為英文翻譯全文：

當(dāng)蘋(píng)果高管在六月中旬的年度開(kāi)發(fā)者大會(huì)上亮相時(shí)，他們預(yù)計(jì)將公布如何在虛擬助手Siri及其他產(chǎn)品中融入人工智能的詳細(xì)信息。一個(gè)重大的挑戰(zhàn)是如何在實(shí)現(xiàn)這一目標(biāo)的同時(shí)，蘋(píng)果繼續(xù)履行其保護(hù)用戶(hù)個(gè)人數(shù)據(jù)的承諾。

根據(jù)四位曾參與該項(xiàng)目的前員工透露，蘋(píng)果計(jì)劃在一個(gè)虛擬“黑箱”中處理來(lái)自人工智能應(yīng)用的數(shù)據(jù)，確保即便是公司員工也無(wú)法訪問(wèn)這些數(shù)據(jù)。在過(guò)去三年中，蘋(píng)果一直在秘密推進(jìn)一個(gè)內(nèi)部稱(chēng)為“蘋(píng)果數(shù)據(jù)中心芯片”（ACDC，Apple Chips in Data Centers）的項(xiàng)目，支持這種隔離的數(shù)據(jù)處理方式。這種做法類(lèi)似于業(yè)界的“機(jī)密計(jì)算（confidential computing）”，即在數(shù)據(jù)處理過(guò)程中保持其私密性。

科技公司通常會(huì)加密存儲(chǔ)或傳輸?shù)臄?shù)據(jù)，但保持?jǐn)?shù)據(jù)在內(nèi)存處理時(shí)的機(jī)密性，則更為罕見(jiàn)且具挑戰(zhàn)性。

據(jù)知情人士透露，蘋(píng)果的機(jī)密計(jì)算技術(shù)使用了最初為Mac設(shè)計(jì)的高端定制芯片，這些芯片在安全性方面優(yōu)于英特爾和AMD的產(chǎn)品。通過(guò)使用自家芯片，蘋(píng)果控制了服務(wù)器的硬件和軟件，從而能夠設(shè)計(jì)出比競(jìng)爭(zhēng)對(duì)手更為安全的系統(tǒng)。因此，蘋(píng)果可以宣稱(chēng)，其服務(wù)器上的數(shù)據(jù)處理就像在iPhone上一樣私密。

如果這種方法行得通，蘋(píng)果就能在不威脅其長(zhǎng)期承諾——保護(hù)用戶(hù)數(shù)據(jù)隱私的前提下，將人工智能整合到其產(chǎn)品中。這種隱私立場(chǎng)使得蘋(píng)果在與谷歌和OpenAI等公司競(jìng)爭(zhēng)時(shí)處于劣勢(shì)，因?yàn)檫@些公司的聊天機(jī)器人和其他生成式人工智能產(chǎn)品是在不受智能手機(jī)處理能力、內(nèi)存和電池續(xù)航限制的云服務(wù)器上運(yùn)行的。

然而，在云端處理個(gè)人數(shù)據(jù)會(huì)增加被黑客竊取的風(fēng)險(xiǎn)，這也是蘋(píng)果更傾向于將數(shù)據(jù)保留在設(shè)備上而非云端的原因。采用機(jī)密計(jì)算技術(shù)后，蘋(píng)果將能在云端安全處理人工智能數(shù)據(jù)，即使在數(shù)據(jù)泄露的情況下，也能有效阻止黑客訪問(wèn)。這還能減輕蘋(píng)果在應(yīng)政府或執(zhí)法部門(mén)請(qǐng)求時(shí)提供個(gè)人數(shù)據(jù)的負(fù)擔(dān)。

蘋(píng)果還沒(méi)有回復(fù)相關(guān)置評(píng)請(qǐng)求。

人工智能閘門(mén)

這一策略可能為iPhone推出更多、更新的人工智能功能，這些功能將由云端的大語(yǔ)言模型所驅(qū)動(dòng)。據(jù)兩位曾參與該項(xiàng)目的前員工透露，蘋(píng)果抱有更遠(yuǎn)大的抱負(fù)，希望將未來(lái)蘋(píng)果可穿戴設(shè)備的處理能力轉(zhuǎn)移到服務(wù)器，這將使蘋(píng)果能夠設(shè)計(jì)出更輕便的頭戴設(shè)備和眼鏡，而不需要為功率大的處理器配備重型電池和冷卻風(fēng)扇。

雖然《華爾街日?qǐng)?bào)》和彭博社上個(gè)月首次報(bào)道了ACDC計(jì)劃的一些細(xì)節(jié)，但該項(xiàng)目對(duì)機(jī)密計(jì)算技術(shù)的深度依賴(lài)尚屬首次披露。

該項(xiàng)目的關(guān)鍵在于蘋(píng)果開(kāi)發(fā)的硬件技術(shù)“安全飛地”（Secure Enclave），這一技術(shù)自2013年首次發(fā)布，用于存儲(chǔ)iPhone 5s指紋傳感器捕獲的生物識(shí)別數(shù)據(jù)。所謂“安全飛地”是芯片上與主處理器物理隔離的區(qū)域，相當(dāng)于一個(gè)存放密碼和加密密鑰等敏感數(shù)據(jù)的保險(xiǎn)箱。即使黑客攻破了iPhone的軟件和中央處理器，也無(wú)法訪問(wèn)“安全飛地”中的數(shù)據(jù)。

據(jù)知情人士透露，蘋(píng)果計(jì)劃利用“安全飛地”幫助隔離服務(wù)器上處理的數(shù)據(jù)，使其不被系統(tǒng)或蘋(píng)果本身看到。

前蘋(píng)果員工表示，“安全飛地”在技術(shù)上優(yōu)于英特爾和AMD使用的其他機(jī)密計(jì)算方法，后者主要基于軟件而非硬件。盡管微軟、亞馬遜和谷歌等提供商已為云客戶(hù)提供了機(jī)密計(jì)算選項(xiàng)多年，但由于它們依賴(lài)于英特爾和AMD的芯片，這些芯片的安全性不如“安全飛地”。

然而，人工智能的普及促使芯片制造商推出自己的機(jī)密計(jì)算方案。英偉達(dá)和AMD最近都發(fā)布了新產(chǎn)品，但其硬件和軟件解決方案是否能與蘋(píng)果的相媲美，還有待市場(chǎng)驗(yàn)證。

并非絕對(duì)安全

盡管蘋(píng)果的處理方法在技術(shù)上領(lǐng)先，但仍存在不是絕對(duì)安全的風(fēng)險(xiǎn)。前蘋(píng)果安全設(shè)計(jì)工程師喬恩·卡拉斯（Jon Callas）表示，雖然蘋(píng)果的云端數(shù)據(jù)處理方式提高了安全性，但服務(wù)器還是可能受到物理篡改的威脅。不過(guò)，這些風(fēng)險(xiǎn)在iPhone處理數(shù)據(jù)時(shí)同樣存在?？ɡ共⑽磪⑴cACDC項(xiàng)目，他表示：“用戶(hù)可以相當(dāng)確信蘋(píng)果不會(huì)窺視他們的計(jì)算活動(dòng)，蘋(píng)果也可以有力地向執(zhí)法部門(mén)聲明他們無(wú)法訪問(wèn)這些數(shù)據(jù)?！?/p>

此外，蘋(píng)果如何調(diào)整其軟硬件配置以在云服務(wù)器上支持單個(gè)芯片服務(wù)于多用戶(hù)，同時(shí)保持其安全保證，仍是未知數(shù)。同樣，蘋(píng)果將如何迅速擴(kuò)大其自家服務(wù)器硬件支持的服務(wù)，覆蓋全球超過(guò)22億部蘋(píng)果設(shè)備，也是一個(gè)挑戰(zhàn)。蘋(píng)果云端的人工智能功能可能最初會(huì)受到限制，或者只向最新型號(hào)的iPhone用戶(hù)開(kāi)放。

目前還不清楚蘋(píng)果將在云端與設(shè)備上提供哪些類(lèi)型的服務(wù)。據(jù)報(bào)道，蘋(píng)果的一些人工智能功能，如智能網(wǎng)頁(yè)、新聞文章和文件摘要，可能需要在云端運(yùn)行，因?yàn)槠淙斯ぶ悄苣Ｐ偷臐撛谝?guī)模較大。前蘋(píng)果工程師透露，蘋(píng)果的定制芯片可能將一些機(jī)器學(xué)習(xí)任務(wù)從iPhone轉(zhuǎn)移至服務(wù)器，如照片標(biāo)記和文件索引，以提高速度和電池續(xù)航時(shí)間。最先進(jìn)的多模態(tài)人工智能需要的計(jì)算能力遠(yuǎn)超當(dāng)前設(shè)備的上限。不過(guò)，隨著這些能力的增強(qiáng)，用于照片和視頻的生成式人工智能功能在iPhone上將變得更加可行。

半導(dǎo)體研究公司SemiAnalysis的首席分析師迪倫·帕特爾（Dylan Patel）表示： “雖然蘋(píng)果可以在iPhone上運(yùn)行小型人工智能模型，但這會(huì)顯著影響電池續(xù)航。因此，蘋(píng)果更傾向于將這些任務(wù)以及中型人工智能模型的運(yùn)算轉(zhuǎn)移到其數(shù)據(jù)中心，減少客戶(hù)對(duì)OpenAI或谷歌等服務(wù)的依賴(lài)?！?/p>

盡管蘋(píng)果對(duì)其服務(wù)器的安全和隱私做出了保證，但它可能仍面臨市場(chǎng)營(yíng)銷(xiāo)方面的挑戰(zhàn)。2021年，蘋(píng)果宣布計(jì)劃掃描用戶(hù)照片中的兒童色情內(nèi)容。蘋(píng)果發(fā)明了一種全新方法，可以完全在設(shè)備上執(zhí)行此操作，僅能查看照片的數(shù)值表示，而非實(shí)際像素。盡管如此，安全研究人員和消費(fèi)者仍強(qiáng)烈反對(duì)該計(jì)劃，最終迫使蘋(píng)果取消了該功能的推出。