輕薄本也能輕松搞定AIGC!英特爾讓AI能力服務(wù)更多用戶
【大澤科技SHOW】ChatGPT、Midjourney、NewBing、Stable Diffusion……無論你是否使用過他們,你一定曾經(jīng)在微博、在朋友圈、在各種媒體平臺上被他們刷過屏,也一定在不經(jīng)意間閱讀過、分享過由這些工具創(chuàng)建的文本、圖像甚至視頻內(nèi)容。開年以來,這些生成式 AI 成了科技界最炙手可熱的話題。
本文引用地址:http://butianyuan.cn/article/202308/450082.htm很多人不知道的是,作為 PC 行業(yè)的領(lǐng)導(dǎo)者,英特爾早在 2018 年就提出了要在 PC 中引入 AI 技術(shù),并且在同年推出了“AI on PC Developer Program” PC 人工智能開發(fā)者計劃。時至今日,大模型和生成式 AI 已經(jīng)基本奠定了 PC 上的 AI 基本形態(tài),英特爾也沿著這個方向做了許多事情。
8 月 18 日,英特爾在深圳大灣區(qū)向我們展示了其在 AIGC(人工智能生成式計算)領(lǐng)域的最新進(jìn)展,今天借著這一次活動,我們一起來聊聊 PC 上的 AI。
圖片文字都能在本地生成,AI在PC上的實戰(zhàn)
在正式開始之前,我們先來看看 PC 上的 AI 都能夠做什么事情,以下的實戰(zhàn)演示都是基于英特爾技術(shù)在 PC 上直接運行實現(xiàn)。
我們首先使用英特爾的 AI 應(yīng)用 Demo “英特爾大語言模型”應(yīng)用進(jìn)行多組對話,讓它幫助我們處理一些工作以及生活中的任務(wù)。
向“英特爾大語言模型”提問本篇文章的核心問題“AI 在 PC 上有哪些應(yīng)用”,AI 沒有局限在某一個應(yīng)用中,而是結(jié)合了不同的需求、不同的應(yīng)用、不同的服務(wù)、不同的工具以及不同的場景給出了這 8 個答案,內(nèi)容的可用性相當(dāng)高。同時,它的生成速度也很可觀,與普通人的閱讀速度相當(dāng),基本上無需等待。
接下來我們使用 AI 繼續(xù)以這個話題為核心生成內(nèi)容大綱,AI 將內(nèi)容拆解成了四個部分,內(nèi)容邏輯由淺到深,涵蓋了應(yīng)用場景、工具發(fā)展到進(jìn)一步的應(yīng)用對比內(nèi)容。雖然這個提綱無法直接使用,但能夠很好地啟發(fā)作者靈感。
英特爾大語言模型翻譯結(jié)果
DeepL 翻譯結(jié)果
將同一段話丟給英特爾大語言模型和使用了 AI 技術(shù)的 DeepL ,從翻譯結(jié)果來看,差距還是很明顯的。不過這種差距主要來自于其應(yīng)用的大語言模型,如果模型有針對中英互譯進(jìn)行專門優(yōu)化的部分,本地 AI 也會帶來很好的翻譯結(jié)果。
英特爾大語言模型應(yīng)用還提供了代碼生成功能,只需要告訴 AI 你想要的功能,AI 就會生成一段代碼來供你復(fù)制使用。對于程序員朋友來說,可以把一些基礎(chǔ)的重復(fù)功能交給 AI 生成,提升編程效率。
除了文字內(nèi)容生成外,英特爾還能夠支持 Stable Diffusion 的運行,輸入關(guān)鍵詞、點擊生成后,只需要 17 秒,一張通過文字描述生成的圖片就出現(xiàn)了。
可能你會覺得上面的應(yīng)用并沒有什么與眾不同,但如果我告訴你,這些內(nèi)容無需借助高性能顯卡和網(wǎng)絡(luò)環(huán)境,只需要一臺搭載了英特爾處理器的輕薄本就可以實現(xiàn),你一定會感到驚訝。
大幅降低準(zhǔn)入門檻,Intel賦能AIGC
在傳統(tǒng)的認(rèn)知里,部署 AI 應(yīng)用往往需要高性能的獨立顯卡甚至是專用的 AI 算力卡,無論是 ChatGPT 這樣的文字對話式應(yīng)用,還是 Midjourney 這樣的文生圖應(yīng)用,在過去都需要具備超高并行算力的 GPU 支持才可以實現(xiàn)。
但這種情況今天已經(jīng)被英特爾改變,為了讓英特爾平臺順利運行大語言模型,英特爾構(gòu)建了BigDL-LLM庫,通過 BigDL-LLM庫可以對各種各樣的大語言模型進(jìn)行優(yōu)化和支持,能夠在一臺搭載 16GB 內(nèi)存的英特爾輕薄本上運行參數(shù)量高達(dá) 160 億的大語言模型,支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等等,這極大地降低了 AIGC 的使用門檻。
文生圖方面,英特爾在 Stable Diffusion WebUI 上面啟用了 OpenVINO 加速,開發(fā)了一套對開發(fā)者來說友好易用的 AI 框架,通過 Pytorch API 讓社區(qū)開源模型能夠很好地運行在英特爾的客戶端處理器、集成顯卡、獨立顯卡和專用AI引擎上,現(xiàn)在我們已經(jīng)可以在集成顯卡以及英特爾 Arc 獨立顯卡上運行 Stable Diffusion Automatic1111 等社區(qū)開源模型了。
很多人認(rèn)為輕薄本無法勝任 AI 方面的工作,但在英特爾的努力下,通過模型優(yōu)化,降低了模型對硬件資源的需求,進(jìn)而提升了模型的推理速度,無論是 LLM 大語言模型,還是 Stable Diffusion AI 繪圖,都能夠以比較高的效率運行在普通的筆記本上,本文第一部分的所有應(yīng)用實例,都是在一臺搭載了 i7-13700H 處理器、32GB 內(nèi)存、Iris Xe 核芯顯卡的輕薄筆記本上完成的。
本地化的 AI 應(yīng)用在便利性、安全性、隱私性以及應(yīng)用范圍方面有著無可替代的優(yōu)勢。
本地部署意味著無需聯(lián)網(wǎng),沒有安全隱患,沒有隱私泄露風(fēng)險,在不方便使用網(wǎng)絡(luò)的場景下,也可以讓 AI 輔助我們的工作和生活,這是現(xiàn)在主流的 AI 們無法企及的。
另外無論是英特爾大語言模型應(yīng)用還是Stable Diffusion AI 繪圖應(yīng)用,它們都有著很多未被發(fā)掘的潛力。借助海量的、豐富多樣的大語言模型、繪圖模型以及更細(xì)化的 Prompt 指令,我們能夠讓普通的筆記本使用 AI 實現(xiàn)更多的可能。
英特爾通過強(qiáng)大的 CPU 算力以及針對 AI 的軟件優(yōu)化兩個層面,大幅降低了 AI 應(yīng)用對 PC 硬件的要求,讓更多的普通消費者,通過搭載了英特爾處理器的筆記本體驗到最前沿的 AIGC 技術(shù)。
多角度利用AI能力,英特爾為AIGC帶來更多想象
所謂的 AI 賦能其實并不是單獨某一個方面的應(yīng)用,想要更好地利用 AI,勢必要深度結(jié)合使用場景,在前臺交互、后臺數(shù)據(jù)、行為預(yù)判、思維邏輯等多個層面運用不同的 AI 能力,將多種多樣的 AI 能力有機(jī)整合就可以帶來更具實用價值的 AI 應(yīng)用。
英特爾在大灣區(qū)的技術(shù)分享活動中,還展示了基于 Arc 顯卡 AI 技術(shù)的“人物動作三維數(shù)字重建”應(yīng)用,英特爾的檢測算法可以實時探測人體的 27 個關(guān)鍵骨骼點信息,并且實時進(jìn)行 3D 重建,同時生成一個數(shù)字人的形象,在下面的“渲染播放器”里進(jìn)行動畫渲染。渲染幀率高達(dá) 70FPS,畫面非常穩(wěn)定,它還可以隨時改變渲染器的畫風(fēng),進(jìn)而快速打造各種元宇宙應(yīng)用。
這個技術(shù)基于 Arc 強(qiáng)大算力以及 OpenVINO 框架對包括 CNN 網(wǎng)絡(luò)檢測、Transformer、3D 重建、神經(jīng)網(wǎng)絡(luò)、深度網(wǎng)絡(luò)等 AI算法的優(yōu)化推理,不需要任何智能穿戴設(shè)備,隨便外接一個家用攝像頭,就可以實現(xiàn)任務(wù)動作的實時探測以及后期重建、渲染。
這也就意味著任何人都可以在家構(gòu)建出專屬于自己的數(shù)字人形象,創(chuàng)作出個性化的元宇宙世界。
這個技術(shù)也可以與生成式 AI 相輔相成,為用戶構(gòu)建虛擬形象提供文字、圖像以及視頻內(nèi)容提供更充足的物料,在工作、游戲等場景下帶來更生動的內(nèi)容展示。
很顯然,英特爾對 AI 的投入并沒有局限在流行的生成式 AI 中,除了這一次的演示外,英特爾很早以前就在 Evo 筆記本上應(yīng)用了 AI 降噪、AI 背景虛化、AI 感光矯正等功能,所有的這些都是基于客戶端計算能力帶來的 AI 實際應(yīng)用。
為了進(jìn)一步增強(qiáng) PC 的 AI 能力,英特爾即將發(fā)布代號為 Meteor Lake 的酷睿 Ultra 系列處理器,它通過分離式模塊架構(gòu),集成名為“VPU”的獨立 AI 加速單元,為 PC 用戶提供 AI 驅(qū)動的新功能、新應(yīng)用,比如 Adobe Premiere Pro 中的自動重新構(gòu)圖、場景編輯檢測等等,還有更高效的機(jī)器學(xué)習(xí)加速。
這會成為 PC 歷史上的重要里程碑,AI 能力也將會成為新一代 PC 的標(biāo)配。
英特爾中國區(qū)技術(shù)部總經(jīng)理 高宇
AI 已經(jīng)成為“第四次工業(yè)革命”中不可忽視的中堅力量,英特爾通過硬件、軟件等方面的能力,幫助廣大用戶在端側(cè)實現(xiàn)了曾經(jīng)不敢想象的 AI 能力,為 PC 產(chǎn)品在 AI 時代的發(fā)展構(gòu)建了堅實穩(wěn)定的基石,也為 PC 帶來了更富有生命力的應(yīng)用場景和使用價值,我們相信 AI 時代的 PC 將會有著更加蓬勃的發(fā)展動力,也期待著英特爾為我們帶來更多基于 AI 的應(yīng)用解決方案。
評論