以第12代、第13代英特爾? 酷睿?處理器和英特爾銳炫?A系列顯卡為代表的英特爾多款客戶端芯片均能提供強(qiáng)勁性能,以滿足生成式AIAIGC)對(duì)于高算力的需求,在此基礎(chǔ)上,英特爾還通過(guò)軟件生態(tài)的構(gòu)建和模型優(yōu)化,進(jìn)一步推動(dòng)新興的生成式AI場(chǎng)景在個(gè)人電腦的落地,廣泛覆蓋輕薄本、全能本、游戲本等。目前,英特爾正與PC產(chǎn)業(yè)眾多合作伙伴通力合作,致力于讓廣大用戶在日常生活和工作中,通過(guò)AI的輔助來(lái)提高效率,進(jìn)而帶來(lái)給革新性的PC體驗(yàn)。

本文引用地址:http://butianyuan.cn/article/202308/449914.htm

 

英特爾積極擁抱AI社區(qū),基于OpenVINO PyTorch后端的方案,通過(guò)Pytorch API讓社區(qū)開(kāi)源模型能夠很好地運(yùn)行在英特爾的客戶端處理器、集成顯卡、獨(dú)立顯卡和專用AI引擎上。以圖形視覺(jué)領(lǐng)域?yàn)槔?/span> Stable Diffusion的實(shí)現(xiàn)Automatic1111 WebUI,已經(jīng)能通過(guò)上述方式,在英特爾客戶端平臺(tái)的CPUGPU(包括集成顯卡和獨(dú)立顯卡)上運(yùn)行FP16精度的模型,用戶可以在文字生成圖片、圖片生成圖片以及局部修復(fù)等功能上獲得良好的使用體驗(yàn)。

 

不僅如此,英特爾通過(guò)模型優(yōu)化,降低了模型對(duì)硬件資源的需求,進(jìn)而提升了模型的推理速度,讓社區(qū)開(kāi)源模型能夠很好地運(yùn)行在個(gè)人電腦上。以大語(yǔ)言模型為例,英特爾通過(guò)第13代英特爾酷睿處理器XPU的加速、low-bit量化以及其它軟件層面的優(yōu)化,讓最高達(dá)160億參數(shù)的大語(yǔ)言模型,通過(guò)BigDL-LLM框架運(yùn)行在16GB及以上內(nèi)存容量的個(gè)人電腦上。這也彰顯了英特爾能夠適應(yīng)當(dāng)下快速發(fā)展的大語(yǔ)言模型生態(tài),快速對(duì)接新興模型,并兼容目前HuggingFace上的Transformers模型。已經(jīng)驗(yàn)證過(guò)的模型包括但不限于:LLAMA/LLAMA2ChatGLM/ChatGLM2、MPT、FalconMOSS、Baichuan、QWen、Dolly、RedPajamaStarCoder、Whisper等。此外,英特爾還提供了易用的API接口(Transformers、LangChain),并支持WindowsLinux的操作系統(tǒng)。

 

英特爾的下一代處理器Meteor Lake具備獨(dú)特的分離式模塊架構(gòu)的優(yōu)勢(shì),為PC用戶提供了以AI驅(qū)動(dòng)的新功能,包括像Adobe Premiere Pro中的自動(dòng)重新構(gòu)圖和場(chǎng)景編輯檢測(cè)等多媒體功能,并實(shí)現(xiàn)更有效的機(jī)器學(xué)習(xí)加速。英特爾與PC產(chǎn)業(yè)合作伙伴此刻正站在旅程的起點(diǎn),向著規(guī)?;瘧?yīng)用AI加速轉(zhuǎn)型的方向前行。隨著英特爾后續(xù)幾代產(chǎn)品進(jìn)一步擴(kuò)展,規(guī)模和數(shù)量的大幅增長(zhǎng)將讓數(shù)億人輕松享受AI加速體驗(yàn),并實(shí)現(xiàn)更優(yōu)的智能協(xié)作、更快的處理速度和更強(qiáng)的功能特性實(shí)現(xiàn)前所未有的體驗(yàn)變革。

 

配置信息及法律聲明:

?英特爾公司版權(quán)所有。英特爾、英特爾標(biāo)識(shí)以及其他英特爾商標(biāo)是英特爾公司或其子公司在美國(guó)和/或其他國(guó)家的商標(biāo)。

1. Stable DiffusionStability AI公司軟件,英特爾并不控制或?qū)徲?jì)第三方軟件信息。

2. LLAMA/LLAMA2、ChatGLM/ChatGLM2MPT、Falcon、MOSS、Baichuan、QWenDolly、RedPajama、StarCoderWhisperAI模型,英特爾并不控制或?qū)徲?jì)第三方信息。