邊緣計算“下一程”：AI規(guī)?；瘧?yīng)用如何攻堅？

數(shù)字化浪潮的洶涌推進，催生了前所未有的數(shù)據(jù)洪流，加速了計算從云到端的發(fā)展。在近日舉辦的英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會上，英特爾市場營銷集團副總裁、中國區(qū)OEM & ODM銷售事業(yè)部總經(jīng)理郭威指出，如今云和端的界限正在變得越來越模糊，兩者朝著彼此融合的方向發(fā)展。這一趨勢的背后，是數(shù)據(jù)量的爆炸性增長，以及對數(shù)據(jù)在不同地點處理的考量，而這也構(gòu)成了推動邊緣計算興起的關(guān)鍵因素。

英特爾市場營銷集團副總裁、中國區(qū)OEM&ODM銷售事業(yè)部總經(jīng)理郭威

越來越多的企業(yè)應(yīng)用開始在邊緣運行。根據(jù)Gartner的預(yù)測1，到2027年，50%的關(guān)鍵企業(yè)應(yīng)用將在邊緣運行。研究機構(gòu)Grand View Research 2 則預(yù)計，全球邊緣計算市場規(guī)模將在2024年至2030年間以高達(dá)36.9%的復(fù)合年增長率（CAGR）持續(xù)擴張。企業(yè)正在邊緣計算上持續(xù)投入，預(yù)計3從2024到2028年，全球邊緣計算支出將以雙位數(shù)的復(fù)合年增長率（CAGR）穩(wěn)健增長。

AI在邊緣也展現(xiàn)出強勁的發(fā)展勢頭。盡管目前，AI應(yīng)用主要集中在云端，但考慮到成本、時效性和安全性等因素，AI向邊緣下沉已成為趨勢。Gartner預(yù)測4，到2026年，50%的全球邊緣部署將包含AI。今年以來，生成式AI在各行業(yè)的應(yīng)用不斷落地，企業(yè)積極利用大模型技術(shù)解決商業(yè)挑戰(zhàn)，并推動了一系列創(chuàng)新成果，大模型商用正進入規(guī)?；l(fā)展的關(guān)鍵階段。

邊緣AI“痛點”大起底：成本、技術(shù)與規(guī)?；魬?zhàn)

盡管邊緣AI在數(shù)據(jù)處理和實時響應(yīng)方面展現(xiàn)出顯著優(yōu)勢，但在其部署過程中仍面臨一系列挑戰(zhàn)。

首先，將資源從云端轉(zhuǎn)移到邊緣通常需要額外的成本投入，包括硬件采購、部署、維護以及能源消耗等。企業(yè)需要在價值、質(zhì)量和成本之間做出權(quán)衡，算一筆“經(jīng)濟賬”。

其次，技術(shù)層面的復(fù)雜性是阻礙AI應(yīng)用的一大難題?！澳Ｐ突糜X”問題是其中之一，即在邊緣環(huán)境下，AI模型可能會因數(shù)據(jù)質(zhì)量、模型訓(xùn)練不足或硬件限制等原因產(chǎn)生不準(zhǔn)確的輸出。

此外，邊緣應(yīng)用場景的多樣性與碎片化也為邊緣AI部署帶來了挑戰(zhàn)。場景、設(shè)備及工作負(fù)載的多樣性，意味著每個場景都有其獨特的需求和限制。如何設(shè)計出既靈活又可擴展的標(biāo)準(zhǔn)化方案，以適應(yīng)不同場景的需求，成為實現(xiàn)邊緣AI規(guī)模化應(yīng)用的關(guān)鍵。

三大策略突破瓶頸，助力邊緣AI規(guī)?；l(fā)展

策略一：多樣化硬件產(chǎn)品，破解邊緣場景碎片化難題。

在邊緣計算場景中，面對不同的應(yīng)用負(fù)載和場景需求，通用處理器和通用算力芯片是滿足這些多樣化場景的最佳方案，這也是英特爾的優(yōu)勢所在。

為實現(xiàn)這一目標(biāo)，英特爾不斷在CPU中集成更多先進功能，通過CPU、GPU和NPU的協(xié)同工作，滿足各種場景下的復(fù)雜需求。

英特爾專為邊緣設(shè)計的多樣硬件產(chǎn)品組合，如英特爾^? 酷睿? 處理器，為日常的工作負(fù)載提供了卓越的性能；英特爾? 酷睿? Ultra處理器則集成了NPU（神經(jīng)網(wǎng)絡(luò)處理單元），為多種應(yīng)用場景提供了更強大的算力支持。此外，英特爾凌動? 處理器、英特爾銳炫? GPU For the Edge、英特爾^? 至強^? 6 處理器，以及專為加速深度學(xué)習(xí)訓(xùn)練和推理而設(shè)計的英特爾? Gaudi 處理器等，為客戶提供了豐富的選擇，使客戶以較低成本滿足多樣化負(fù)載和碎片化應(yīng)用成為可能。

策略二：開源開放平臺，加速易用、可負(fù)擔(dān)的AI部署。

在軟件工具層面，英特爾提供了一系列工具集，如OpenVINO?和oneAPI?，這些工具集為開發(fā)者在英特爾平臺上優(yōu)化和部署AI應(yīng)用提供了強有力的支持。

在AI模型和框架方面，英特爾提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架，確保開發(fā)者能夠利用最前沿的工具來構(gòu)建和訓(xùn)練AI模型。

企業(yè)AI開放平臺（OPEA）是英特爾攜手行業(yè)領(lǐng)軍企業(yè)共同打造的開放性AI開發(fā)與部署平臺。該平臺幫助行業(yè)客戶更便捷地基于英特爾的產(chǎn)品，構(gòu)建完整的企業(yè)級AI應(yīng)用。

策略三：以場景驅(qū)動創(chuàng)新，攜手生態(tài)破局未來市場。

英特爾攜手合作伙伴，深入挖掘行業(yè)場景的需求與痛點，在特定場景中探索創(chuàng)新路徑，共同預(yù)見并應(yīng)對未來可能出現(xiàn)的新挑戰(zhàn)。

針對多元化的應(yīng)用場景，英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案，如英特爾? 工業(yè)邊緣控制、基于英特爾? 架構(gòu)的 AI POS 方案等，滿足零售、工業(yè)、教育、醫(yī)療、能源和交通等不同領(lǐng)域的特定需求。

多元化的生態(tài)是英特爾持續(xù)深耕行業(yè)、推動創(chuàng)新的基石。英特爾也將持續(xù)構(gòu)建和拓展合作伙伴生態(tài)系統(tǒng)，與服務(wù)提供商、設(shè)備制造商等生態(tài)伙伴緊密合作，共促技術(shù)聯(lián)創(chuàng)、共享開發(fā)權(quán)益、共拓市場項目，加速人工智能的開發(fā)和落地部署。

2024年是大模型應(yīng)用的落地之年，AI應(yīng)用仍在創(chuàng)新的浪潮下持續(xù)拓展邊界。在云、邊、端融合的趨勢下，英特爾憑借CPU、GPU與NPU的強強聯(lián)合筑牢算力底座，以開放平臺和生態(tài)推動技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展，讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術(shù)，從而引領(lǐng)生成式AI及大模型應(yīng)用走向規(guī)?；l(fā)展的新階段，推動業(yè)界邁向更加智能、高效與可持續(xù)的未來。