模型文章進(jìn)入模型技術(shù)社區(qū)

跨多個(gè)數(shù)據(jù)中心和 GPU 架構(gòu)訓(xùn)練生成式 AI 模型

一位行業(yè)分析師最近透露，中國(guó)已經(jīng)開發(fā)了跨多個(gè)數(shù)據(jù)中心的單一生成式 AI （GAI）模型，考慮到在單個(gè)數(shù)據(jù)中心使用不同 GPU 的復(fù)雜性，更不用說在多個(gè)地理位置使用服務(wù)器了，這是一項(xiàng)巨大的壯舉。Moor Insights & Strategy的首席分析師Patrick Moorhead在X（前Twitter）上表示，中國(guó)是第一個(gè)實(shí)現(xiàn)這一成就的國(guó)家，他是在一次可能無關(guān)的NDA會(huì)議的對(duì)話中發(fā)現(xiàn)的。這種在不同地點(diǎn)/架構(gòu)中訓(xùn)練 GAI 的技術(shù)對(duì)于中國(guó)保持其 AI 夢(mèng)想向前發(fā)展至關(guān)重要，尤其是在美國(guó)制裁阻止
關(guān)鍵字：數(shù)據(jù)中心 GPU 生成式AI 模型

Transformer、RNN和SSM的相似性探究：揭示看似不相關(guān)的LLM架構(gòu)之間的聯(lián)系

通過探索看似不相關(guān)的大語言模型(LLM)架構(gòu)之間的潛在聯(lián)系，我們可能為促進(jìn)不同模型間的思想交流和提高整體效率開辟新的途徑。盡管Mamba等線性循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和狀態(tài)空間模型(SSM)近來備受關(guān)注，Transformer架構(gòu)仍然是LLM的主要支柱。這種格局可能即將發(fā)生變化：像Jamba、Samba和Griffin這樣的混合架構(gòu)展現(xiàn)出了巨大的潛力。這些模型在時(shí)間和內(nèi)存效率方面明顯優(yōu)于Transformer，同時(shí)在能力上與基于注意力的LLM相比并未顯著下降。近期研究揭示了不同架構(gòu)選擇之間的深層聯(lián)系，包括T
關(guān)鍵字： Transformer RNN SSM 模型

Meta發(fā)布“前沿級(jí)”開源AI模型扎克伯格：不怕競(jìng)爭(zhēng)者使用

7月24日消息，美國(guó)當(dāng)?shù)貢r(shí)間周二，F(xiàn)acebook母公司Meta推出了一款功能強(qiáng)大的新型人工智能模型，該模型被Meta首席執(zhí)行官馬克·扎克伯格（Mark Zuckerberg）譽(yù)為“前沿級(jí)”，旨在與OpenAI及谷歌等業(yè)界領(lǐng)先者的類似產(chǎn)品展開競(jìng)爭(zhēng)。這款名為L(zhǎng)lama 3.1的新人工智能模型，Meta歷經(jīng)數(shù)月精心訓(xùn)練，并斥資數(shù)億美元提升計(jì)算能力。該公司表示，這是對(duì)今年早些時(shí)候發(fā)布的Llama 3的重大升級(jí)。扎克伯格在采訪中強(qiáng)調(diào)：“在人工智能助手領(lǐng)域，智能程度是產(chǎn)品競(jìng)爭(zhēng)力的核心。我們正在構(gòu)建的Llam
關(guān)鍵字： Meta 開源 AI 模型扎克伯格

恩智浦與NVIDIA合作：將TAO工具套件與eIQ開發(fā)環(huán)境無縫集成，加速人工智能部署！

恩智浦半導(dǎo)體宣布與NVIDIA合作，將NVIDIA經(jīng)過訓(xùn)練的人工智能模型通過eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境部署到恩智浦廣泛的邊緣處理產(chǎn)品組合中。NVIDIA TAO工具套件功能與恩智浦eIQ機(jī)器學(xué)習(xí)開發(fā)環(huán)境的集成令業(yè)內(nèi)振奮，開發(fā)人員能夠在競(jìng)爭(zhēng)日益激烈的人工智能領(lǐng)域中實(shí)現(xiàn)加速開發(fā)。恩智浦是首家將NVIDIA TAO API直接集成到其人工智能產(chǎn)品中的半導(dǎo)體供應(yīng)商，以幫助開發(fā)人員更輕松地在邊緣部署經(jīng)過訓(xùn)練的人工智能模型。簡(jiǎn)化人工智能模型的訓(xùn)練和部署是當(dāng)今人工智能領(lǐng)域開發(fā)人員面臨的重大挑戰(zhàn)之一。為了應(yīng)對(duì)這一挑戰(zhàn)，恩智浦
關(guān)鍵字：機(jī)器學(xué)習(xí) 開發(fā)環(huán)境模型部署

2024研華邊緣AI產(chǎn)業(yè)應(yīng)用論壇引爆深滬

隨著新一輪AI浪潮的深入發(fā)展及不斷延伸，一場(chǎng)由數(shù)智化技術(shù)引領(lǐng)的工業(yè)革命呼之欲出。同時(shí)，AI應(yīng)用正在從傳統(tǒng)的云計(jì)算平臺(tái)向邊緣計(jì)算領(lǐng)域擴(kuò)展，形成了新的分支和進(jìn)化方向，即邊緣AI。邊緣AI不僅降低了系統(tǒng)的處理負(fù)載，還解決了數(shù)據(jù)傳輸?shù)难舆t問題，已在視覺檢測(cè)、產(chǎn)線監(jiān)測(cè)、工廠機(jī)器人、無人車、軌道交通等領(lǐng)域被廣泛應(yīng)用。2024年5月，研華在深圳（5/7）、上海（5/10）、武漢（5/14）、北京（5/17）四大城市舉辦“激發(fā)AI的力量”研華邊緣AI產(chǎn)業(yè)應(yīng)用論壇，攜手合作伙伴中電港、英偉達(dá)、創(chuàng)新奇智、森云智能分享多模態(tài)大
關(guān)鍵字：研華邊緣AI 模型

TFLite模型的開盲盒體驗(yàn)

TFLite模型的開盲盒體驗(yàn)之flatbuffer格式介紹相信在嵌入式平臺(tái)上部署過神經(jīng)網(wǎng)絡(luò)模型的伙伴，都不會(huì)對(duì)TFLite格式陌生。TFLite是谷歌推出的一個(gè)輕量級(jí)推理庫，它的主要目標(biāo)是在移動(dòng)端和嵌入式設(shè)備上部署深度學(xué)習(xí)模型。為了在這些設(shè)備上運(yùn)行，需要將訓(xùn)練好的TensorFlow模型轉(zhuǎn)換成一種特殊的格式，這就是TensorFlow Lite模型。轉(zhuǎn)換過程包括模型轉(zhuǎn)化、部署和優(yōu)化三個(gè)步驟，旨在提升運(yùn)算速度并減少內(nèi)存、顯存占用。具體來說，這其中最終要的就是以.TFLite為格式的模型文件，其主結(jié)構(gòu)為一個(gè)M
關(guān)鍵字： TFLite 模型推理庫深度學(xué)習(xí)

氧化鋯氧傳感器特性及偏移研究

根據(jù)以氧化鋯型陶瓷為基礎(chǔ)的車用氧傳感器工作原理，利用能斯特方程，分別對(duì)電壓型和電流型輸出的兩種氧傳感器信號(hào)進(jìn)行推導(dǎo)，將其轉(zhuǎn)化為數(shù)學(xué)模型，為性能仿真研究與其關(guān)聯(lián)因素提供理論基礎(chǔ)。闡述導(dǎo)致兩種氧傳感器輸出偏移的幾種因素，并給出偏移量的參考評(píng)價(jià)，為氧傳感器信號(hào)分析測(cè)定提供理論依據(jù)。
關(guān)鍵字： 202305 氧傳感器氧化鋯模型偏移

AI的“安卓時(shí)刻”：開源大模型正在追上谷歌和ChatGPT

一位計(jì)算機(jī)科學(xué)教授表示，免費(fèi)的AI模型現(xiàn)在在性能上“相當(dāng)接近”谷歌和ChatGPT開發(fā)商OpenAI的專有模型，大多數(shù)軟件開發(fā)人員最終將選擇使用免費(fèi)的模型。
關(guān)鍵字： AI 開源模型谷歌 ChatGPT

數(shù)據(jù)挖掘在用戶竊電行為識(shí)別中的應(yīng)用

隨著電力事業(yè)的發(fā)展和智能電表的普及，電力體系趨于完善，方便了電力行業(yè)的用電管理工作，然而竊電行為屢禁不止，竊電技術(shù)也日新月異。為了能夠準(zhǔn)確識(shí)別出存在的竊電用戶，引入數(shù)據(jù)挖掘技術(shù)，使用C4.5算法構(gòu)建用戶竊電識(shí)別模型，能夠更加準(zhǔn)確有效地對(duì)用戶的竊電行為進(jìn)行分析。
關(guān)鍵字：竊電數(shù)據(jù)挖掘 C4.5算法模型 202205

基于模型的電動(dòng)汽車PTC控制方法

為了改善電動(dòng)車PTC控制方法以及提高對(duì)PTC控制的保護(hù)，本文基于模型搭建了電動(dòng)汽車PTC控制用軟件，通過仿真測(cè)試，該模型可以實(shí)現(xiàn)電動(dòng)汽車PTC的控制，判斷PTC的過溫、過流等故障，按相應(yīng)的故障等級(jí)進(jìn)行動(dòng)作，并能夠?qū)崿F(xiàn)電流、功率的閉環(huán)控制，提供了一種電動(dòng)汽車用簡(jiǎn)易、高效的PTC控制方法。
關(guān)鍵字：電動(dòng)汽車 PTC 模型控制 202109

華為又來一個(gè)“全球第一”：全球最大、千億參數(shù)的AI大模型

當(dāng)很多消費(fèi)者，還在被華為自動(dòng)駕駛技術(shù)“絕對(duì)第一”這則消息，震得不要不要的時(shí)候，華為又偷偷放了一個(gè)大招，又來了一個(gè)“全球第一”。在華為的開發(fā)者大會(huì)上，余承東發(fā)布了業(yè)界首個(gè)千億級(jí)生成與理解中文NLP大模型，這也是業(yè)界最大的CV（視覺預(yù)訓(xùn)練）大模型，華為將它命名為“華為云盤古大模型”。正如余承東在以前的手機(jī)發(fā)布會(huì)上一樣，余承東激動(dòng)的表示：“這是今天最重磅的產(chǎn)品”！然后現(xiàn)場(chǎng)“掌聲如雷”，久久不息……當(dāng)然，這次的“華為云盤古大模型”也值得大家給予掌聲，因?yàn)榍|級(jí)參數(shù)規(guī)模的AI大模型，這可是已經(jīng)逼近人類神經(jīng)元的數(shù)量了
關(guān)鍵字：華為 AI 模型

AI講座：ML空間對(duì)映公式：X*W+B=Y

1? ?記住相關(guān)性：使用X*W+B=Y公式在上一期里，曾經(jīng)說明了人和ML( 機(jī)器學(xué)習(xí)) 一樣都很擅長(zhǎng)于將事物從原來的空間對(duì)映到另一個(gè)空間，例如繪畫、寫作等。在對(duì)映過程中，會(huì)不斷強(qiáng)化其對(duì)共性的記憶強(qiáng)度，因而能從經(jīng)驗(yàn)中累積、沉淀其所觀察過事物的共同規(guī)律( 即共相)。在ML 領(lǐng)域里，這個(gè)X*W+B=Y 的對(duì)映公式，扮演核心角色。現(xiàn)在就從最簡(jiǎn)單的例子，來仔細(xì)觀察，看看如何來找出W和B 的值。請(qǐng)從這個(gè)簡(jiǎn)單的范例出發(fā)：首先從空間對(duì)映的視角來看，如下圖所示：這X 空間里已知有2 個(gè)值，分別對(duì)映到Y(jié)
關(guān)鍵字： 202104 ML 模型

又被AI騙了！73%的人無法分辨“真假”音效

　　又一次，AI 欺騙了人類。　　在一次試驗(yàn)中，AI 讓 73% 的人相信 AI 合成音效是真實(shí)的。這一最新研究成果有望應(yīng)用于電影、電視劇等影視制作工作中?！　∠胂笠幌?，假如你正在看一部恐怖片：女主戰(zhàn)戰(zhàn)兢兢地走在黑暗的地下室中，背景音樂十分恐怖，同時(shí)一些看不見的邪惡生物也在黑暗中蠕動(dòng)，然后突然一聲巨響，一個(gè)物體被撞倒了…… 如果沒有這種令人緊張又恰到好處的音效，只通過眼睛看到的場(chǎng)景很難讓人產(chǎn)生這種恐懼感?！　⊥ǔ?，這些音效是由錄音室中的
關(guān)鍵字： AI 合成音效模型

基于模型的建議：光刻友好設(shè)計(jì)成功的導(dǎo)航

如今對(duì)于一些技術(shù)節(jié)點(diǎn)，設(shè)計(jì)人員需要在晶圓代工廠流片和驗(yàn)收之前進(jìn)行光刻友好設(shè)計(jì)(Litho Friendly Design) 檢查。由于先進(jìn)節(jié)點(diǎn)的解析度增進(jìn)技術(shù)(RET) 限制，即使在符合設(shè)計(jì)規(guī)則檢查 (DRC) 的設(shè)計(jì)中，我們?nèi)钥吹搅烁嗟闹圃靻栴}。
關(guān)鍵字：模型光刻 DRC MBH

電阻不再是電阻

電阻不再是電阻——高頻時(shí)確實(shí)如此許多設(shè)計(jì)師沒有意識(shí)到實(shí)際元件中的寄生因素會(huì)影響它們的值。當(dāng)頻率達(dá)到幾百兆赫茲時(shí)，諸如電阻、電感和電容等基本元件都會(huì)呈現(xiàn)出非理想的特性。這種變化在設(shè)計(jì)濾波器或試
關(guān)鍵字：電阻頻率阻抗模型