重大突破,中科院宣布!比英偉達快1.5倍到10倍,AI芯片要變天?
光計算在AI領域呈現高速的發(fā)展,具有廣闊的應用前景。近日,中國科學院半導體研究團隊研制出一款超高集成度光學卷積處理器。這標志著我國在光計算方面有了重大突破。
本文引用地址:http://butianyuan.cn/article/202306/447678.htm中信建投更是直接喊出此項技術的突破在AI領域具有廣闊前景。以Lightmatter和Lightelligence為代表的公司,推出了新型的硅光計算芯片,性能遠超目前的AI算力芯片,據Lightmatter的數據,他們推出的Envise芯片的運行速度比英偉達的A100芯片快1.5到10倍。
中科院宣布重大科研成果
5月31日,中國科學院發(fā)布消息稱,中國科學院半導體研究所集成光電子學國家重點實驗室微波光電子課題組李明研究員-祝寧華院士團隊研制出一款超高集成度光學卷積處理器。相關研究成果以Compact optical convolution processing unit based on multimode interference為題,發(fā)表在《自然-通訊》上。
這標志著我國在光計算方面有了重大突破。中信建投更是直接喊出此項技術的突破在AI領域具有廣闊前景。據了解,光計算是一種利用光波作為載體進行信息處理的技術,具有大帶寬、低延時、低功耗等優(yōu)點,提供了一種“傳輸即計算,結構即功能”的計算架構,有望避免馮·諾依曼計算范式中存在的數據潮汐傳輸問題。
中信建投指出,近年來光計算在AI領域呈現高速的發(fā)展,具有廣闊的應用前景。以Lightmatter和Lightelligence為代表的公司,推出了新型的硅光計算芯片,性能遠超目前的AI算力芯片,據Lightmatter的數據,他們推出的Envise芯片的運行速度比英偉達的A100芯片快1.5到10倍。
5月17日舉行的第五屆中國硅光產業(yè)論壇上,國家信息光電子創(chuàng)新中心總經理肖希表示,硅光芯片不僅要加強在光傳輸、光互聯上的應用,還要在光交換、光感知、光加密、光計算上發(fā)力,開發(fā)面向6G時代的下一代硅光技術。
目前,硅光芯片在所有芯片類型中增速最高,預測到2027年左右,基于硅光芯片的光模塊占比將超過50%。
AMD推出“終極武器”MI300X
光芯片能夠挑戰(zhàn)英偉達的AI芯片嗎?
美東時間6月13日周二,AMD舉行了新品發(fā)布會,其中最重磅的新品當屬性用于訓練大模型的ADM最先進GPU Instinct MI300。AMD CEO蘇姿豐介紹,生成式AI和大語言模型(LLM)需要電腦的算力和內存大幅提高。她預計,今年,數據中心AI加速器的市場將達到300億美元左右,到2027年將超過1500億美元,復合年增長率超過50%。
蘇姿豐演示介紹,AMD的Instinct MI300A號稱全球首款針對AI和高性能計算(HPC)的加速處理器(APU)加速器。在13個小芯片中遍布1460億個晶體管。
它采用CDNA 3 GPU架構和24個Zen 4 CPU內核,配置128GB的HBM3內存。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在發(fā)布會稍早介紹,新的Zen 4c內核比標準的Zen 4內核密度更高,比標準Zen 4的內核小35%,同時保持100%的軟件兼容性。
圖片來源:每日經濟新聞 資料圖
AMD推出一款GPU專用的MI300,即MI300X,該芯片是針對LLM的優(yōu)化版,擁有192GB的HBM3內存、5.2TB/秒的帶寬和896GB/秒的Infinity Fabric帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。
AMD稱,MI300X提供的HBM密度最高是英偉達AI芯片H100的2.4倍,其HBM帶寬最高是H100的1.6倍。這意味著,AMD的芯片可以運行比英偉達芯片更大的模型。
蘇姿豐介紹,MI300X可以支持400億個參數的Hugging Face AI模型運行,并演示了讓這個LLM寫一首關于舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數多達800億的模型。
AMD還發(fā)布了AMD Instinct平臺,它擁有八個MI300X,采用行業(yè)標準OCP設計,提供總計1.5TB的HBM3內存。蘇姿豐稱,適用于CPU和GPU的版本MI300A現在就已出樣,MI300X和八個GPU的Instinct平臺將在今年第三季度出樣,第四季度正式推出。
除了AI芯片,AMD此次發(fā)布會還介紹了第四代EPYC(霄龍)處理器,特別是在全球可用的云實例方面的進展。AMD稱,第四代EPYC(霄龍)啟用新的Zen 4c內核,比英特爾Xeon 8490H的效率高1.9倍。由于絕大多數AI在CPU上運行,AMD在CPU AI領域具有絕對的領先優(yōu)勢。
評論