黃牛炒暴A800,搞半天還是炒閃存那幫人!
筆者詢問相關從業(yè)者聊天截圖
不僅是海南經(jīng)銷商朋友這邊的回答,據(jù)澎湃新聞報道,英偉達在國內(nèi)的代理商也向媒體表示:“考慮到禁售傳聞,大家都比較惜售,這一個多禮拜以來漲幅了20%-30%了。而且也有渠道商從一些私人手里收來,據(jù)說有些服務商的運維人員通過特殊手段用舊卡替換掉較新的顯卡,再以各種理由流出市場,轉而在各種“二道販子”手里交易,而這一切其實都是背后的利益驅使。”而且這一切背后的由頭都指向,此前的一條消息稱,美國可能在今年7月采取相關禁令措施,阻止全球最大的顯卡制造商向中國出售最高端的顯卡芯片,英偉達A800芯片據(jù)傳也在限制名單之列。英偉達芯片(圖源:官網(wǎng))
A800究竟是何方神圣時間推回到2022年11月,英偉達推出了中國特供版GPU芯片A800,可以直接取代A100系列,是專門為了解決美國商務部半導體出口新規(guī)而設計。其芯片數(shù)據(jù)傳輸速率為400GB/s,低于A100的600GB/s,內(nèi)存帶寬最高為2TB/s,目前A800系列有三個版本和SXM和PCIe兩種不同接口:分別是40GB HBM2線程PCIe接口、80GB HBM2e顯存PCIe接口、80GB HBM2e顯存SXM接口。A800和A100芯片性能(圖源:官網(wǎng))
根據(jù)官方放出的數(shù)據(jù)看來,A800就是A100的馬甲卡,將NVLink高速互連總線的帶寬從600GB/s降低到400GB/s,其他參數(shù)保持不變。像是9.7TFlops FP64雙精度、19.5TFlops FP32單精度等極高計算性能、1.6-2.0TB/s顯存帶寬,最高八卡互聯(lián)并行等功能也是應有盡有。隨著GPT 和LLaMA等大模型的火熱,運算卡和算力成為國家戰(zhàn)略級的議題,大模型的訓練需要大量AI芯片,像是國外的英偉達、AMD、高通等知名半導體企業(yè)和國內(nèi)的平頭哥、字節(jié)跳動芯片部門紛紛招兵買馬的大刀闊斧的投入到AI芯片的研究中,據(jù)悉臺積電5/7nm制程訂單已經(jīng)近乎飽和,排產(chǎn)訂單已延續(xù)至2024年初,并且單量還在逐步走高。對手的加入,一方面是讓全新的市場百花齊放,另一方面是競爭會引起價格的下降,低價高質的競品對于壟斷的廠商是一大威脅,英偉達A100系列高達1萬美元,而H100則高達3萬美元。也當真應了文章標題所說,工程師干一年的薪水還趕不上一塊顯卡的售價。AMD在某些硬件的參數(shù)其實已經(jīng)超越了英偉達的H100 例如前一陣的芯片MI300X的顯存最高位192GB,5.2TB/s的內(nèi)存帶寬和896GB/s的InfinityFabric帶寬,相較于英偉達的H100芯片,MI300X提供了更高的HBM密度和HBM帶寬,為客戶節(jié)省了大量成本。AMD MI300X 發(fā)布會(圖源:網(wǎng)絡)
AMD的加入可以說是英偉達壟斷地位的攪局者,一家獨大的市場終究是畸形的,有挑戰(zhàn)者自然也就有挑戰(zhàn)者的挑戰(zhàn)者,國內(nèi)的不少公司也在你追我趕,像是瀚博半導體的載天VA1:通用AI推理加速卡、寒武紀的智能加速卡-MLU370-S4系列、昆侖芯AI加速卡R200系列等等也都百花齊放。良性的競爭帶來技術的進步,封鎖只會故步自封,相信國內(nèi)的芯片廠商需要的只是時間,假以時日勢必會有屬于國產(chǎn)自主知識產(chǎn)權的AI芯片和大模型。【擴展閱讀】:【SXM】NVIDA GPU-SXM主要是針對英偉達的高端GPU服務器,通過主板上集成的NVSwitch實現(xiàn)NVLink的連接,不需要通過主板上的PCIe進行通信,它能支持8塊GPU卡的互聯(lián)互通,實現(xiàn)了GPU之間的高帶寬。這里說的NVLink技術不僅能夠實現(xiàn)CPU和GPU直連,能夠提供高速帶寬,還能夠實現(xiàn)交互通信,大幅度提高交互效率,從而滿足最大視覺計算工作負載的需求。【PCIe】把PCIe GPU卡插到PCIe插槽上,然后和CPU、同一個服務器上其他的GPU卡進行通信,也可以通過網(wǎng)卡與其他的服務器節(jié)點上的設備進行通信。但是這種傳輸速度不快,如果想要和SXM一樣,有很快的傳輸速度,可以使用NVlink橋接器實現(xiàn)GPU和CPU之間的通信,但是和SXM不一樣的地方就是它只能實現(xiàn)2塊GPU卡之間的通信。 *作者:我的果果超可愛, 來源:電子工程專輯*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。