銓興科技 文章 進(jìn)入銓興科技技術(shù)社區(qū)

銓興科技AI創(chuàng)新解決方案開(kāi)啟“銓”民AI時(shí)代

• 當(dāng)前，人工智能技術(shù)正以其獨(dú)特的魅力和巨大的潛力引領(lǐng)著新一輪科技革命。AI大模型的爆發(fā)帶動(dòng)了GPU市場(chǎng)的繁榮，從云端到邊緣AI應(yīng)用也催生邊緣AI服務(wù)器及AI加速處理器的巨大需求。在邊緣AI應(yīng)用場(chǎng)景中，大數(shù)據(jù)與大模型的運(yùn)算、推理依靠GPU的運(yùn)行效能和帶寬，AI的訓(xùn)練與微調(diào)依賴顯存容量。為支撐70B、405B甚至大于1000B模型的訓(xùn)練與微調(diào)任務(wù)，現(xiàn)有市場(chǎng)方案依靠多顯卡集群的方式拼湊顯存與算力?，F(xiàn)行的多顯卡集群方式投入成本昂貴，且高性能GPU算力卡國(guó)內(nèi)限購(gòu)，成本高，后續(xù)維護(hù)進(jìn)階難，極大程度阻礙AI應(yīng)用場(chǎng)景落地，
• 關(guān)鍵字： 銓興科技  AI創(chuàng)新  AI時(shí)代