銓興科技AI創(chuàng)新解決方案開(kāi)啟“銓”民AI時(shí)代

當(dāng)前，人工智能技術(shù)正以其獨(dú)特的魅力和巨大的潛力引領(lǐng)著新一輪科技革命。AI大模型的爆發(fā)帶動(dòng)了GPU市場(chǎng)的繁榮，從云端到邊緣AI應(yīng)用也催生邊緣AI服務(wù)器及AI加速處理器的巨大需求。

在邊緣AI應(yīng)用場(chǎng)景中，大數(shù)據(jù)與大模型的運(yùn)算、推理依靠GPU的運(yùn)行效能和帶寬，AI的訓(xùn)練與微調(diào)依賴顯存容量。為支撐70B、405B甚至大于1000B模型的訓(xùn)練與微調(diào)任務(wù)，現(xiàn)有市場(chǎng)方案依靠多顯卡集群的方式拼湊顯存與算力?，F(xiàn)行的多顯卡集群方式投入成本昂貴，且高性能GPU算力卡國(guó)內(nèi)限購(gòu)，成本高，后續(xù)維護(hù)進(jìn)階難，極大程度阻礙AI應(yīng)用場(chǎng)景落地，導(dǎo)致無(wú)法充分賦能企業(yè)。

銓興科技的AI超大模型全參微調(diào)、訓(xùn)推一體解決方案

深圳市銓興科技有限公司作為半導(dǎo)體存儲(chǔ)領(lǐng)域的解決方案供應(yīng)商，憑借二十余年深厚的存儲(chǔ)技術(shù)底蘊(yùn)與不懈的創(chuàng)新追求，結(jié)合AI人工智能技術(shù)原理，把存儲(chǔ)技術(shù)和算力在訓(xùn)練超大模型全參微調(diào)、訓(xùn)練推理方面有機(jī)結(jié)合，創(chuàng)新推出銓興超大模型AI訓(xùn)推一體解決方案。

銓興超大模型AI訓(xùn)推一體解決方案是由“銓興添翼AI擴(kuò)容卡、企業(yè)級(jí)固態(tài)硬盤(pán)、服務(wù)器內(nèi)存”等核心組件的AI訓(xùn)推一體服務(wù)器解決方案，整體部署方案具備低成本、低功耗、安全等顯著優(yōu)勢(shì)。

銓興科技創(chuàng)新推出的添翼AI擴(kuò)容卡，通過(guò)優(yōu)化中間層驅(qū)動(dòng)，打破顯存墻，使得GPU可用顯存空間直升20倍！

銓興科技AI全參微調(diào)、訓(xùn)推一體解決方案解決什么問(wèn)題

銓興科技AI超大模型全參微調(diào)、訓(xùn)推一體解決方案,解決了高階顯卡購(gòu)買(mǎi)難、硬件成本高、功耗大的痛點(diǎn)，解決了企業(yè)人工智能本地化部署最后一公里的難題，使本地端專屬AI應(yīng)用唾手可得，助力開(kāi)啟全民AI時(shí)代。

· 適配場(chǎng)景靈活多樣

銓興解決方案對(duì)Llama、Mistral、千問(wèn)、智普等主流開(kāi)源大模型實(shí)現(xiàn)了完美支持，可廣泛應(yīng)用于政府項(xiàng)目、數(shù)據(jù)中心、高?？蒲?、企業(yè)專屬服務(wù)等領(lǐng)域。

· 顯著降低配置成本、能耗低

以實(shí)現(xiàn)Llama-3.1(70B)高算力的大模型訓(xùn)練為例，現(xiàn)行的市場(chǎng)方案所需GPU加速卡顯存空間約1500GB，要配置二十四張80GB顯存的GPU，使用叁臺(tái)服務(wù)器集群，其運(yùn)算能耗超30KW，存在顯卡數(shù)量多、體積占地空間大、電力基礎(chǔ)設(shè)施要求高、功耗大、整體部署成本超750萬(wàn)，價(jià)格昂貴等多樣難題。

銓興推出的運(yùn)算體系機(jī)構(gòu)配置兩張銓興添翼AI擴(kuò)容卡，僅用四張不禁售的中階顯卡（20GB顯存GPU），壹臺(tái)服務(wù)器工作站即實(shí)現(xiàn)部署。銓興AI大模型訓(xùn)推一體解決方案使用中階顯卡，解決高階購(gòu)買(mǎi)難的痛點(diǎn)，且顯卡數(shù)量明顯減少，噪聲低于60dB，體積小巧靈活，整體部署價(jià)格低于100萬(wàn)，僅為傳統(tǒng)方案價(jià)格的15%，功耗低至2kW，不到傳統(tǒng)方案的10%，大大降低大模型訓(xùn)練的進(jìn)入門(mén)檻成本，銓興科技出色的技術(shù)實(shí)力和超前沿的存算解決方案，展現(xiàn)了人工智能產(chǎn)業(yè)算力和存力完美結(jié)合，給人工智能產(chǎn)業(yè)帶來(lái)積極影響，推動(dòng)銓民參與的AI低成本的時(shí)代的到來(lái)。

· 應(yīng)用場(chǎng)景廣泛

該方案適用70B-180B超大模型全參微調(diào)、訓(xùn)推一體，典型案例包括政府政務(wù)AI、科研AI、高校AI教學(xué)、法律AI、金融AI等多樣B端客戶專業(yè)服務(wù)等。

目前已經(jīng)與多家國(guó)產(chǎn)CPU、國(guó)產(chǎn)GPU、軟件服務(wù)商、AI服務(wù)器整機(jī)廠商、廈門(mén)大學(xué)等高校以及政府部門(mén)建立了合作關(guān)系，共同推動(dòng)AI技術(shù)的發(fā)展和應(yīng)用。

銓興科技推動(dòng)AI產(chǎn)業(yè)高質(zhì)量

人工智能作為引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力的主要陣地。銓興科技精準(zhǔn)解決中小企業(yè)AI人工智能落地部署的痛點(diǎn)，開(kāi)發(fā)出前瞻性與實(shí)用性的半導(dǎo)體存儲(chǔ)解決方案，為各行各業(yè)提供更加智能化、個(gè)性化、接地氣的解決方案，驅(qū)動(dòng)各企業(yè)的數(shù)字化與智能化，實(shí)現(xiàn)全域全時(shí)全場(chǎng)景應(yīng)用持續(xù)深化，推動(dòng)AI人工智能產(chǎn)業(yè)高質(zhì)量加速發(fā)展！