新聞中心

EEPW首頁 > 智能計算 > 業(yè)界動態(tài) > 生成式AI新助力:IBM 攜手 AMD 明年部署推出 MI300X 加速器服務

生成式AI新助力:IBM 攜手 AMD 明年部署推出 MI300X 加速器服務

作者: 時間:2024-11-19 來源:IT之家 收藏

11 月 19 日消息, 公司昨日(11 月 18 日)發(fā)布公告,宣布和 公司達成合作,計劃在 Cloud 上部署 Instinct? 加速器服務(accelerators as a service)。

本文引用地址:http://www.butianyuan.cn/article/202411/464708.htm

此項服務預計將在 2025 年上半年推出,目標是提升企業(yè)客戶在 模型和高性能計算(HPC)應用中的性能和能效。

表示通過此合作,其 watsonx 與數(shù)據(jù)平臺,以及 Red Hat Enterprise Linux(RHEL 發(fā)行版)的 推理支持也整合 加速器。

IBM Cloud 將提供 Instinct 加速器,以支持企業(yè)客戶處理計算密集型工作負載。

IT之家援引新聞稿,MI300X 加速器配備 192GB 高帶寬內(nèi)存(HBM3),能夠支持大型模型的推理和微調,幫助客戶以更少的 GPU 運行更大的模型,降低推理成本。

此外雙方將利用 IBM Cloud 的安全性與合規(guī)性能力,以支持各行業(yè)的企業(yè)客戶,尤其是那些受到嚴格監(jiān)管的企業(yè)。



關鍵詞: 生成式 AI IBM AMD MI300X

評論


相關推薦

技術專區(qū)

關閉