新聞中心

EEPW首頁 > 智能計算 > 業(yè)界動態(tài) > 華為ModelEngine支持DeepSeek全系列本地部署

華為ModelEngine支持DeepSeek全系列本地部署

作者: 時間:2025-02-07 來源:SEMI 收藏

2月7日消息,日前,技術(shù)有限公司宣布,DCS AI全棧解決方案中的重要產(chǎn)品平臺,全面支持R1&V3和蒸餾系列模型的本地部署與優(yōu)化,加速客戶AI應(yīng)用快速落地。

本文引用地址:http://www.butianyuan.cn/article/202502/466682.htm

此次 ModelEngine 基于昇騰AI芯片,通過推理框架優(yōu)化和MoE存算協(xié)同,提供動態(tài)換入換出和全局統(tǒng)一緩存,實現(xiàn)推理高并發(fā)和低時延,用戶通過ModelEngine體驗DeepSeek的推理能力。

另外,官方表示,DCS AI全棧解決方案近期將上線DeepSeek體驗環(huán)境。



關(guān)鍵詞: 華為 ModelEngine AI DeepSeek大模型

評論


技術(shù)專區(qū)

關(guān)閉