Habana Labs為Amazon EC2 DL1實(shí)例搭載Habana Gaudi AI加速器并提供強(qiáng)勁動
在訓(xùn)練機(jī)器學(xué)習(xí)模型中,與目前這一代基于GPU的實(shí)例相比,新的Amazon EC2實(shí)例的性價(jià)比提升高達(dá)40%。
本文引用地址:http://butianyuan.cn/article/202111/429781.htmHabana Labs為Amazon EC2 DL1實(shí)例搭載Gaudi AI加速器并提供強(qiáng)勁動力,新的實(shí)例專為深度訓(xùn)練模型而設(shè)計(jì)(來源:英特爾)
新增功能:AWS近日宣布,將正式推出Amazon EC2 DL1實(shí)例,這是一種專為訓(xùn)練深度學(xué)習(xí)模型而設(shè)計(jì)的新實(shí)例類型?,F(xiàn)在,AWS的機(jī)器學(xué)習(xí)客戶可以利用這些由Habana? Gaudi? AI加速器支持的新實(shí)例,針對AI工作量實(shí)現(xiàn)高達(dá)40%的性價(jià)比提升1,新實(shí)例支持自然語言處理和計(jì)算機(jī)視覺應(yīng)用程序,包括對象檢測和圖像分類。
“Habana的Gaudi AI加速器采用旨在提高AI計(jì)算效率的全新設(shè)計(jì),資源利用率更高,集成的成本效益大于GPU。因此,使用這些新的Amazon EC2 DL1實(shí)例來訓(xùn)練機(jī)器學(xué)習(xí)模型時(shí),每小時(shí)定價(jià)更低,從而節(jié)省了大量成本。”
– Habana Labs首席商務(wù)官Eitan Medina
行業(yè)重要性:機(jī)器學(xué)習(xí)業(yè)已成為主流,因?yàn)楦鱾€(gè)公司和組織訓(xùn)練的模型越來越多,訓(xùn)練后的模型會部署到整個(gè)企業(yè)中,用于分析大量數(shù)據(jù)以搜索并識別模式。為了保持和優(yōu)化這些模型的預(yù)測準(zhǔn)確性和高質(zhì)量,數(shù)據(jù)研究人員需要經(jīng)常調(diào)整并重新訓(xùn)練模型,這就要求有高性能的計(jì)算資源,可能會讓公司和組織望而卻步。
獨(dú)特之處:與基于GPU的實(shí)例相比,由Habana Gaudi AI加速器支持的Amazon EC2 DL1實(shí)例能以更低的成本提供更高的計(jì)算效率。這些新實(shí)例配備多達(dá)8個(gè)Gaudi加速器、256GB高帶寬存儲、768GB系統(tǒng)存儲、第二代Amazon定制的英特爾?至強(qiáng)?可擴(kuò)展(“Cascade Lake”)處理器、400 Gbps網(wǎng)絡(luò)吞吐量和高達(dá)4TB的本地NVMe存儲器。這些特色配置綜合在一起使性價(jià)比得到大幅提升,相比用于訓(xùn)練常見機(jī)器學(xué)習(xí)模型的最新基于GPU的Amazon EC2實(shí)例,性價(jià)比提升幅度高達(dá)40%1。
“客戶希望利用深度學(xué)習(xí)帶來的優(yōu)勢 - 提高業(yè)務(wù)洞察力、改善用戶體驗(yàn)和優(yōu)化盈利能力?!盇mazon Web Services(AWS)產(chǎn)品管理EC2高級經(jīng)理Chetan Kapoor表示說:“該項(xiàng)技術(shù)已經(jīng)開始騰飛,運(yùn)用該項(xiàng)技術(shù)后,我們的客戶也需要更高的計(jì)算效率。支持新EC2 DL1實(shí)例的Habana Gaudi AI加速器可確保在目前云端的AI培訓(xùn)具有最佳性價(jià)比?!?/p>
可用市場:Amazon EC2 DL1實(shí)例首先會在兩個(gè)地區(qū)發(fā)布:美國東部(弗吉尼亞北部)和美國西部(俄勒岡)。EC2 DL1實(shí)例支持按需實(shí)例、預(yù)留實(shí)例和現(xiàn)貨購買選項(xiàng),也可用作儲蓄計(jì)劃的一部分。
評論