2019年人工智能對(duì)高性能計(jì)算的十種影響

采用人工智能的工作負(fù)載如今變得無處不在，其中有的工作負(fù)載在世界上運(yùn)行最快的計(jì)算機(jī)上運(yùn)行，從而改進(jìn)高性能計(jì)算（HPC）。隨著組織規(guī)劃未來的發(fā)展，需要解決人工智能工作負(fù)載的編程、軟件需求、硬件需求和培訓(xùn)需求等問題。在2019年，行業(yè)專家和人工智能專家將繼續(xù)創(chuàng)造創(chuàng)新的解決方案。

以下是人工智能在2019年對(duì)高性能計(jì)算產(chǎn)生最大影響的十種方式：

1.張量（Tensors）：人工智能計(jì)算的通用語言

向量代數(shù)的應(yīng)用催生出為向量計(jì)算設(shè)計(jì)的計(jì)算機(jī)。Cray公司早期推出的超級(jí)計(jì)算機(jī)就是一種向量超級(jí)計(jì)算機(jī)，它將應(yīng)用程序表達(dá)為向量和矩陣代數(shù)問題，這反過來又加強(qiáng)了計(jì)算機(jī)的設(shè)計(jì)，以確保向量計(jì)算的快速運(yùn)行。多年來，這種強(qiáng)化循環(huán)強(qiáng)烈定義了高性能計(jì)算（HPC）。張量代數(shù)可以被接受為廣義矩陣代數(shù)，因此它是超級(jí)計(jì)算機(jī)數(shù)學(xué)能力的自然演化，而不是一場(chǎng)革命。任何支持矩陣運(yùn)算的機(jī)器都可以進(jìn)行張量運(yùn)算。如今的CPU的用戶采用編譯器，加速采用Pythons，加強(qiáng)庫和優(yōu)化框架的支持，獲得對(duì)向量和張量的高性能支持，所有這些都允許軟件開發(fā)人員使用高性能環(huán)境中的向量和張量。

張量技術(shù)在硬件、軟件和人們的思想上都在高性能計(jì)算應(yīng)用中留下了深刻的印象。

2.語言：高級(jí)程序設(shè)計(jì)

Fortran程序在消耗周期方面占據(jù)了高性能計(jì)算的主導(dǎo)地位，C和C ＋＋程序幾乎耗盡了高性能計(jì)算中的其他資源。通常通過C接口、擴(kuò)展和庫來支持加速器周期。嘗試使用新語言來破壞這種情況已經(jīng)失敗，因?yàn)楝F(xiàn)有語言具有適合構(gòu)成高性能計(jì)算的應(yīng)用程序的用戶、代碼和支持。

人工智能為新用戶帶來了新的需求，這將擴(kuò)展與高性能計(jì)算相關(guān)的語言，并不會(huì)改變大多數(shù)使用Fortran代碼的物理學(xué)家的活動(dòng)，但使用MATLAB和Python的數(shù)據(jù)科學(xué)家需要根據(jù)他們的需求量身定制解決方案。

Python以及其他生產(chǎn)力語言和框架似乎將成為越來越多的高性能計(jì)算（HPC）周期的主人。他們的實(shí)際數(shù)字運(yùn)算程序仍將用C／C ＋＋／Fortran編寫，但人工智能程序員既不會(huì)知道，也不會(huì)關(guān)心它。

3.以不同方式思考：通過利用機(jī)會(huì)重新思考方法來替換遺留代碼

高性能計(jì)算（HPC）是一種傳統(tǒng)技術(shù)，人工智能相對(duì)來說是一種新技術(shù)。顯然，隨著人工智能的成熟，它將創(chuàng)造自己需要支持的重要遺產(chǎn)。就目前而言，當(dāng)這兩種技術(shù)結(jié)合時(shí)，它將鼓勵(lì)有關(guān)重新實(shí)現(xiàn)遺留代碼的對(duì)話，這在某些情況下可能已經(jīng)過期。其借口可能是為代碼添加一些人工智能功能，但現(xiàn)實(shí)將是一些有益的努力以及一些嚴(yán)重的時(shí)間浪費(fèi)。

4.可移植性和安全性：虛擬化和容器

可以安全地在機(jī)器上運(yùn)行嗎？這是虛擬化和容器試圖解決的安全性和可移植性問題。當(dāng)然，安全性來自于良好構(gòu)建的硬件和軟件的安全功能。對(duì)于許多人來說，虛擬化和容器似乎是最好的組合。

容器已引起許多開發(fā)人員對(duì)虛擬機(jī)的關(guān)注，因?yàn)樵诓渴?、修補(bǔ)、云計(jì)算多功能性方面，它們被視為比虛擬機(jī)更靈活，并且可以節(jié)省虛擬機(jī)許可成本。

在面向高性能計(jì)算或人工智能的會(huì)議上談?wù)撊萜骷夹g(shù)似乎并沒有太大的進(jìn)展，這并不奇怪。例如，Python和Julia在精心配置時(shí)可以更好地?cái)U(kuò)展，而容器可以幫助部署。

容器提供了一種為用戶提供良好調(diào)整環(huán)境的自然方式，高性能計(jì)算行業(yè)將在2019年看到越來越多的容器使用，部分原因是由于人工智能用戶的興趣。毫無疑問，高性能計(jì)算會(huì)對(duì)其實(shí)例施加壓力，這是需要優(yōu)化的生態(tài)系統(tǒng)。這個(gè)領(lǐng)域正在進(jìn)行這方面的大量工作，高性能計(jì)算的社區(qū)將幫助所有人實(shí)現(xiàn)這一目標(biāo)，以滿足對(duì)容器的渴望。

5.規(guī)模問題：大數(shù)據(jù)

哪里有人工智能，哪里就有大數(shù)據(jù)。人工智能社區(qū)的主要關(guān)注點(diǎn)是在使用非常大的數(shù)據(jù)模型中獲取意義。采用的高性能計(jì)算應(yīng)用程序需要大量文件，許多高性能計(jì)算運(yùn)行中心已經(jīng)有很多基礎(chǔ)設(shè)施可以很好地處理大數(shù)據(jù)問題。

所有高性能計(jì)算中心都將大數(shù)據(jù)作為新系統(tǒng)的主要要求考慮在內(nèi)，人工智能工作負(fù)載是大數(shù)據(jù)需求的主要?jiǎng)恿Α?/p>

內(nèi)存的價(jià)格高昂，但人們已經(jīng)看到內(nèi)存容量與flop／s的比率多年來一直在下降。這是影響大數(shù)據(jù)發(fā)展的趨勢(shì)。圍繞內(nèi)存的新功能提供了扭轉(zhuǎn)這一趨勢(shì)的希望，并支持人們需要的大型機(jī)器（包括高性能計(jì)算機(jī)）中的大數(shù)據(jù)模型。這些新的內(nèi)存技術(shù)提供了內(nèi)存和本地存儲(chǔ)器（SSD）的擴(kuò)展。

高性能計(jì)算對(duì)于人工智能的發(fā)展發(fā)揮重要作用。組織希望把數(shù)據(jù)放在離處理器更近的地方，這是最適合做真實(shí)數(shù)據(jù)可視化的處理器，是高性能計(jì)算影響人工智能／機(jī)器學(xué)習(xí)的最大方式之一。使用和理解大數(shù)據(jù)的概念，以及可視化數(shù)據(jù)和分析，是相互交織的。