數(shù)據(jù)大爆炸時(shí)代 計(jì)算的將來(lái)屬于GPU

　　但有一點(diǎn)需要指出：GPU 的強(qiáng)大性能，不只來(lái)源于增加的核心數(shù)量。架構(gòu)師們意識(shí)到，GPU 的處理性能需要有更快的內(nèi)存相配合才能發(fā)揮。這讓研究人員不斷研發(fā)更高帶寬版本的 RAM 內(nèi)存。今天，GPU 的內(nèi)存帶寬相比 CPU 已經(jīng)有數(shù)量級(jí)上的領(lǐng)先，比如前沿顯存技術(shù) GDDR5X，HBM2，還有開發(fā)中的 GDDR6。這使得 GPU 在處理和讀取數(shù)據(jù)上都有巨大優(yōu)勢(shì)。

　　有這兩大優(yōu)勢(shì)，GPU 在通用計(jì)算領(lǐng)域有了立足點(diǎn)。

　　GPU 與 CUDA

　　事實(shí)證明，高端游戲玩家和計(jì)算機(jī)科學(xué)家在硬件需求上有不少交集。計(jì)算機(jī)科學(xué)家們逐漸發(fā)現(xiàn)，利用 GPU 的大量核心執(zhí)行復(fù)雜數(shù)學(xué)運(yùn)算，在 HPC 領(lǐng)域有巨大應(yīng)用前景。但是，寫出能高效運(yùn)行于 GPU 的代碼極度困難。想要駕馭 GPU 計(jì)算性能的研究人員，必須把相關(guān)運(yùn)算“黑進(jìn)”圖形 API，讓顯卡以為要處理的計(jì)算任務(wù)和游戲一樣：決定像素色彩的圖像渲染計(jì)算。

　　但一切在 2007 年發(fā)生了變化。這一年，英偉達(dá)發(fā)布了 CUDA(Compute Unified Device Architecture)。 它支持 C 語(yǔ)言環(huán)境的并行計(jì)算。對(duì)于那些靠 C 語(yǔ)言發(fā)家的程序猿，他們可以直接開始寫基礎(chǔ)的 CUDA 代碼，一系列運(yùn)算任務(wù)從此可以很容易地并行處理。

　　CUDA 誕生的結(jié)果是：似乎在一夜之間，地球上的所有超級(jí)計(jì)算機(jī)都采用了 GPU 運(yùn)算。深度學(xué)習(xí)、自動(dòng)駕駛以及其他 AI 領(lǐng)域開始煥發(fā)光芒。

　　并行計(jì)算

　　并行計(jì)算是發(fā)揮 GPU 性能的關(guān)鍵。這意味著你可以同時(shí)處理運(yùn)算，而不是一步步進(jìn)行。復(fù)雜問題可被分解為更簡(jiǎn)單的問題，然后同時(shí)進(jìn)行處理。并行計(jì)算適用于 HPC 和超算領(lǐng)域所涉及的許多問題類型，比如氣象、宇宙模型和DNA 序列。

　　并不是只有天體物理學(xué)家和氣象學(xué)家才能充分利用并行計(jì)算的優(yōu)點(diǎn)。事實(shí)證明，許多企業(yè)應(yīng)用能從并行計(jì)算獲得超出尋常比例的好處。這包括：

　　數(shù)據(jù)庫(kù)查詢

　　密碼學(xué)領(lǐng)域的暴力搜索

　　對(duì)比不同獨(dú)立場(chǎng)景的計(jì)算機(jī)模擬。

　　機(jī)器學(xué)習(xí)/深度學(xué)習(xí)

　　地理可視化

　　你可以聯(lián)想一下你們公司所面臨的數(shù)據(jù)問題——那些數(shù)據(jù)量和復(fù)雜程度極高，你以前連想都不敢去想怎么處理，但深層次分析很有可能會(huì)有助于解決的問題。我懷疑這樣的問題是可并行計(jì)算的——而 CPU 層次的計(jì)算解決不了，不代表 GPU 也不行。

　　CPU vs. GPU 小結(jié)

　　作為小結(jié)，GPU 在以下方面有別于 CPU：

　　一枚 GPU 芯片有幾千個(gè)核心。通常意義的 CPU 最多只有 22 個(gè)。

　　GPU 為高度并行的運(yùn)行方式而設(shè)計(jì)。CPU 為一步步的連續(xù)計(jì)算而設(shè)計(jì)。

　　GPU 的內(nèi)存帶寬比 CPU 高得多。

　　CPU 適合于文字處理、運(yùn)行交易數(shù)據(jù)庫(kù)、網(wǎng)絡(luò)應(yīng)用等場(chǎng)景。 GPU 適用于 DNA 排序、物理建模、消費(fèi)者行為預(yù)測(cè)等任務(wù)。

　　經(jīng)濟(jì)成本

　　上文中，我討論了問什么 GPU 代表著計(jì)算的將來(lái)。但它的商用價(jià)值如何呢?

　　GPU 在經(jīng)濟(jì)成本上其實(shí)占優(yōu)勢(shì)。首先，一個(gè)完整的 GPU 服務(wù)器比一個(gè)完整的 CPU 服務(wù)器要貴很多。但兩者之間難以直接對(duì)比。一個(gè)完整的 8 路 GPU 服務(wù)器，成本可達(dá)八萬(wàn)美元。但一個(gè)中等的 CPU 服務(wù)器配置大約只需要 9000 刀。當(dāng)然，RAM 和 SSD 的使用量對(duì)價(jià)格有很大影響。

　　咋看之下，CPU 好像比 GPU 劃算多了。但請(qǐng)注意，250 個(gè)這樣的“中等” CPU 服務(wù)器在并行計(jì)算性能才相當(dāng)與一臺(tái)如上所說(shuō)的 GPU 服務(wù)器(注：只是作者個(gè)人的估算，以支撐他的觀點(diǎn)，大家看看就好)。

　　很明顯，如果你要做的只是并行計(jì)算，選擇 GPU 服務(wù)器要?jiǎng)澦愣嗔恕O端情況下，如果硬要上 250 臺(tái) CPU 服務(wù)器，加上電費(fèi)、場(chǎng)地費(fèi)、網(wǎng)費(fèi)、溫控、維護(hù)管理費(fèi)，最終價(jià)格會(huì)是天文數(shù)字。因此，如果并行計(jì)算占了公司工作量的大部分，從投資回報(bào)率的角度，GPU 是正確的選擇。

　　對(duì)生產(chǎn)力的影響

　　在延遲對(duì)數(shù)據(jù)分析的影響方面，我已經(jīng)寫了很多。我的基本論點(diǎn)是：當(dāng)一個(gè)開發(fā)者需要等待幾分鐘才能得到查詢結(jié)果，人的行為會(huì)發(fā)生變化。你開始找捷徑，你開始用更小的數(shù)據(jù)集執(zhí)行查詢操作，你只會(huì)執(zhí)行不耗費(fèi)時(shí)間的查詢，你不再探索——執(zhí)行幾個(gè)查詢就把這當(dāng)做是方向。

　　提高計(jì)算機(jī)響應(yīng)速度對(duì)生產(chǎn)力的提升很難衡量。但你可以想一想，寬帶時(shí)代和撥號(hào)時(shí)代的生產(chǎn)力差別。

　　最后，在云時(shí)代，與其建立自己的 GPU 服務(wù)器， 租用 GPU 云計(jì)算服務(wù)對(duì)于很多客戶來(lái)講十分劃算。GPU 計(jì)算的門檻已經(jīng)無(wú)限降低。