麻省理工證實(shí):大數(shù)據(jù)時(shí)代,閃存和RAM一樣快!
就高速數(shù)據(jù)處理而論,RAM通常用于存儲(chǔ)正在使用的數(shù)據(jù),它比從傳統(tǒng)磁盤提取數(shù)據(jù)的速度要快數(shù)萬(wàn)倍,比NAND閃存的速度也快很多倍。 而麻省理工學(xué)院(MIT)研究人員構(gòu)建了一個(gè)服務(wù)器網(wǎng)絡(luò)證明——對(duì)于大數(shù)據(jù)應(yīng)用,閃存和RAM一樣快,而且便宜很多。
本文引用地址:http://butianyuan.cn/article/277454.htm在這個(gè)大數(shù)據(jù)時(shí)代,海量數(shù)據(jù)集用于揭示千百萬(wàn)人的購(gòu)買趨勢(shì)或預(yù)測(cè)還有基于千萬(wàn)個(gè)數(shù)據(jù)點(diǎn)的金融市場(chǎng)趨勢(shì),單一電腦的RAM是無(wú)法負(fù)荷的。
例如,處理一個(gè)人的基因組的數(shù)據(jù),需要40到100臺(tái)標(biāo)準(zhǔn)計(jì)算機(jī)。而另一個(gè)可選項(xiàng)NAND閃存,它的價(jià)格大約是RAM的十分之一,消耗功率也是它的十分之一。上個(gè)月,在計(jì)算機(jī)體系結(jié)構(gòu)國(guó)際會(huì)議(International Symposium on Computer Architecture)上,麻省理工學(xué)院研究人員展示了一個(gè)新的系統(tǒng),證實(shí)閃存和傳統(tǒng)RAM一樣高效,而且還能降低功率和硬件成本。
“比如,我們需要購(gòu)買一個(gè)系統(tǒng)來(lái)處理10TB大的數(shù)據(jù)集。在DRAM中處理它,假設(shè)服務(wù)器有100GB內(nèi)存的DRAM,我們就需要一組大約100臺(tái)電腦集群。” Arvind Mithal,麻省理工學(xué)院計(jì)算機(jī)科學(xué)與工程約翰遜講座教授在郵件中回復(fù)說(shuō),“這樣一個(gè)集群創(chuàng)建需要大約400000美元?!?/p>
每一臺(tái)服務(wù)器連接到一個(gè)可模擬不同電路的現(xiàn)場(chǎng)可編程網(wǎng)關(guān)陣列(field-programmable gate array或FPGA),每一個(gè)FPGA依次連接到2個(gè)500GB的閃存芯片和2個(gè)其他距離最近的FPGA。
因?yàn)楸舜讼嗷ミB接,F(xiàn)PGA成為了一個(gè)快速網(wǎng)絡(luò),允許任何服務(wù)器從每一個(gè)閃存驅(qū)動(dòng)器存取數(shù)據(jù),而這些FPGA也能控制閃存驅(qū)動(dòng)器。
Arvind還表示,同樣在閃存中處理10TB數(shù)據(jù)集,只需要10臺(tái)電腦——每臺(tái)需要1TB閃存容量。即便包括基于FPGA加速器硬件成本,這個(gè)系統(tǒng)的總成本也不會(huì)超過(guò)大概70000美元?!叭绻覀兛紤]到基于閃存的系統(tǒng)中,每一臺(tái)服務(wù)器上不需要同樣多的DRAM這個(gè)事實(shí),價(jià)格可能還會(huì)進(jìn)一步降低?!?Arvind稱,“如果我們使用配置較少DRAM的低端服務(wù)器,該系統(tǒng)花費(fèi)大約是40000美元?!?/p>
而維護(hù)一個(gè)基于閃存的系統(tǒng)費(fèi)用顯然更便宜,他繼續(xù)說(shuō)道,因?yàn)殚W存比DRAM消耗更小的功率并且所需的服務(wù)器也相對(duì)較少。就算將閃存和FPGA加速器因素的額外功耗也算在內(nèi),麻省理工學(xué)院的服務(wù)器網(wǎng)絡(luò)標(biāo)準(zhǔn)顯示閃存存儲(chǔ)設(shè)備也僅僅是增加了大約10%的功耗到整個(gè)系統(tǒng)。
實(shí)際上,即使沒有他們的新網(wǎng)絡(luò)結(jié)構(gòu),研究人員指出如果做分布式計(jì)算的服務(wù)器使用磁盤驅(qū)動(dòng)器來(lái)獲取數(shù)據(jù)只需要該時(shí)間的5%,和使用閃存時(shí)的性能相同。
例如,配置10TB RAM的40臺(tái)服務(wù)器處理一個(gè)10.5TB的計(jì)算,也不比配置20TB閃存的20臺(tái)服務(wù)器快。而閃存不但成本較少,也只損耗一小部分功率。
通過(guò)將服務(wù)器的一些計(jì)算能力移到閃存驅(qū)動(dòng)器的控制芯片上,研究人員就能制作一個(gè)可與基于RAM服務(wù)器媲美的20臺(tái)基于閃存的服務(wù)器網(wǎng)絡(luò)。
他們?cè)趯?shù)據(jù)傳遞回服務(wù)器之前,使用閃存驅(qū)動(dòng)器對(duì)其進(jìn)行預(yù)處理,增大了分布式計(jì)算的效率。
“這并非是要取代DRAM之類的東西?!?Arvind表示,他和一組研究生和研究員在廣達(dá)電腦公司完成了這項(xiàng)工作。該調(diào)查表明可能有許多應(yīng)用能夠取代RAM,而且使用一個(gè)基于閃存的電腦架構(gòu)費(fèi)用較低。
“每一個(gè)人都在實(shí)驗(yàn)閃存的不同方面。我們只是嘗試從另一個(gè)角度著手?!?Arvind如是說(shuō)。
評(píng)論