一、CPU與GPU對比

CPU是一個(gè)有多種功能的優(yōu)秀領(lǐng)導(dǎo)者。它的優(yōu)點(diǎn)在于調(diào)度、管理、協(xié)調(diào)能力強(qiáng)，計(jì)算能力則位于其次。而GPU相當(dāng)于一個(gè)接受CPU調(diào)度的“擁有大量計(jì)算能力”的員工。

下圖是處理器內(nèi)部結(jié)構(gòu)圖：

DRAM即動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器，是常見的系統(tǒng)內(nèi)存。

Cache存儲(chǔ)器：電腦中作高速緩沖存儲(chǔ)器，是位于CPU和主存儲(chǔ)器DRAM之間，規(guī)模較小，但速度很高的存儲(chǔ)器。

算術(shù)邏輯單元ALU是能實(shí)現(xiàn)多組算術(shù)運(yùn)算和邏輯運(yùn)算的組合邏輯電路。

當(dāng)需要對大數(shù)據(jù)bigdata做同樣的事情時(shí)，GPU更合適，當(dāng)需要對同一數(shù)據(jù)做很多事情時(shí)，CPU正好合適。

GPU能做什么？關(guān)于圖形方面的以及大型矩陣運(yùn)算，如機(jī)器學(xué)習(xí)算法等方面，GPU就能大顯身手。

簡而言之，CPU擅長統(tǒng)領(lǐng)全局等復(fù)雜操作，GPU擅長對大數(shù)據(jù)進(jìn)行簡單重復(fù)操作。CPU是從事復(fù)雜腦力勞動(dòng)的教授，而GPU是進(jìn)行大量并行計(jì)算的體力勞動(dòng)者。

二、機(jī)器深度學(xué)習(xí)

深度學(xué)習(xí)是模擬人腦神經(jīng)系統(tǒng)而建立的數(shù)學(xué)網(wǎng)絡(luò)模型，這個(gè)模型的最大特點(diǎn)是，需要大數(shù)據(jù)來訓(xùn)練。因此，對電腦處理器的要求，就是需要大量的并行的重復(fù)計(jì)算，GPU正好有這個(gè)專長，時(shí)勢造英雄，因此，GPU就出山擔(dān)當(dāng)重任了。

GPU具有如下特點(diǎn)：

• 提供了多核并行計(jì)算的基礎(chǔ)結(jié)構(gòu)，且核心數(shù)非常多，可以支撐大量數(shù)據(jù)的并行計(jì)算。 并行計(jì)算或稱平行計(jì)算是相對于串行計(jì)算來說的。它是一種一次可執(zhí)行多個(gè)指令的算法，目的是提高計(jì)算速度，及通過擴(kuò)大問題求解規(guī)模，解決大型而復(fù)雜的計(jì)算問題。

• 擁有更高的訪存速度。

• 更高的浮點(diǎn)運(yùn)算能力。浮點(diǎn)運(yùn)算能力是關(guān)系到處理器的多媒體、3D圖形處理的一個(gè)重要指標(biāo)。現(xiàn)在的計(jì)算機(jī)技術(shù)中，由于大量多媒體技術(shù)的應(yīng)用，浮點(diǎn)數(shù)的計(jì)算大大增加了，比如3D圖形的渲染等工作，因此浮點(diǎn)運(yùn)算的能力是考察處理器計(jì)算能力的重要指標(biāo)。

這三個(gè)特點(diǎn)，非常適合深度學(xué)習(xí)了。

三、怎樣發(fā)揮GPU的大數(shù)據(jù)處理能力

GPU只是顯卡上的一個(gè)核心元件，又不能單獨(dú)工作，它還需要緩存來輔助工作。獨(dú)立顯卡是直接焊死了GPU在顯卡電路板上，上面有一個(gè)散熱風(fēng)扇供它單獨(dú)使用。集成顯卡是把GPU與CPU放在一起，共用緩存來工作，并且共用一個(gè)散熱風(fēng)扇。

電腦處理一大塊數(shù)據(jù)比處理一個(gè)一個(gè)數(shù)據(jù)更有效，執(zhí)行指令開銷也會(huì)大大降低，因?yàn)橐幚泶髩K數(shù)據(jù)，意味著需要更多的晶體管來并行工作，現(xiàn)在旗艦級顯卡都是百億以上的晶體管。

因此，要利用GPU做大數(shù)據(jù)處理工作，至少目前來說，還沒有單獨(dú)的GPU板卡可購。只能購買GPU性能優(yōu)越的超級獨(dú)立顯卡，或集成集卡中GPU性能優(yōu)秀的主板。