挑戰(zhàn)卡皇TITAN！GTX 780 SLI巔峰測試
在混合 CPU‐GPU 系統(tǒng)中，由于 GPU 的性能/ 功率比提高，使應(yīng)用程序中大量并行代碼完全在GPU 高效運(yùn)行，提高了可擴(kuò)展性和性能。為了加快應(yīng)用程序的額外并行部分的處理，GPU必須支持更加多樣化的并行工作負(fù)載類型。
Dynamic Parallelism 是 Kepler GK110 引入的新功能，能夠讓 GPU 在無需 CPU 介入的情況下，通過專用加速硬件路徑為自己創(chuàng)造新的工作，對(duì)結(jié)果同步，并控制這項(xiàng)工作的調(diào)度。
在內(nèi)核啟動(dòng)時(shí)，如果問題的規(guī)模和參數(shù)已知，那么 Fermi 在處理大型并行數(shù)據(jù)結(jié)構(gòu)時(shí)效果非常好。所有的工作是從主機(jī) CPU 啟動(dòng)，會(huì)運(yùn)行到完成，并返回結(jié)果返回到 CPU。結(jié)果將被用來作為最終的解決方案的一部分，或通過 CPU 進(jìn)行分析，然后向 GPU 發(fā)送額外的處理請(qǐng)求以進(jìn)行額外處理。
在 Kepler GK110中，任何一個(gè)內(nèi)核都可以啟動(dòng)另一個(gè)內(nèi)核，并創(chuàng)建處理額外的工作所需的必要流程、事件以及管理依賴，而無需主機(jī) CPU 的介入。T 該架構(gòu)能讓開發(fā)人員更容易創(chuàng)建和優(yōu)化遞歸和數(shù)據(jù)依賴的執(zhí)行模式，并允許更多的程序直接運(yùn)行在 GPU 上?？梢詾槠渌蝿?wù)釋放系統(tǒng)CPU，或可以用功能少的 CPU 配置系統(tǒng)以運(yùn)行相同的工作負(fù)載。
Dynamic Parallelism 允許應(yīng)用程序中更多的并行代碼直接由 GPU 本身啟動(dòng)（右側(cè)圖像），而不需要 CPU 的干預(yù)（左側(cè)圖像）。
Dynamic Parallelism 允許更多種并行算法在 GPU 上執(zhí)行，包括不同數(shù)量的并行嵌套循環(huán)、串行控制任務(wù)線程的并行隊(duì)或或卸載到 GPU 的簡單的串行控制代碼，以便促進(jìn)應(yīng)用程序的并行部分的數(shù)據(jù)局部化。
因?yàn)閮?nèi)核能夠根據(jù)GPU 中間結(jié)果啟動(dòng)額外工作負(fù)載，程序員現(xiàn)在可以智能處理負(fù)載平衡的工作，以集中其大量資源在需要處理能力最大或與解決方案最有關(guān)的問題上。
一個(gè)例子是動(dòng)態(tài)設(shè)置數(shù)值模擬的 Grid。 通常 Grid 主要集中在變化最大的地區(qū)，需要通過數(shù)據(jù)進(jìn)行昂貴的前處理。另外，均勻粗 Grid 可以用來防止浪費(fèi)的 GPU 資源，或均勻細(xì) Grid 可以用來確保捕獲所有功能，但這些選項(xiàng)的風(fēng)險(xiǎn)是在不太被注意的地區(qū)缺少模擬功能或“過度消費(fèi)”的計(jì)算資源。
有了 Dynamic Parallelism，可以在運(yùn)行時(shí)以數(shù)據(jù)依賴形式動(dòng)態(tài)確定‐Grid解決方案。以粗 Grid開始，模擬“放大”注意的區(qū)域，同時(shí)避免在變化不大區(qū)域中不必要的計(jì)算。雖然這可以通過使用一系列的 CPU 啟動(dòng)的內(nèi)核來完成，但是通過分析數(shù)據(jù)、作為單個(gè)模擬內(nèi)核部分啟動(dòng)額外工作讓 GPU 細(xì)化 Grid 本身要簡單的多，消除了 CPU 的中斷以及CPU和GPU之間的數(shù)據(jù)傳輸。
上面的例子說明了在數(shù)值模擬，采用動(dòng)態(tài)調(diào)整 Grid 的好處。為了滿足峰值的精度要求，固定的分辨率仿真必須運(yùn)行在整個(gè)模擬域過于精細(xì)的分辨率上，而多分辨率 Grid 根據(jù)當(dāng)?shù)氐淖兓癁槊總€(gè)區(qū)域應(yīng)用正確的模擬分辨率。
關(guān)注我們
