黃仁勛:串行計(jì)算過(guò)時(shí)并行計(jì)算是未來(lái)
記者:借助NVIDIA的Tesla,中國(guó)的超級(jí)計(jì)算機(jī)取得了世界領(lǐng)先的成績(jī)。我想中國(guó)要保持這種領(lǐng)先的成績(jī),在未來(lái),需要做哪些方面的努力和創(chuàng)新?第二個(gè)問(wèn)題,NVIDIA在這個(gè)過(guò)程中,對(duì)中國(guó)未來(lái)的超級(jí)計(jì)算機(jī)將會(huì)提供哪些支持?謝謝!
劉光明:剛才我給大家講過(guò),中國(guó)的要性能計(jì)算機(jī)的發(fā)展經(jīng)歷了將近30年的歷程,從78年開(kāi)始,以銀河1號(hào)為代表,中國(guó)就全面開(kāi)展了高性能計(jì)算機(jī)的研制,這個(gè)研制并不是為了在世界上去爭(zhēng)排名,確確實(shí)實(shí)是因?yàn)槲覀儑?guó)家急需這樣的高性能計(jì)算機(jī)。作為天河來(lái)講,經(jīng)過(guò)32年的積累,在怎么做高性能計(jì)算機(jī),特別是研制承擔(dān)國(guó)家科技部“863”這個(gè)項(xiàng)目,千萬(wàn)億次級(jí)別的高性能計(jì)算機(jī)研究過(guò)程中,遇到了一個(gè)世界性的難題,就是怎么去做。從2005年到2007年一直在研究,通用CPU我們這也有,我們的“飛騰1000”,在技術(shù)上怎么用別的有的稱為協(xié)處理器,有的稱為加速器,這種結(jié)構(gòu)也就叫做異構(gòu)的結(jié)構(gòu)去解決世界的難題。這里面過(guò)去實(shí)驗(yàn)過(guò)我們自己的流處理器芯片,當(dāng)時(shí)叫“飛騰100”,去年我們用的是AMD的,最后發(fā)現(xiàn)了NVIDIA的芯片的性能更好。
有一點(diǎn)請(qǐng)各位朋友注意的是,超級(jí)計(jì)算機(jī)做出來(lái)運(yùn)算峰值能做到4700萬(wàn)億次,平均值2566萬(wàn)億次,世界靠前。但這并不等于你能把這個(gè)機(jī)器在實(shí)際運(yùn)作中,能用的非常好。實(shí)際上在高性能計(jì)算方面是兩個(gè)問(wèn)題,第一個(gè)是怎么把這臺(tái)計(jì)算機(jī)做出來(lái),綜合性能是不錯(cuò)的,剛才楊教授介紹了,這就涉及到一個(gè)體系結(jié)構(gòu)的問(wèn)題,涉及到我們計(jì)算部件的系統(tǒng)(計(jì)算子系統(tǒng)),包括高性能的通信系統(tǒng)。
第二個(gè)挑戰(zhàn)也是現(xiàn)在全世界都面臨的,就是它的應(yīng)用。也就是說(shuō),解決實(shí)際問(wèn)題怎么去編程序。在這種通用CPU+GPU這種國(guó)際,國(guó)際上學(xué)術(shù)界稱為異構(gòu)協(xié)同、并行處理,或者叫異構(gòu)結(jié)構(gòu),它在編程上是非常困難的。這也是當(dāng)今世界上,人們面臨的第二個(gè)大的技術(shù)挑戰(zhàn),并不是所有的程序拿過(guò)來(lái)之后,都能夠在這個(gè)結(jié)構(gòu)上用的很好,包括國(guó)外。所以我們現(xiàn)在有一個(gè)很好的團(tuán)隊(duì),像楊教授帶領(lǐng)的這么一個(gè)團(tuán)隊(duì),從幾年前就在解決這個(gè)問(wèn)題,應(yīng)該說(shuō)現(xiàn)在已經(jīng)取得了非常好的成績(jī)。我們這一次能夠在實(shí)現(xiàn)4700萬(wàn)億次情況下,能夠做到53%的計(jì)算效率,把平均值測(cè)到了2566萬(wàn)億次,如果用同樣的結(jié)構(gòu)去給別的用戶測(cè),測(cè)不到這個(gè)水平,因?yàn)槲覀冞^(guò)去一直嘗試從事體系結(jié)構(gòu)的研究,就是機(jī)器怎么做,芯片的研制,知道這個(gè)程序怎么劃分。
通俗的講,這樣一個(gè)結(jié)構(gòu)里面,大家算出來(lái)它的核,包括通用CPU的核,再包括GPU的核,幾十萬(wàn)億次,18萬(wàn)多個(gè)。什么概念?就是一件工作你把它分為1000個(gè)人好分,1000個(gè)人你好領(lǐng)導(dǎo),把一件工作分給18萬(wàn)個(gè)人,而且要把他們協(xié)調(diào)起來(lái),讓他們同步聽(tīng)命令、聽(tīng)指揮的干好這件事,這在國(guó)際上也是個(gè)難題,對(duì)我們現(xiàn)在也是個(gè)難題,但是我們現(xiàn)在不斷的去解決,解決過(guò)程中有NVIDIA CUDA這樣的一個(gè)編程環(huán)境支持,又使這個(gè)難題開(kāi)始解決了一部分,核心問(wèn)題還要對(duì)物理過(guò)程分析怎么去并行化,計(jì)算機(jī)一般有超級(jí)計(jì)算機(jī)有超級(jí)并行計(jì)算機(jī),所以也就是并行。很直觀的講,18萬(wàn)個(gè)人去干同一件事,這個(gè)組織,令行禁止,然后統(tǒng)一的行動(dòng)都是一個(gè)很難的事。大家可能知道,當(dāng)個(gè)小班長(zhǎng)、當(dāng)個(gè)小團(tuán)隊(duì)的老總很好當(dāng),當(dāng)個(gè)大國(guó)企的領(lǐng)導(dǎo)就不好當(dāng)了,也就是這個(gè)道理。
所以現(xiàn)在我們也在花很大力氣把應(yīng)用,就是過(guò)去在通用CPU環(huán)境下的應(yīng)用不斷的移植到異構(gòu)結(jié)構(gòu),應(yīng)該說(shuō)我們?nèi)〉昧撕芎玫某煽?jī),當(dāng)然后面也還有大量的工作要去做,也請(qǐng)大家在宣傳的時(shí)候跟讀者們講清這個(gè)事。并不是說(shuō)計(jì)算機(jī)做好之后就會(huì)用好,還需要我們進(jìn)一步的努力,把這機(jī)器在這樣的結(jié)構(gòu)情況下,在NVIDIA CUDA支持的情況下,還有新的技術(shù)上的突破、創(chuàng)新、進(jìn)步的基礎(chǔ)上,把應(yīng)用提升到一個(gè)更高、更實(shí)用的水平,使計(jì)算機(jī)天河一號(hào)A真正發(fā)揮它的實(shí)際用處。
黃仁勛:劉教授說(shuō)的很對(duì),并行計(jì)算是一個(gè)非常復(fù)雜、非常大規(guī)模的計(jì)算,它的困難非常的多,但實(shí)際上如果你解決了這些困難的話,它能夠帶來(lái)的收益和效率也是非??捎^的。并行計(jì)算今天遇到的問(wèn)題是整個(gè)計(jì)算界在過(guò)去30年,一直不停想要解決的問(wèn)題,但是過(guò)去30年一直都沒(méi)有成功過(guò)。
有多少個(gè)超級(jí)計(jì)算機(jī)的公司在全球真正開(kāi)發(fā)出來(lái)異構(gòu)計(jì)算、并行計(jì)算的呢?過(guò)去從事并行計(jì)算的這些公司今天都已經(jīng)不再存在了,因?yàn)樗麄兊募夹g(shù)和產(chǎn)品都沒(méi)有發(fā)揮作用。今天我們推出CUDA的新技術(shù),實(shí)際上是異構(gòu)計(jì)算,CPU+GPU的計(jì)算,一方面它很容易進(jìn)行推廣,另外一方面,它有非常強(qiáng)的擴(kuò)張能力。
革命性的一件事情是,花了NVIDIA公司很多年的時(shí)間來(lái)開(kāi)發(fā)這個(gè)技術(shù),也花費(fèi)了我們幾十億美元的投資。在這個(gè)世界上,沒(méi)有任何一家公司在并行計(jì)算當(dāng)中的投資能超過(guò)NVIDIA。我們今天可以看到,因?yàn)镃UDA,并行計(jì)算有非常光明的前景。當(dāng)然,像劉博士剛才提到的,在這里我們還面臨著非常多的挑戰(zhàn)。在未來(lái),我們需要不斷和劉博士及他的團(tuán)隊(duì)進(jìn)行合作,不斷地創(chuàng)造出更多或創(chuàng)造出下一代世界上最強(qiáng)的超級(jí)計(jì)算機(jī)。
中國(guó)已經(jīng)非常清楚地認(rèn)識(shí)到,開(kāi)發(fā)和推廣超級(jí)計(jì)算機(jī)對(duì)于未來(lái)的知識(shí)、科學(xué)和技術(shù)的發(fā)展都有非常大的推動(dòng)作用。我們公司非常榮幸,能夠和國(guó)內(nèi)很多的科學(xué)家、研究人員、很到公司,還有很多的超級(jí)計(jì)算機(jī)中心一起合作,為超級(jí)計(jì)算方面的發(fā)展提供支持。在中國(guó),超級(jí)計(jì)算機(jī)領(lǐng)域的進(jìn)步以及中國(guó)在科學(xué)發(fā)展當(dāng)中不斷的進(jìn)步,會(huì)在全人類范圍內(nèi)給我們提供好處。
各位知道,世界已經(jīng)開(kāi)始變得越來(lái)越小?,F(xiàn)在對(duì)于知識(shí)、技術(shù)、科學(xué)的探索,對(duì)于全球整個(gè)人類都非常有益。我們會(huì)讓我們公司最強(qiáng)的技術(shù)人員和最強(qiáng)的技術(shù)隊(duì)不斷支持劉博士和楊博士以及整個(gè)超級(jí)計(jì)算天津中心,我們會(huì)用我們最出色的軟件工程師幫助劉博士的團(tuán)隊(duì)開(kāi)發(fā)和拓展新的軟件,在CUDA上發(fā)揮得更好。我們會(huì)盡我們所有的力量,不斷投入,保證在中國(guó)所有的大學(xué)都能教授CUDA的課程,中國(guó)所有的大學(xué)都有這方面的知識(shí)和能力去不斷的推廣和教授并行計(jì)算的新技術(shù)。我深信,所有的計(jì)算機(jī)科學(xué)家和工程人員,都要學(xué)習(xí)并行計(jì)算。串行計(jì)算已經(jīng)是一個(gè)過(guò)去時(shí),并行計(jì)算才是未來(lái)。
劉光明:非常感謝各位朋友到我們天津中心來(lái),也感謝NVIDIA的黃仁勛先生來(lái)現(xiàn)場(chǎng)和我們一起探討超級(jí)計(jì)算領(lǐng)域現(xiàn)有的技術(shù)以及未來(lái)的發(fā)展,給予我們很多新的啟示。從天河一號(hào)A得到世界靠前之后,獲得了世界和我們國(guó)家的關(guān)注,我們國(guó)家超級(jí)計(jì)算天津中心現(xiàn)在正在做兩件事兒,第一件事就是利用天河一號(hào)A,真正為濱海新區(qū)和天津地區(qū)的經(jīng)濟(jì)發(fā)展做好科技服務(wù),這是最關(guān)鍵的。未來(lái),我們除了需要在高性能計(jì)算機(jī)方面做好科技服務(wù)之外,還會(huì)成立一個(gè)天津的云計(jì)算中心,盡管這是科學(xué)計(jì)算和數(shù)據(jù)服務(wù)兩件事,但我們會(huì)全方位服務(wù)于國(guó)家的發(fā)展。
第二方面,國(guó)家科技部在進(jìn)行“十二五”高性能計(jì)算機(jī)的發(fā)展規(guī)劃,根據(jù)我們現(xiàn)在研制高性能計(jì)算機(jī)的經(jīng)驗(yàn)和積累的技術(shù),會(huì)規(guī)劃一個(gè)未來(lái)符合國(guó)家整體戰(zhàn)略發(fā)展的新的更大的計(jì)算機(jī),這一點(diǎn)在“十二五”期間肯定會(huì)實(shí)現(xiàn)。我也希望跟NVIDIA的合作過(guò)程中,不斷利用雙方的經(jīng)驗(yàn)、技術(shù),為我們國(guó)家的高性能計(jì)算,為全世界高性能計(jì)算機(jī)的發(fā)展做出我們更大的貢獻(xiàn)。謝謝各位!■<
關(guān)注我們


