撕開突破口

CPU+GPU異構(gòu)融合體系結(jié)構(gòu)，形象地說，就是把眾多CPU、GPU有機(jī)地連成一枚“捆綁式火箭”（CPU相當(dāng)于主改動(dòng)機(jī)、GPU相當(dāng)于助推改動(dòng)機(jī)）。

這一技術(shù)路線的最大創(chuàng)新，就是將用于圖像處理的GPU運(yùn)用于高性能計(jì)算，最大的挑戰(zhàn)就是實(shí)現(xiàn)GPU高效能計(jì)算。它成為阻擋每秒千萬億次超級(jí)計(jì)算機(jī)戰(zhàn)役進(jìn)展的第一個(gè)“堡壘”。

2008年底，以楊學(xué)軍為總設(shè)計(jì)師的總師組，把撕開“突破口”的重任交給楊燦群和他帶領(lǐng)的突擊隊(duì)。

經(jīng)過10余年科研實(shí)踐歷練的楊燦群，對(duì)于自己的工作有個(gè)非常精妙的比喻：“搞工程技術(shù)，就像猜謎語。謎底出來了，大家恍然大悟：‘原來并不深?yuàn)W，可在此之前，你的眼前卻是一片云山霧海，你不知道目標(biāo)在哪里，甚至不知道該朝哪個(gè)方向?qū)ふ?，可以說兩眼迷茫?！?/p>

GPU的科學(xué)計(jì)算問題便是這樣一道謎語。

當(dāng)時(shí)，市場(chǎng)上宣稱有通用計(jì)算能力的GPU有兩種，分別由NVIDIA與AMD生產(chǎn)，每種GPU都有多個(gè)型號(hào)。單獨(dú)的GPU只是一顆芯片，需要和配套的存儲(chǔ)器及外圍電路構(gòu)成顯卡才能使用，生產(chǎn)此類顯卡的廠商有好幾家，市場(chǎng)上可購買的計(jì)算顯卡就有近20種。這林林總總的顯卡中，哪款能滿足科學(xué)計(jì)算要求？楊燦群和突擊隊(duì)員兩眼一抹黑。

為從這眾多顯卡中找到雙精度浮點(diǎn)計(jì)算性能高、系統(tǒng)兼容性好、運(yùn)行穩(wěn)定的顯卡，楊燦群帶領(lǐng)突擊隊(duì)從2009年初開始夜以繼日地進(jìn)行大海撈針般的篩選工作。

春節(jié)前一周，他們把一種顯卡安裝到一款主機(jī)板上測(cè)試，但軟件系統(tǒng)安裝完成后，系統(tǒng)無法啟動(dòng)。他們首先懷疑是硬件問題，但硬件技術(shù)人員堅(jiān)稱該主板質(zhì)量非常過硬。他們便從軟件找原因，但嘗試不同版本操作系統(tǒng)和顯卡驅(qū)動(dòng)后，問題依然如故。為了找到問題癥結(jié)，他們?cè)诖汗?jié)期間加班加點(diǎn)。大年初四那天，他們不經(jīng)意間在主板上發(fā)現(xiàn)有個(gè)模糊標(biāo)識(shí)，稱該主板有啟動(dòng)異常故障，維修后也沒有確認(rèn)故障是否徹底解決，弄得大家哭笑不得。

還有一種顯卡含兩個(gè)GPU芯片，其驅(qū)動(dòng)程序要求接上兩個(gè)顯示器才能讓兩個(gè)GPU同時(shí)工作，這顯然不能滿足科學(xué)計(jì)算的要求，因?yàn)椴豢赡茉谝慌_(tái)計(jì)算機(jī)里安裝一大堆顯示器。他們通過查閱資料發(fā)現(xiàn)，可在顯卡輸出接上電阻來模擬顯示器。為找到這種電阻，他們從塵封了上十年的器件柜中找出了幾個(gè)滿足要求的插裝電阻，解決了測(cè)試問題。

……

兩個(gè)月間，他們不知經(jīng)歷了多少這樣的曲曲折折，才完成了近20款GPU的安裝、測(cè)試，終于找到了滿足計(jì)算條件的GPU。

中國(guó)有一句諺語：“一個(gè)和尚挑水喝，兩個(gè)和尚抬水喝，三個(gè)和尚沒水喝?！?/p>

CPU+GPU異構(gòu)融合體系結(jié)構(gòu)，把數(shù)千個(gè)CPU、數(shù)千個(gè)GPU組合在一個(gè)“大廟”，它們還能賣力“挑水”嗎？

2009年3月，他們把CPU、GPU這兩類“和尚”組合起來，利用GPU加速應(yīng)用程序進(jìn)行評(píng)測(cè)，竟發(fā)現(xiàn)總性能還不到每秒600億次，而一顆CPU就有近每秒500億次的性能。也就是說GPU這個(gè)“和尚”，雖然用于圖像處理，速度驚人，但讓它與CPU放在一塊用于科學(xué)計(jì)算，就變得非常懶惰，計(jì)算效能只有20%左右。

面對(duì)這樣的測(cè)試結(jié)果，大家心里涼了半截。須知，憑著GPU這等工作效率要造出每秒千萬億次超級(jí)計(jì)算機(jī)，豈不是天方夜譚？難道真如外國(guó)專家斷定的，GPU根本不能用于科學(xué)計(jì)算機(jī)嗎？

總設(shè)計(jì)師楊學(xué)軍得到報(bào)告后，在第一時(shí)間趕到實(shí)驗(yàn)室。聽完情況匯報(bào)后，他向身邊的妻子招招手：“玉華，你去把車開來，帶我出去轉(zhuǎn)轉(zhuǎn)?！?/p>

這是他的工作習(xí)慣，每凡科研遇到難題時(shí)，就讓妻子開車帶他去兜風(fēng)。

“雪弗萊”駛出市區(qū)，奔馳在二環(huán)高速公路上。楊學(xué)軍仰靠著座背，微閉著眼睛，讓思緒隨著從車旁呼嘯而過的春風(fēng)、撲面而來又疾速閃去的盎然春景，在科學(xué)的天地的盤旋……

“雪弗萊”駛出高速收費(fèi)站時(shí)，楊學(xué)軍掏出手機(jī)，撥通了楊燦群的號(hào)碼，堅(jiān)定地說：“別人不敢走的路，并不等于走不通。從技術(shù)原理分析，GPU的計(jì)算性能，通過軟件優(yōu)化，是可以大幅提高的……”

學(xué)校召開每秒千萬億次超級(jí)計(jì)算機(jī)工程攻堅(jiān)動(dòng)員大會(huì)。學(xué)校、學(xué)院黨委向大家發(fā)出號(hào)召：“勇敢地?fù)?dān)當(dāng)起國(guó)家和民族沖擊世界超級(jí)計(jì)算機(jī)科技高峰的歷史重任，在年底前堅(jiān)決完成每秒千萬億次計(jì)算機(jī)攻關(guān)任務(wù)，讓銀河的凱歌在神州大地上奏響，讓銀河的光彩再一次閃亮寰球！”

關(guān)鍵時(shí)刻，經(jīng)學(xué)校黨委推薦、中央軍委主席胡錦濤任命廖湘科為計(jì)算機(jī)學(xué)院院長(zhǎng)，同時(shí)兼任每秒千萬億次超級(jí)計(jì)算機(jī)工程總指揮和常務(wù)副總師。

挫折面前，楊學(xué)軍總師、廖湘科總指揮一商量，竟作出這樣一個(gè)超常決策：把完成研制任務(wù)的時(shí)間節(jié)點(diǎn)，由原計(jì)劃2010年底提前一年，即在2009年底前推出中國(guó)第一臺(tái)每秒千萬億次超級(jí)計(jì)算機(jī)。

決定一宣布，把一些人的眼睛驚得圓圓的：“關(guān)鍵技術(shù)尚未突破，還提前一年完成任務(wù)，能行嗎？”

可新一代銀河人對(duì)自己充滿自信：“當(dāng)年研制‘銀河—Ⅰ時(shí)，困難還不大嗎？可前輩們頑強(qiáng)拼搏，愣是提前一年完成任務(wù)。還有‘銀河—Ⅲ，原計(jì)劃用五年，大家齊心協(xié)力，爭(zhēng)分奪秒，僅用三年就實(shí)現(xiàn)了每秒10億次到每秒100億次的大跨越。前輩們能做到的，我們也一定能做到！”

在楊學(xué)軍、廖湘科率領(lǐng)下，國(guó)防科技大學(xué)超級(jí)計(jì)算機(jī)創(chuàng)新團(tuán)隊(duì)，拉開了每秒千萬億次超級(jí)計(jì)算機(jī)戰(zhàn)役總攻的序幕。

長(zhǎng)沙北郊的湘江之畔，有一片群山環(huán)抱的洼地，山上草木郁郁蔥蔥，山下坐落著一棟三層小樓。這是長(zhǎng)沙市抗洪指揮部所在地。由于汛期未至，這里鳥兒啁啾，人跡稀少，煞是幽靜。

楊燦群和他的突擊隊(duì)，把這里當(dāng)作攻堅(jiān)的戰(zhàn)場(chǎng)。他們整天貓?jiān)谛抢?，心里只想一件事，就是想方設(shè)法調(diào)動(dòng)GPU這群“和尚”的積極性，讓他們多“挑水”，爭(zhēng)取“1+1”盡量接近“2”。眼睛也只盯著一個(gè)地方——顯示屏，從那些不停滾動(dòng)的浩如煙海的數(shù)據(jù)中，尋找一個(gè)個(gè)稍縱即逝的靈感，捕捉一次次優(yōu)化GPU計(jì)算效能的機(jī)遇，然后對(duì)計(jì)算程序進(jìn)行一遍又一遍的修改。

那周，楊燦群與伙伴們和往常一樣，從早上7點(diǎn)盯到午夜，從周一盯到周五，竟然沒有發(fā)現(xiàn)一次戰(zhàn)機(jī)，沒有取得任何戰(zhàn)果。

連續(xù)鏖戰(zhàn)數(shù)日，早已筋疲力盡的楊燦群，躺在床上輾轉(zhuǎn)反側(cè)，難以入眠。他于心不甘。往常從周一到周五，都能找到性能優(yōu)化突破口，可在周末時(shí)間研究?jī)?yōu)化方法。那些數(shù)據(jù)猶如一群蜜蜂，在眼前不停地竄來竄去。閉上眼睛，滿腦子還是那些波濤般滾動(dòng)的數(shù)據(jù)。

突然，他隱隱覺得眼簾上滾動(dòng)的一些數(shù)據(jù)低于設(shè)計(jì)目標(biāo)。他一骨碌從床上爬起來，從家里跑到辦公室，打開與服務(wù)器相連的筆記本電腦，進(jìn)入試驗(yàn)數(shù)據(jù)庫，果然發(fā)現(xiàn)GPU一部分計(jì)算資源沒有用起來。興奮難抑的楊燦群，立刻著手程序優(yōu)化，GPU計(jì)算性能又一次提升。當(dāng)他改完程序起身打開房門時(shí)，只見太陽早已爬上山頂，露出了燦爛的笑臉，小鳥在樹林里歡快舞蹈、清脆鳴唱。

類似這樣的優(yōu)化改進(jìn)，他們?cè)趦蓚€(gè)月里進(jìn)行了一萬多次，終于把GPU計(jì)算效能提升到58%。

這充分驗(yàn)證CPU+GPU異構(gòu)融合技術(shù)是科學(xué)可行的！

楊燦群帶領(lǐng)突擊隊(duì)乘勝擴(kuò)大戰(zhàn)果，不分晝夜反復(fù)測(cè)試、研討、改進(jìn)。雖然每一次提升都如同滴水般微小，但把它們匯集起來，就能創(chuàng)造科學(xué)奇跡。在連續(xù)奮戰(zhàn)四個(gè)月，先后改進(jìn)優(yōu)化8萬余次之后GPU計(jì)算效能躍升至70%以上，達(dá)到世界最高水平！