• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向多領(lǐng)域的高性能計(jì)算機(jī)應(yīng)用綜述

    2019-01-28 07:53:07聶含伊楊希張文喆
    關(guān)鍵詞:超級(jí)計(jì)算機(jī)高性能計(jì)算機(jī)

    聶含伊 楊希 張文喆

    聶含伊 楊希 張文喆

    1 引言

    在現(xiàn)代科學(xué)研究和工程實(shí)踐中,通常使用數(shù)學(xué)方程式來(lái)表示某些自然科學(xué)規(guī)律,產(chǎn)生了眾多復(fù)雜繁瑣的數(shù)學(xué)計(jì)算問題。基于普通計(jì)算工具來(lái)解決這些問題,將耗費(fèi)大量人力物力,甚至無(wú)法得到準(zhǔn)確結(jié)果。而科學(xué)計(jì)算,利用計(jì)算機(jī)仿真、重現(xiàn)、預(yù)測(cè)或探索自然世界萬(wàn)物運(yùn)動(dòng)規(guī)律和演變特性的全過程,通過研究合理的計(jì)算方法,設(shè)計(jì)高效的并行算法,研制合適的應(yīng)用程序,能準(zhǔn)確、高效地模擬各領(lǐng)域研究過程,分析計(jì)算結(jié)果。然而,普通計(jì)算機(jī)的科學(xué)計(jì)算能力往往是有限的,現(xiàn)有的計(jì)算能力無(wú)法高效地解決某些基礎(chǔ)學(xué)科和工程技術(shù)部門的科學(xué)計(jì)算問題,如長(zhǎng)期天氣預(yù)報(bào)、石油勘探、飛機(jī)整體氣動(dòng)力等等。

    與此同時(shí),地震檢測(cè)儀、粒子碰撞器、天文望遠(yuǎn)鏡以及高通量分析裝置等大型科學(xué)儀器的研制和發(fā)展,產(chǎn)生了大量非結(jié)構(gòu)化或半結(jié)構(gòu)化的數(shù)據(jù),使得“大數(shù)據(jù)”趨勢(shì)變得越來(lái)越突出。如今,許多科學(xué)發(fā)現(xiàn)和見解由大量數(shù)據(jù)集驅(qū)動(dòng),“大數(shù)據(jù)”被認(rèn)為是除了實(shí)驗(yàn)、理論和計(jì)算方法之外的第四種科學(xué)范式。數(shù)據(jù)生成的容量、速度和多樣性構(gòu)成了分析大數(shù)據(jù)的主要挑戰(zhàn)。

    為提高科學(xué)計(jì)算能力,解決大數(shù)據(jù)問題,高性能計(jì)算(HPC)技術(shù)迅猛發(fā)展。高性能計(jì)算機(jī)代表用于解決計(jì)算密集型科學(xué)和工程問題的高端計(jì)算基礎(chǔ)設(shè)施。我國(guó)的高性能計(jì)算早已突破每秒浮點(diǎn)運(yùn)算千萬(wàn)億次的壁壘,并繼續(xù)解決性能、可擴(kuò)展性、可編程性、能效和可靠性等問題,探索新的支持技術(shù)以達(dá)到e級(jí)計(jì)算能力。

    目前,高性能計(jì)算機(jī)已在多個(gè)領(lǐng)域得到了成功的應(yīng)用,但仍存在大量可供多個(gè)研究機(jī)構(gòu)使用的空閑節(jié)點(diǎn)。本文簡(jiǎn)介了一些高性能計(jì)算機(jī)系統(tǒng)及其性能,針對(duì)近年來(lái)在高性能計(jì)算機(jī)上的各大領(lǐng)域應(yīng)用實(shí)例進(jìn)行總結(jié),并對(duì)在其他領(lǐng)域的應(yīng)用做出了展望,以促進(jìn)更高效、全面地使用高性能計(jì)算機(jī)。

    2 高性能計(jì)算機(jī)系統(tǒng)概述

    中國(guó)首臺(tái)千萬(wàn)億次超級(jí)計(jì)算機(jī),是“天河一號(hào)”?!疤旌右惶?hào)”超級(jí)計(jì)算機(jī)使用由中國(guó)自行研發(fā)的“龍”芯片,其峰值計(jì)算速度能夠達(dá)到1.206 TFlop/s,同時(shí)Linpack實(shí)測(cè)性能達(dá)到了0.563 TFlop/s,該超級(jí)計(jì)算機(jī)位居當(dāng)時(shí)公布的中國(guó)超級(jí)計(jì)算機(jī)前 100強(qiáng)之首,中國(guó)成為了繼美國(guó)之后世界上第2個(gè)能夠自主研制千萬(wàn)億次超級(jí)計(jì)算機(jī)的國(guó)家。

    天河一號(hào)采用6144個(gè)英特爾通用多核處理器和5120個(gè)AMD圖形加速處理器,其內(nèi)存總?cè)萘?8 TB。至于點(diǎn)對(duì)點(diǎn)通信的帶寬就達(dá)到了40 Gbps,而其用于共享的磁盤總?cè)萘縿t達(dá)到1 PB。該超級(jí)計(jì)算機(jī)系統(tǒng)部署于天津?yàn)I海新區(qū)的國(guó)家超級(jí)計(jì)算天津中心作為業(yè)務(wù)主機(jī)。

    2013年,由國(guó)防科學(xué)技術(shù)大學(xué)研制的“天河二號(hào)”大型超級(jí)計(jì)算機(jī)以每秒33.86千萬(wàn)億次的浮點(diǎn)運(yùn)算速度成為全球最快的超級(jí)計(jì)算機(jī),位列國(guó)際大型超級(jí)計(jì)算機(jī)TOP500榜首。隨后,“天河二號(hào)”實(shí)現(xiàn)了世界最快超算“六連冠”。天河二號(hào)采用基于加速器的架構(gòu)。在可接受的總成本、功率預(yù)算、支持可靠性、可用性和可服務(wù)性(RAS)的能力、應(yīng)用開發(fā)和移植的復(fù)雜性下提供高的計(jì)算性能。

    天河二號(hào)的硬件系統(tǒng)由五個(gè)子系統(tǒng)組成,包括計(jì)算系統(tǒng)、通信系統(tǒng)、存儲(chǔ)系統(tǒng)、監(jiān)控診斷系統(tǒng)和服務(wù)系統(tǒng)。它由16000個(gè)節(jié)點(diǎn)組成,每個(gè)節(jié)點(diǎn)有2顆基于Ivy Bridge-E Xeon E5 2692處理器和 3顆 Xeon Phi,每個(gè)節(jié)點(diǎn)的內(nèi)存是64 GB。所有的計(jì)算節(jié)點(diǎn)都通過專有的高速互連系統(tǒng)連接。還提供了一個(gè)服務(wù)子系統(tǒng)的4096個(gè)節(jié)點(diǎn),以加快高吞吐量的計(jì)算任務(wù),如大數(shù)據(jù)處理。存儲(chǔ)子系統(tǒng)包括256個(gè)I/O節(jié)點(diǎn)和64個(gè)容量為12.4 PB的存儲(chǔ)服務(wù)器。天河二號(hào)文件系統(tǒng)命名為 h2fs,采用麒麟操作系統(tǒng)、基于SLURM的全局資源管理。支持大多數(shù)現(xiàn)代編程語(yǔ)言,包括C、C++、Java、Python等。采用的是新型異構(gòu)多態(tài)體系結(jié)構(gòu)(Multipurpose-Heterogeneous)。

    “天河二號(hào)”集科學(xué)計(jì)算、大數(shù)據(jù)分析和云計(jì)算于一體,被認(rèn)為是滿足工業(yè)和社會(huì)需求的戰(zhàn)略基礎(chǔ)設(shè)施。以超級(jí)計(jì)算機(jī)為支撐的高性能計(jì)算應(yīng)用正加速向各個(gè)領(lǐng)域滲透。

    在國(guó)內(nèi)早期的高性能計(jì)算機(jī)研究中,2004年6月超級(jí)計(jì)算機(jī)曙光4000A研制成功,落戶上海超級(jí)計(jì)算中心,標(biāo)志著繼美國(guó)和日本之后,中國(guó)是第3個(gè)能研制10萬(wàn)億次高性能計(jì)算機(jī)的國(guó)家。曙光能夠每秒運(yùn)算11萬(wàn)億次,進(jìn)入全球超級(jí)計(jì)算機(jī)前10名。經(jīng)過10多年發(fā)展,曙光E級(jí)高性能計(jì)算機(jī)系統(tǒng)項(xiàng)目現(xiàn)在是國(guó)家“十三五”期間高性能計(jì)算的重點(diǎn)專項(xiàng),其最顯著的特點(diǎn)是突破了制約E級(jí)計(jì)算發(fā)展的各個(gè)關(guān)鍵技術(shù),通過這樣原型機(jī)的研制去驗(yàn)證 E級(jí)的技術(shù)路線,為未來(lái)真正實(shí)現(xiàn)國(guó)產(chǎn)E級(jí)系統(tǒng)做技術(shù)鋪墊。

    在2016年法蘭克福世界超算大會(huì)上,“神威·太湖之光”超級(jí)計(jì)算機(jī)系統(tǒng)成為新的榜首,速度較第2名“天河二號(hào)”快出近兩倍,效率提高3倍。

    神威·太湖之光超級(jí)計(jì)算機(jī)由40個(gè)運(yùn)算機(jī)柜和8個(gè)網(wǎng)絡(luò)機(jī)柜組成。每個(gè)運(yùn)算機(jī)柜包含4塊由32塊運(yùn)算插件組成的超節(jié)點(diǎn)。每個(gè)插件由 4個(gè)運(yùn)算節(jié)點(diǎn)板組成,一個(gè)運(yùn)算節(jié)點(diǎn)板又含2塊“申威26010”高性能處理器。一臺(tái)機(jī)柜就有1024塊處理器,整臺(tái)“神威·太湖之光”共有40960塊處理器。每個(gè)單個(gè)處理器有260個(gè)核心,主板為雙節(jié)點(diǎn)設(shè)計(jì),每個(gè) CPU固化的板載內(nèi)存為32 GB DDR3-2133。

    在2018年的法蘭克福世界超算大會(huì)上,美國(guó)能源部橡樹嶺國(guó)家實(shí)驗(yàn)室(ORNL)推出的新超級(jí)計(jì)算機(jī)“Summit”以每秒 12.23億億次的浮點(diǎn)運(yùn)算速度,接近每秒18.77億億次峰值速度奪冠,“神威·太湖之光”屈居第2。

    3 高性能計(jì)算機(jī)各大領(lǐng)域應(yīng)用實(shí)例分析

    為充分發(fā)揮高性能計(jì)算機(jī)的優(yōu)勢(shì),極大限度地滿足客戶需求,自超級(jí)計(jì)算機(jī)在中國(guó)開始發(fā)展以來(lái),相關(guān)團(tuán)隊(duì)都致力于擴(kuò)展高性能計(jì)算在各個(gè)領(lǐng)域的利用,迎合各領(lǐng)域應(yīng)用的計(jì)算要求,協(xié)助用戶配置應(yīng)用環(huán)境,建立高效模型,設(shè)計(jì)合理并行算法,以實(shí)現(xiàn)各領(lǐng)域的科學(xué)計(jì)算和大數(shù)據(jù)處理在高性能計(jì)算機(jī)上的應(yīng)用。

    3.1 生物計(jì)算與精準(zhǔn)醫(yī)療

    根據(jù)廣州國(guó)家超級(jí)計(jì)算中心的內(nèi)部統(tǒng)計(jì),生物醫(yī)學(xué)相關(guān)應(yīng)用現(xiàn)在是超級(jí)計(jì)算中心的主要客戶。生物醫(yī)學(xué)研究主要包括生物大分子的結(jié)構(gòu)模擬與功能建模,藥物設(shè)計(jì)與篩選,蛋白質(zhì)序列分析,基因序列分析與比對(duì),基因調(diào)控網(wǎng)絡(luò)的分析與建模,醫(yī)療衛(wèi)生的雙數(shù)據(jù)分析及生物醫(yī)學(xué)文獻(xiàn)挖掘等。

    生物醫(yī)學(xué)數(shù)據(jù)繁多,且一直呈指數(shù)增長(zhǎng)。如世界最大的生物數(shù)據(jù)保存者之一,歐洲生物信息學(xué)研究所(EBI),存儲(chǔ)超過20 PB的數(shù)據(jù),并且最近每年的數(shù)據(jù)量都增加1倍。數(shù)據(jù)源的異質(zhì)性,包括基因組學(xué)、蛋白質(zhì)組學(xué)、代謝組學(xué)、微陣列數(shù)據(jù)、文獻(xiàn)等,使其更加復(fù)雜。

    針對(duì)典型類型的大數(shù)據(jù)——基因組大數(shù)據(jù),在大數(shù)據(jù)框架(如Hadoop和Spark)的幫助下,云計(jì)算已經(jīng)在大數(shù)據(jù)處理中發(fā)揮著積極作用?,F(xiàn)在,HPC在中國(guó)的快速發(fā)展使得以不同的方式解決基因組大數(shù)據(jù)挑戰(zhàn)成為可能。Yang等人強(qiáng)調(diào)了在現(xiàn)代超級(jí)計(jì)算機(jī)上增強(qiáng)大數(shù)據(jù)支持的必要性,提出只需單個(gè)命令或單個(gè)shell腳本就能使當(dāng)前的大數(shù)據(jù)應(yīng)用在高性能計(jì)算機(jī)上運(yùn)行,并且支持多個(gè)用戶同時(shí)處理多個(gè)任務(wù)的Orion作為高性能計(jì)算機(jī)的大數(shù)據(jù)平臺(tái)。該平臺(tái)可以根據(jù)大數(shù)據(jù)處理需求,合理分配所需的資源量,并使用HPC系統(tǒng)軟件棧自動(dòng)建立和配置可回收的Hadoop/Spark集群。以華大基因提供的基因組學(xué)大數(shù)據(jù)作為案例研究,測(cè)試基因組分析流水線SOAPGaea的FASTQ過濾、讀取對(duì)齊、重復(fù)刪除和質(zhì)量控制四個(gè)過程,證明了Orion平臺(tái)的高效性。

    為更好地了解基因的精細(xì)結(jié)構(gòu)、分析基因型與表現(xiàn)型的關(guān)系、繪制基因圖譜,DNA序列分析成為生物醫(yī)學(xué)中的重要課題。

    DNA序列的排序是對(duì)DNA序列分析的基礎(chǔ)。通常先使用測(cè)序儀得到生物體基因組的一些片段,再利用計(jì)算機(jī)對(duì)片段進(jìn)行de novo拼接,從而得到DNA序列的排列順序。而隨著測(cè)序儀的發(fā)展,基因組的數(shù)據(jù)量增大,分析復(fù)雜性提高,普通計(jì)算工具分析數(shù)據(jù)會(huì)消耗大量時(shí)間和空間。張峰等人基于高性能計(jì)算機(jī),使用一種新型序列拼接工具 SGA(string graph assernbler),對(duì)任務(wù)之間數(shù)據(jù)耦合度小的分批構(gòu)建FM-Index,采用粗粒度的多進(jìn)程并行;對(duì)任務(wù)之間數(shù)據(jù)耦合度較大的FM-Index合并過程,采用多線程的細(xì)粒度并行。這種多進(jìn)程與多線程的混合并行策略,使用并行計(jì)算代替通信開銷,測(cè)試小規(guī)模數(shù)據(jù)時(shí),將索引構(gòu)建時(shí)間的最佳性能提高了3.06倍。葉志強(qiáng)等人在基因組排序時(shí),引入隨機(jī)list ranking算法,基于高性能計(jì)算機(jī),使用MPI并行實(shí)現(xiàn)Pregel框架的線性化步驟,利用節(jié)點(diǎn)之間的通信和計(jì)算能力,減少了線性化步驟時(shí)間。

    SNP(單核苷酸多態(tài)性)檢測(cè)是DNA序列分析的關(guān)鍵步驟。它將對(duì)齊的 read、參考序列和被編排的數(shù)據(jù)庫(kù)(如數(shù)據(jù)庫(kù)SNPP)作為輸入,通過站點(diǎn)檢測(cè)對(duì)齊的 read和引用站點(diǎn)的信息,生成SNP站點(diǎn)的列表。SNP檢測(cè)工具SOAPSNP可以用一個(gè)多星期的時(shí)間來(lái)分析一個(gè)覆蓋20倍的人類基因組。崔英博等人通過重新設(shè)計(jì) SOAPSNP的關(guān)鍵數(shù)據(jù)結(jié)構(gòu)以降低內(nèi)存操作的開銷,設(shè)計(jì)CPU與Xeon Phi協(xié)作的協(xié)調(diào)并行框架,以獲得更高的硬件利用率。并提出了一種基于讀取的窗口劃分策略(RWD),在多個(gè)節(jié)點(diǎn)上提高吞吐量和并行規(guī)模,開發(fā)了SOAPSNP的并行版本 MSNP,在沒有任何精度損失的情況下,利用高性能計(jì)算機(jī)的一個(gè)節(jié)點(diǎn)實(shí)現(xiàn)了45倍的加速。

    方翔等人利用高性能計(jì)算機(jī),構(gòu)建了由基因組與轉(zhuǎn)錄組測(cè)序數(shù)據(jù)分析、蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)和分子動(dòng)力學(xué)模擬3個(gè)功能模塊組成的生物信息平臺(tái)分析水產(chǎn)病原,對(duì)約氏黃桿菌等多種水生動(dòng)物病原進(jìn)行生物信息學(xué)分析。

    從生物醫(yī)學(xué)文獻(xiàn)中提取有價(jià)值的信息的一種主流方法是在非結(jié)構(gòu)化文本上應(yīng)用文本挖掘方法。然而,大量的文獻(xiàn)需要分析,這對(duì)文本挖掘的處理效率提出了巨大的挑戰(zhàn)。彭紹亮等人將針對(duì)疾病實(shí)體識(shí)別的軟件DNorm加入可高效識(shí)別基因、蛋白質(zhì)、藥物、基因通路等實(shí)體關(guān)系的文本挖掘工具PWTEES流水線中,擴(kuò)充了PWTEES的功能。使用LINNAEUS導(dǎo)入MEDLIN數(shù)據(jù)庫(kù)提供的摘要,并在個(gè)人賬戶目錄下,動(dòng)態(tài)使用計(jì)算節(jié)點(diǎn),編譯安裝配置了非關(guān)系型數(shù)據(jù)庫(kù)(MySQL),將大量非結(jié)構(gòu)化數(shù)據(jù)(文獻(xiàn))轉(zhuǎn)為結(jié)構(gòu)化數(shù)據(jù)。將平時(shí)在普通服務(wù)器上需100天能完成的文本挖掘過程縮短為1小時(shí),并利用200個(gè)進(jìn)程并行挖掘 7萬(wàn)篇頭頸癌相關(guān)文獻(xiàn)中的關(guān)鍵命名實(shí)體,得到了80%以上的并行效率。Xing等人開發(fā)了一個(gè)可運(yùn)行的框架 PARABTM,它能夠在超級(jí)計(jì)算機(jī)上實(shí)現(xiàn)并行文本挖掘。以GNormPlus、tmVar2.0、Dnorm 3 種命名實(shí)體識(shí)別任務(wù)為例,對(duì)多個(gè)數(shù)據(jù)集上PARABTM的性能進(jìn)行了評(píng)價(jià)。結(jié)果表明,使用PARABTM并行處理策略中的短板匹配負(fù)載平衡算法(Short-Board load balancing algorithm),最大程度地提高了生物醫(yī)學(xué)命名實(shí)體識(shí)別的處理速度。

    3.2 全數(shù)字設(shè)計(jì)與制造

    數(shù)字設(shè)計(jì)與制造是一種以計(jì)算機(jī)系統(tǒng)為中心的集成制造方法。隨著制造工廠中計(jì)算機(jī)系統(tǒng)數(shù)量和質(zhì)量的提高,數(shù)字化趨勢(shì)迅速。越來(lái)越多的自動(dòng)化工具被用于制造工廠,有必要對(duì)所有機(jī)器、工具和輸入材料進(jìn)行建模、模擬和分析,以優(yōu)化制造過程。而模擬能夠建模和測(cè)試一個(gè)系統(tǒng)行為特性,讓工程師能夠用更低耗、更快速同時(shí)更安全的方式來(lái)分析所做的設(shè)計(jì)會(huì)產(chǎn)生什么樣的影響。模擬的應(yīng)用范圍廣泛,涵蓋了產(chǎn)品設(shè)計(jì)、過程設(shè)計(jì)以及企業(yè)資源安排。在模擬過程中,利用超級(jí)計(jì)算機(jī)強(qiáng)大的計(jì)算能力,使工程師能在幾分鐘或幾小時(shí)內(nèi)仿真和測(cè)試數(shù)千種設(shè)計(jì)方案。

    利用數(shù)字化的方式,可以對(duì)產(chǎn)品進(jìn)行結(jié)構(gòu)力學(xué)分析、流體力學(xué)分析、電磁設(shè)計(jì)和多物理場(chǎng)模擬等多種計(jì)算仿真。在計(jì)算流體力學(xué)CFD(computational fluid dynamics)領(lǐng)域的一大熱點(diǎn)研究問題就是如何在當(dāng)前主流的眾核異構(gòu)高性能計(jì)算機(jī)平臺(tái)上進(jìn)行超大規(guī)模計(jì)算。楊梅芳等人在高性能計(jì)算機(jī)的單個(gè)節(jié)點(diǎn)上,利用超然沖壓發(fā)動(dòng)機(jī)燃燒數(shù)值模擬軟件LESAP模擬一個(gè)實(shí)際發(fā)動(dòng)機(jī)燃燒化學(xué)反應(yīng)和超聲速流動(dòng)的問題,采用OpenMP 4.0編程標(biāo)準(zhǔn),向量化SIMD,優(yōu)化數(shù)據(jù)傳輸過程,均衡基于網(wǎng)格塊劃分的負(fù)載技術(shù),實(shí)現(xiàn)了軟件面向CPU+MIC異構(gòu)平臺(tái)的移植,達(dá)到了3.07倍的性能加速比。王勇獻(xiàn)等人面向高性能計(jì)算機(jī)探索了高階精度CFD流場(chǎng)數(shù)值模擬程序的高效并行性。在高性能異構(gòu)并行計(jì)算平臺(tái)上進(jìn)行了多個(gè)算例的數(shù)值模擬的結(jié)果顯示最大CFD規(guī)模達(dá)到1228億個(gè)網(wǎng)格點(diǎn),共使用約59萬(wàn)CPU+MIC處理器核,實(shí)現(xiàn)了移植后的性能大幅度提高。通過將算法移植到超級(jí)計(jì)算機(jī)進(jìn)行大規(guī)模并行,能夠?qū)崿F(xiàn)高效的流體力學(xué)分析。而文獻(xiàn)[24-26]都是針對(duì)空氣動(dòng)力學(xué)中的具體分類利用高性能計(jì)算機(jī)進(jìn)行模擬以驗(yàn)證有效性的研究。利用數(shù)字化設(shè)計(jì),能夠快速低成本地對(duì)設(shè)計(jì)性能進(jìn)行分析評(píng)估。

    在圖像模擬中,Metropolis光傳輸算法能夠利用雙向路徑跟蹤構(gòu)建出由眼睛到光源的路徑,是Monte Carlo方法的變體。然后,使用Metropolis算法靜態(tài)計(jì)算圖像中光線的恰當(dāng)?shù)纳⑸錉顟B(tài),由一條已發(fā)現(xiàn)的光到眼睛的路徑,能搜索到鄰近路徑。簡(jiǎn)單地說(shuō),Metropolis光傳輸算法能夠生成一條路徑并存儲(chǔ)其上的節(jié)點(diǎn),同時(shí)能通過添加額外節(jié)點(diǎn)來(lái)調(diào)整并生成新的路徑。隨著對(duì)照片級(jí)真實(shí)感圖像的要求越來(lái)越高,為Metropolis光傳輸算法開發(fā)高效且高度可擴(kuò)展的光線跟蹤器變得越來(lái)越重要。主要是渲染圖像通常需要花費(fèi)大量時(shí)間,開發(fā)高效且高度可擴(kuò)展的光線跟蹤器的困難來(lái)自不規(guī)則的存儲(chǔ)器訪問模式、光攜帶路徑的不平衡工作量以及復(fù)雜的數(shù)學(xué)模型和復(fù)雜的物理過程。Wu等人提出了一種基于物理的高度可擴(kuò)展的并行光線追蹤器,并在高性能計(jì)算機(jī)上進(jìn)行了實(shí)現(xiàn),利用多達(dá)26400個(gè)CPU內(nèi)核,證明了其可擴(kuò)展性,能夠從復(fù)雜的3D場(chǎng)景生成逼真圖像。

    模擬高場(chǎng)非局部載流子傳輸同樣需要3D Monte Carlo模擬方法,通過適當(dāng)?shù)牧孔有Uw散射效應(yīng),半經(jīng)典的 MC模擬能夠給出準(zhǔn)確的結(jié)果。但是,MC方法中3D模擬和量子校正都需要巨大的計(jì)算資源,由效率出發(fā)超級(jí)計(jì)算機(jī)的計(jì)算能力就至關(guān)重要了。文獻(xiàn)[29]中,通過在高性能計(jì)算機(jī)上使用Intel MIC協(xié)處理器,進(jìn)一步提高了之前工作中開發(fā)的3D并行的繼承MC模擬器的并行效率。

    對(duì)于高性能計(jì)算機(jī)在全數(shù)字設(shè)計(jì)和制造領(lǐng)域的集成應(yīng)用,國(guó)家超級(jí)計(jì)算廣州中心推出了天河星光云超算平臺(tái),以云服務(wù)的方式提供CAE計(jì)算和HPC訪問,大大降低了數(shù)字設(shè)計(jì)的門檻,支持產(chǎn)品設(shè)計(jì)的全工作流。目前基于該平臺(tái)支撐的項(xiàng)目有諸如國(guó)產(chǎn)大飛機(jī)、高鐵等,都是國(guó)家工業(yè)生產(chǎn)中重要項(xiàng)目。

    3.3 地球科學(xué)與環(huán)境工程

    基于該應(yīng)用領(lǐng)域,超級(jí)計(jì)算機(jī)的主要作用在于變革對(duì)自然界中諸如地理狀況、海洋、大氣等種種元素的模擬方式。以超算為平臺(tái),不僅能模擬出地球上每個(gè)時(shí)期的狀況,甚至是對(duì)宇宙中的種種同樣能進(jìn)行模擬分析,讓地球科學(xué)和環(huán)境工程的研究范圍不再限于此時(shí)此地,而是更廣闊的空間。

    在宇宙學(xué)的層面,早在2015年就利用高性能計(jì)算機(jī)模擬出宇宙大爆炸后1600萬(wàn)年之后至今約137億年的暗物質(zhì)和中微子的演化過程,并將進(jìn)一步尋找宇宙邊界的報(bào)告。中微子雖然是自然界中的基本粒子之一,在宇宙大爆炸約1s后與其他等離子體物質(zhì)退耦,形成看不見的宇宙背景,通過物理實(shí)驗(yàn)和實(shí)際的天文觀測(cè)都無(wú)法精確測(cè)量中微子的質(zhì)量。在高性能計(jì)算機(jī)平臺(tái)上,利用3萬(wàn)億粒子來(lái)對(duì)宇宙中的中微子和暗物質(zhì)的分布和演化進(jìn)行模擬,開創(chuàng)了宇宙學(xué)中獨(dú)立測(cè)量中微子質(zhì)量的道路。

    在地球外圍層面上,大氣變化同樣是一個(gè)關(guān)注點(diǎn)。Xue等人提出了一種基于高性能計(jì)算機(jī)的全球性大氣動(dòng)態(tài)模擬的混合算法。通過使用更靈活的域分區(qū)方案來(lái)支持節(jié)點(diǎn)中任意數(shù)量的CPU和加速器,算法能夠充分利用超算的優(yōu)良性能。當(dāng)使用8664個(gè)節(jié)點(diǎn),包括了近170萬(wàn)個(gè)核心時(shí),可以有效地利用節(jié)點(diǎn)內(nèi)的3個(gè)MIC卡,對(duì)兩個(gè)IvyBridge CPU(24個(gè)內(nèi)核)實(shí)現(xiàn)4.35倍的加速?;诔晒Φ挠?jì)算-通信重疊,算法分別在弱和強(qiáng)縮放測(cè)試中實(shí)現(xiàn)了93.5%和77%的并行效率。

    相較于廣袤無(wú)邊的宇宙,大部分人們對(duì)于腳下的土地更加關(guān)心。自然災(zāi)害如地震、泥石流等,可能會(huì)造成巨大的生命財(cái)產(chǎn)損失,而地下油氣資源又是經(jīng)濟(jì)社會(huì)發(fā)展所必需的,利用超級(jí)計(jì)算機(jī)去探索大地也是發(fā)展所需要的。

    中國(guó)石油天然氣集團(tuán)開發(fā)的用于石油油氣勘探的GeoEast系統(tǒng)已經(jīng)經(jīng)過了十幾年的發(fā)展更新,在數(shù)據(jù)模型、數(shù)據(jù)共享、一體化運(yùn)行模式、三維可視化、交互應(yīng)用框架、地震地質(zhì)建模、網(wǎng)絡(luò)運(yùn)行環(huán)境和并行處理方面取得了多項(xiàng)創(chuàng)新與重大技術(shù)突破,是地震數(shù)據(jù)處理解釋一體化系統(tǒng)。目前GeoEast V3.0版本軟件總體達(dá)到國(guó)際同類軟件先進(jìn)水平,為推動(dòng)中國(guó)石油勘探開發(fā)領(lǐng)域不斷取得新成果發(fā)揮了重要作用。但是,這樣的一體化系統(tǒng)在使用中勢(shì)必會(huì)產(chǎn)生大量的數(shù)據(jù),這就對(duì)計(jì)算機(jī)的性能有了要求。因此,在GeoEast系統(tǒng)聞名世界的過程中,高性能計(jì)算機(jī)在幕后是功臣之一,保證了系統(tǒng)的順利運(yùn)行,助力石油勘探工作。而文獻(xiàn)[35]專注于地震模擬,提出了針對(duì)英特爾至強(qiáng)處理器的對(duì)于軟件SeisSol的優(yōu)化,以適用于高性能計(jì)算機(jī)的計(jì)算環(huán)境中,通過全摩擦滑動(dòng)和地震波的耦合仿真實(shí)現(xiàn)了空前復(fù)雜的地震模型。移植到高性能計(jì)算機(jī)的SeisSol提供近乎最佳的弱縮放,在8192個(gè)節(jié)點(diǎn)上達(dá)到8.6DP-PFLOPS,在所利用的整個(gè)高性能計(jì)算機(jī)上能達(dá)到 18~20DPPFLOPS,成功模擬了1992年蘭德斯地震。

    3.4 智慧城市云計(jì)算

    城市發(fā)展經(jīng)過多年的調(diào)整,已經(jīng)在經(jīng)濟(jì)上有了相當(dāng)進(jìn)展,目前從如何讓人們生活更加便捷出發(fā),許多地區(qū)開始建設(shè)智慧城市。智慧城市(smart city)是指利用各種信息技術(shù)或創(chuàng)新意念,集成城市的組成系統(tǒng)服務(wù),以提升資源運(yùn)用的效率,優(yōu)化城市管理和服務(wù),進(jìn)而能夠提高居民生活質(zhì)量。智慧城市的發(fā)展不僅僅是對(duì)生活的改變,還能促進(jìn)生產(chǎn)方式的轉(zhuǎn)變,解決在城市擴(kuò)張及經(jīng)濟(jì)高速發(fā)展中產(chǎn)生的一系列“城市病”問題。智慧城市,代表的是城市的智慧,由智慧,能夠衍生出智能中、知識(shí)和數(shù)字等更廣泛的內(nèi)涵。

    迄今為止,廣州、北京、上海、寧波、無(wú)錫、深圳、武漢、佛山等國(guó)內(nèi)城市已紛紛啟動(dòng)“智慧城市”戰(zhàn)略,相關(guān)規(guī)劃、項(xiàng)目和活動(dòng)漸次推出。高性能計(jì)算機(jī)云平臺(tái)應(yīng)運(yùn)而生,為智慧城市建立堅(jiān)實(shí)、先進(jìn)的基石。智慧城市由于其性能需求,對(duì)依賴的平臺(tái)的計(jì)算能力的要求會(huì)更高,而超算的計(jì)算能力就能為智慧城市的建設(shè)提供相當(dāng)助力。在2014年,就有中國(guó)首臺(tái)千萬(wàn)億次超級(jí)計(jì)算機(jī)“天河一號(hào)”在智慧城市中應(yīng)用的報(bào)道,以其在天津?yàn)I海區(qū)的應(yīng)用為例,“天河一號(hào)”的建筑信息領(lǐng)域的大數(shù)據(jù)平臺(tái)通過對(duì)建筑信息建模,實(shí)現(xiàn)對(duì)建筑物從規(guī)劃、設(shè)計(jì)、建造到后期物業(yè)管理理的全程數(shù)字化。此外,城市規(guī)劃、氣象預(yù)測(cè)、生物醫(yī)療、裝備制造、汽車碰撞模擬等行業(yè),也能更多地通過“天河一號(hào)”,實(shí)現(xiàn)大批量數(shù)據(jù)計(jì)算、分析和存儲(chǔ)。

    而高性能計(jì)算機(jī)的持續(xù)計(jì)算速度進(jìn)一步達(dá)到了億億次,所能提供的服務(wù)質(zhì)量也更高,麒麟云平臺(tái)被部署在1920個(gè)節(jié)點(diǎn)(15個(gè)機(jī)柜),其中64個(gè)節(jié)點(diǎn)(兩個(gè)機(jī)框)作為云平臺(tái)控制節(jié)點(diǎn),其余節(jié)點(diǎn)為運(yùn)行虛擬機(jī)的計(jì)算節(jié)點(diǎn)和分布式存儲(chǔ)的存儲(chǔ)節(jié)點(diǎn)。為方便管理,將計(jì)算節(jié)點(diǎn)進(jìn)行分區(qū)管理,512個(gè)節(jié)點(diǎn)(4個(gè)機(jī)柜)為一區(qū),用于滿足生產(chǎn)環(huán)境、適配環(huán)境、測(cè)試環(huán)境需要。分布式存儲(chǔ)沒有分區(qū),所有節(jié)點(diǎn)形成一個(gè)全局的分布式存儲(chǔ)池,但在使用時(shí)可按需劃分指定容量的區(qū)域供不同用途使用。這種云超算服務(wù)采用麒麟安全云系統(tǒng)實(shí)現(xiàn)虛擬化技術(shù),將虛擬機(jī)資源遠(yuǎn)程推送給用戶使用??赏ㄟ^互聯(lián)網(wǎng)遠(yuǎn)程管理虛擬機(jī)資源,使高性能計(jì)算機(jī)云平臺(tái)資源能夠被更多人使用,超算的計(jì)算能力能夠更好地推動(dòng)社會(huì)各個(gè)領(lǐng)域發(fā)展。2017年OpenStack的第15個(gè)版本中,麒麟云團(tuán)隊(duì)在核心功能解決的Bug數(shù),以及Commits的數(shù)量均進(jìn)入全球前20,麒麟云的發(fā)展是非常迅速的,與開源社區(qū)緊密結(jié)合,貢獻(xiàn)突出。

    3.5 材料科學(xué)與工程

    在材料科學(xué)與工程的研究中,量子力學(xué)、經(jīng)典動(dòng)力學(xué)、統(tǒng)計(jì)力學(xué)是3大基礎(chǔ)且主要的研究方向。研究人員致力于材料參數(shù)的建模、多尺度平臺(tái)開發(fā)和新材料的設(shè)計(jì)、開發(fā)和優(yōu)化。

    分子動(dòng)力學(xué)模擬在材料科學(xué)、生物化學(xué)和生物物理學(xué)等領(lǐng)域得到了廣泛的應(yīng)用。分子動(dòng)力學(xué)(MD)是研究分子和分子的物理運(yùn)動(dòng)的計(jì)算機(jī)模擬方法,它提供分子尺度上的微觀取樣?;谀芰考?xì)化的輔助建模 AMBER(assisted model building with energy refinement)是用于MD模擬的使用最廣泛的軟件包之一。然而,對(duì)于具有百萬(wàn)原子級(jí)的系統(tǒng)的AMBER MD模擬的速度仍然需要改進(jìn)。彭紹亮等人在單CPU上的細(xì)粒度OpenMP并行、單節(jié)點(diǎn)CPU/MIC并行優(yōu)化和多節(jié)點(diǎn)多MIC協(xié)作并行加速方面進(jìn)行了改進(jìn)。在高性能計(jì)算機(jī)上實(shí)現(xiàn)AMBER的并行加速策略,與原程序相比,實(shí)現(xiàn)了25~33倍的最高加速比。同時(shí),對(duì)于計(jì)算資源的限制,分子動(dòng)力學(xué)軟件GROMACS不能大規(guī)模地進(jìn)行滿意的操作。Wang等人提出了一種利用卸載模式加速GROMACS的方法。為了提高GROMACS的效率,提出了異步化、數(shù)據(jù)重組和數(shù)組重用等一系列方法。在這種模式下,GROMACS可以與CPU和Intel Xeon PHITM 多個(gè)集成內(nèi)核(MIC)協(xié)處理器同時(shí)有效地配置,充分利用高性能計(jì)算機(jī)資源。

    材料輻照效應(yīng)(material irradiation effect)是使用核能的重要關(guān)鍵之一。然而,由于高通量輻照設(shè)施和進(jìn)化過程知識(shí)的缺乏,此效應(yīng)的利用并不好。在高性能計(jì)算的幫助下,Hu等人提出了一種新的數(shù)據(jù)結(jié)構(gòu),用于大規(guī)模并行模擬金屬材料在輻照環(huán)境下的演化。基于所提出的數(shù)據(jù)結(jié)構(gòu),開發(fā)了一種新的分子動(dòng)力學(xué)軟件—— Crystal MD,并在高性能計(jì)算機(jī)上進(jìn)行了2兆個(gè)原子模擬,對(duì)MD輻射效應(yīng)研究的模擬規(guī)模進(jìn)行了擴(kuò)展。

    3.6 其他領(lǐng)域

    近年來(lái),隨高性能計(jì)算的推廣,政府部門對(duì)超級(jí)計(jì)算機(jī)的重視,舊產(chǎn)業(yè)轉(zhuǎn)向新產(chǎn)業(yè)的變化及大量有高性能計(jì)算需求的企業(yè)對(duì)超級(jí)計(jì)算機(jī)的需求增大,超算人才培養(yǎng)初見成效。在應(yīng)用軟件開發(fā)等推動(dòng)下,高性能計(jì)算機(jī)的適用范圍逐漸向更多領(lǐng)域滲透。

    源于人工神經(jīng)網(wǎng)絡(luò)的研究深度學(xué)習(xí)作為人工智能的一個(gè)新研究領(lǐng)域,在模仿人腦的機(jī)制來(lái)解釋如圖像、聲音和文本數(shù)據(jù)上有了很大進(jìn)展。例如,卷積神經(jīng)網(wǎng)絡(luò)(CNN)能準(zhǔn)確地對(duì)大型圖像進(jìn)行識(shí)別處理,然而 CNN的訓(xùn)練密集程度很高,特別是對(duì)于大型具挑戰(zhàn)性的任務(wù),卷積層的參數(shù)數(shù)據(jù)量龐大。而高性能計(jì)算機(jī)的易訪問、高峰值等性能使學(xué)術(shù)界和工業(yè)界都可以輕松訪問相關(guān)平臺(tái),并可以在合理的時(shí)間內(nèi)訓(xùn)練中等和較大規(guī)模的CNN。使用基于輸入展開以將其投影為矩陣乘法(Unfold+Parallel-GEMM)的算法的CAFFE、Theano、Torch7、Chainer、CNTK和TensorFlow等最先進(jìn)的CNN基礎(chǔ)設(shè)施已可以在高性能計(jì)算機(jī)上進(jìn)行部署和應(yīng)用。

    增強(qiáng)現(xiàn)實(shí)技術(shù) AR(augmented reality),將真實(shí)世界信息模擬至虛擬世界,讓人隨時(shí)產(chǎn)生真實(shí)感受。通過高性能計(jì)算機(jī)高效地實(shí)現(xiàn)算法,可以數(shù)字虛擬孕育“互聯(lián)網(wǎng)+”新業(yè)態(tài),開發(fā)虛擬試衣、模擬試駕等應(yīng)用項(xiàng)目。

    4 結(jié)束語(yǔ)

    超級(jí)計(jì)算機(jī)作為當(dāng)前國(guó)際社會(huì)一大重點(diǎn)研究領(lǐng)域,其性能遠(yuǎn)超普通計(jì)算機(jī),利用其強(qiáng)大的并行計(jì)算能力,能夠?yàn)槠渌I(lǐng)域的科研生產(chǎn)工作提供助力。本文從生物計(jì)算與精準(zhǔn)醫(yī)療、全數(shù)字設(shè)計(jì)與制造、地球科學(xué)與環(huán)境工程、智慧城市云計(jì)算和材料科學(xué)與工程等領(lǐng)域的角度分析了高性能計(jì)算機(jī)的應(yīng)用狀況,結(jié)果表明利用超級(jí)計(jì)算機(jī)進(jìn)行模擬仿真、重現(xiàn)或推演等過程,能夠大大提高科研效率,降低人力成本。超級(jí)計(jì)算機(jī)研發(fā)不僅僅能推動(dòng)計(jì)算機(jī)領(lǐng)域本身的發(fā)展,更能為其他科研領(lǐng)域和工業(yè)生產(chǎn)的發(fā)展帶來(lái)新思路、新動(dòng)力,高性能計(jì)算機(jī)在各個(gè)領(lǐng)域的成果應(yīng)用佐證了這點(diǎn)。■

    猜你喜歡
    超級(jí)計(jì)算機(jī)高性能計(jì)算機(jī)
    超級(jí)計(jì)算機(jī)
    計(jì)算機(jī)操作系統(tǒng)
    超級(jí)計(jì)算機(jī)及其在航空航天領(lǐng)域中的應(yīng)用
    科技傳播(2019年22期)2020-01-14 03:06:36
    基于計(jì)算機(jī)自然語(yǔ)言處理的機(jī)器翻譯技術(shù)應(yīng)用與簡(jiǎn)介
    科技傳播(2019年22期)2020-01-14 03:06:34
    美國(guó)制造出全球最快超級(jí)計(jì)算機(jī)
    每秒100億億次 中國(guó)超級(jí)計(jì)算機(jī)
    信息系統(tǒng)審計(jì)中計(jì)算機(jī)審計(jì)的應(yīng)用
    一款高性能BGO探測(cè)器的研發(fā)
    電子制作(2017年19期)2017-02-02 07:08:49
    高性能砼在橋梁中的應(yīng)用
    SATA推出全新高性能噴槍SATAjet 5000 B
    视频区欧美日本亚洲| 免费在线观看亚洲国产| 男女那种视频在线观看| www日本在线高清视频| 日韩免费av在线播放| 88av欧美| 桃红色精品国产亚洲av| 黄色丝袜av网址大全| 欧美精品啪啪一区二区三区| 亚洲国产精品sss在线观看| 女生性感内裤真人,穿戴方法视频| 国产精品久久视频播放| 一本精品99久久精品77| 午夜两性在线视频| 亚洲第一青青草原| 日韩大码丰满熟妇| 黄片播放在线免费| 久久婷婷成人综合色麻豆| 一进一出好大好爽视频| 亚洲精华国产精华精| 可以免费在线观看a视频的电影网站| 亚洲中文日韩欧美视频| 最好的美女福利视频网| 日韩视频一区二区在线观看| 国产区一区二久久| 91九色精品人成在线观看| 999久久久国产精品视频| 国产成年人精品一区二区| 18美女黄网站色大片免费观看| 欧美一级毛片孕妇| 久久久久国产精品人妻aⅴ院| 亚洲精品一区av在线观看| 国产精品日韩av在线免费观看| 精品欧美国产一区二区三| 老司机福利观看| 校园春色视频在线观看| 国产精品一区二区免费欧美| 成人欧美大片| 亚洲国产精品久久男人天堂| 亚洲男人的天堂狠狠| 国产成人一区二区三区免费视频网站| 操出白浆在线播放| 人人妻人人澡人人看| 色综合欧美亚洲国产小说| 国产又黄又爽又无遮挡在线| 亚洲午夜理论影院| 又黄又爽又免费观看的视频| 日韩中文字幕欧美一区二区| 成年版毛片免费区| 在线观看66精品国产| 亚洲精品在线美女| 男女做爰动态图高潮gif福利片| 欧美激情高清一区二区三区| 成人亚洲精品av一区二区| 中文字幕高清在线视频| 久久久国产欧美日韩av| 色播亚洲综合网| 精品日产1卡2卡| 欧美性长视频在线观看| 日韩成人在线观看一区二区三区| 国产成人精品无人区| 桃色一区二区三区在线观看| 国产成+人综合+亚洲专区| 2021天堂中文幕一二区在线观 | 国产精品久久电影中文字幕| 一级黄色大片毛片| 久久天堂一区二区三区四区| a在线观看视频网站| 在线播放国产精品三级| 国产精品免费视频内射| 岛国视频午夜一区免费看| 男人的好看免费观看在线视频 | 侵犯人妻中文字幕一二三四区| 亚洲男人天堂网一区| 叶爱在线成人免费视频播放| 给我免费播放毛片高清在线观看| 亚洲精品国产一区二区精华液| 国产成人精品久久二区二区免费| 少妇 在线观看| 无遮挡黄片免费观看| 亚洲久久久国产精品| 国产精品久久久久久人妻精品电影| 黄色片一级片一级黄色片| 亚洲在线自拍视频| www日本在线高清视频| 日韩精品青青久久久久久| 免费在线观看完整版高清| 两个人视频免费观看高清| 亚洲成人久久爱视频| 精品久久久久久久久久久久久 | 日韩欧美国产一区二区入口| 国产私拍福利视频在线观看| 午夜福利在线观看吧| 高清在线国产一区| 国产爱豆传媒在线观看 | 精品一区二区三区四区五区乱码| 亚洲av成人一区二区三| 丁香欧美五月| 麻豆av在线久日| 91大片在线观看| 亚洲精品一卡2卡三卡4卡5卡| 亚洲精品中文字幕在线视频| 成人国产一区最新在线观看| 日韩精品青青久久久久久| 国产野战对白在线观看| 国产精品综合久久久久久久免费| 久久国产精品男人的天堂亚洲| 视频区欧美日本亚洲| 18禁裸乳无遮挡免费网站照片 | 亚洲人成伊人成综合网2020| 老司机福利观看| 又黄又粗又硬又大视频| 久久精品国产亚洲av香蕉五月| 这个男人来自地球电影免费观看| 高潮久久久久久久久久久不卡| 亚洲国产欧美日韩在线播放| 精品国产乱码久久久久久男人| 久久草成人影院| 欧美不卡视频在线免费观看 | 黄片大片在线免费观看| 淫妇啪啪啪对白视频| 成人av一区二区三区在线看| 日韩视频一区二区在线观看| 国产精品 欧美亚洲| 麻豆成人av在线观看| 欧美黄色片欧美黄色片| 精品熟女少妇八av免费久了| 欧美国产精品va在线观看不卡| 国内揄拍国产精品人妻在线 | 国产精品国产高清国产av| 两个人免费观看高清视频| 久久久久九九精品影院| 丁香六月欧美| 午夜激情av网站| 久久国产精品男人的天堂亚洲| 欧美性猛交╳xxx乱大交人| 亚洲成av人片免费观看| 欧美乱码精品一区二区三区| 国产免费av片在线观看野外av| 成人手机av| 国产1区2区3区精品| 日本五十路高清| 最近最新中文字幕大全免费视频| 亚洲在线自拍视频| 精华霜和精华液先用哪个| 男女视频在线观看网站免费 | 亚洲精品在线美女| 日韩欧美免费精品| 九色国产91popny在线| 99久久久亚洲精品蜜臀av| 嫩草影院精品99| 午夜福利成人在线免费观看| 悠悠久久av| 成在线人永久免费视频| 欧美久久黑人一区二区| 国产av在哪里看| 搡老妇女老女人老熟妇| 亚洲人成网站高清观看| 午夜免费成人在线视频| www.www免费av| 国产99久久九九免费精品| 悠悠久久av| 国产亚洲精品久久久久5区| 老司机福利观看| 亚洲国产高清在线一区二区三 | 精品国产乱码久久久久久男人| 久久性视频一级片| 男人操女人黄网站| 老司机午夜十八禁免费视频| 亚洲天堂国产精品一区在线| 亚洲国产欧美网| 国产精品国产高清国产av| 国产午夜福利久久久久久| 草草在线视频免费看| 51午夜福利影视在线观看| 国内精品久久久久久久电影| 国产99久久九九免费精品| 麻豆成人av在线观看| 日韩精品免费视频一区二区三区| 哪里可以看免费的av片| 免费看美女性在线毛片视频| 99热6这里只有精品| 国产成人av激情在线播放| 精品一区二区三区视频在线观看免费| 久久久国产精品麻豆| 老司机午夜福利在线观看视频| 日本成人三级电影网站| 久久久久久大精品| 国产精品永久免费网站| 女人高潮潮喷娇喘18禁视频| 国产精华一区二区三区| 美女国产高潮福利片在线看| 久久香蕉国产精品| 亚洲av电影不卡..在线观看| 自线自在国产av| 亚洲一码二码三码区别大吗| 亚洲av片天天在线观看| 一区二区日韩欧美中文字幕| 日韩有码中文字幕| 欧美性长视频在线观看| 一区二区三区国产精品乱码| 国产一级毛片七仙女欲春2 | 九色国产91popny在线| 少妇粗大呻吟视频| 国产精品九九99| 人人妻人人澡人人看| 国产熟女xx| 午夜福利18| 香蕉丝袜av| 成人三级做爰电影| 一级黄色大片毛片| 日本精品一区二区三区蜜桃| 久久香蕉激情| 成人精品一区二区免费| www.自偷自拍.com| 性色av乱码一区二区三区2| 久久久久国产一级毛片高清牌| 欧美国产精品va在线观看不卡| 丰满的人妻完整版| a在线观看视频网站| 人妻丰满熟妇av一区二区三区| 12—13女人毛片做爰片一| 国产精品九九99| 国产97色在线日韩免费| 又黄又粗又硬又大视频| 亚洲精品粉嫩美女一区| 久久热在线av| avwww免费| 久99久视频精品免费| 日韩精品中文字幕看吧| 国产精品一区二区三区四区久久 | 日韩免费av在线播放| 男女视频在线观看网站免费 | 2021天堂中文幕一二区在线观 | 国产野战对白在线观看| 国产国语露脸激情在线看| 国产黄片美女视频| 亚洲七黄色美女视频| 怎么达到女性高潮| 国产私拍福利视频在线观看| 亚洲男人的天堂狠狠| 久久欧美精品欧美久久欧美| 国产成人精品无人区| 特大巨黑吊av在线直播 | 国产精品av久久久久免费| 黄片大片在线免费观看| 久久久久久久久免费视频了| 欧美激情久久久久久爽电影| 少妇粗大呻吟视频| 国产主播在线观看一区二区| 欧美在线一区亚洲| 一卡2卡三卡四卡精品乱码亚洲| 日韩免费av在线播放| 视频在线观看一区二区三区| 色老头精品视频在线观看| 亚洲精品粉嫩美女一区| 午夜免费鲁丝| 欧美激情 高清一区二区三区| 国产97色在线日韩免费| 亚洲av成人不卡在线观看播放网| 1024手机看黄色片| 亚洲人成网站在线播放欧美日韩| 69av精品久久久久久| 亚洲午夜理论影院| 国产欧美日韩精品亚洲av| 法律面前人人平等表现在哪些方面| av中文乱码字幕在线| 禁无遮挡网站| 国产精品乱码一区二三区的特点| 天天添夜夜摸| 午夜日韩欧美国产| 亚洲精品色激情综合| 国产激情久久老熟女| 此物有八面人人有两片| 亚洲一卡2卡3卡4卡5卡精品中文| 成人特级黄色片久久久久久久| 欧美日韩乱码在线| 国产伦一二天堂av在线观看| 黄色视频,在线免费观看| 啦啦啦观看免费观看视频高清| avwww免费| 欧美黄色淫秽网站| 国产精品久久久久久亚洲av鲁大| 桃红色精品国产亚洲av| 亚洲人成网站在线播放欧美日韩| 麻豆av在线久日| 亚洲va日本ⅴa欧美va伊人久久| 国产午夜精品久久久久久| 久久久久精品国产欧美久久久| 一级a爱片免费观看的视频| 三级毛片av免费| 亚洲国产高清在线一区二区三 | 国产熟女xx| 女生性感内裤真人,穿戴方法视频| 91大片在线观看| 一区福利在线观看| 亚洲欧美激情综合另类| 99久久久亚洲精品蜜臀av| 18禁裸乳无遮挡免费网站照片 | 免费观看人在逋| 成人精品一区二区免费| 成人免费观看视频高清| 国产激情欧美一区二区| 一二三四社区在线视频社区8| 国产人伦9x9x在线观看| 国产蜜桃级精品一区二区三区| 久久久久国产一级毛片高清牌| 精品人妻1区二区| 操出白浆在线播放| 国内少妇人妻偷人精品xxx网站 | 国产精华一区二区三区| 成人特级黄色片久久久久久久| 亚洲精华国产精华精| 欧美日韩瑟瑟在线播放| 欧美zozozo另类| 搡老熟女国产l中国老女人| 亚洲熟妇熟女久久| 啦啦啦观看免费观看视频高清| 国产91精品成人一区二区三区| 国产精品久久电影中文字幕| 久久亚洲精品不卡| 精品久久久久久成人av| 草草在线视频免费看| 成人三级做爰电影| 大型黄色视频在线免费观看| 18禁美女被吸乳视频| 日本三级黄在线观看| 在线观看www视频免费| 波多野结衣高清作品| 99精品久久久久人妻精品| 可以在线观看毛片的网站| 韩国精品一区二区三区| 性色av乱码一区二区三区2| 午夜久久久久精精品| 天天躁狠狠躁夜夜躁狠狠躁| 欧美黄色淫秽网站| 国产在线观看jvid| 两人在一起打扑克的视频| 国产精品98久久久久久宅男小说| 亚洲熟妇中文字幕五十中出| 免费在线观看成人毛片| 欧美激情久久久久久爽电影| 国产精品二区激情视频| 欧美人与性动交α欧美精品济南到| 91在线观看av| 中文字幕人成人乱码亚洲影| 久久久久国内视频| 精品福利观看| 在线观看午夜福利视频| 国产精品亚洲一级av第二区| 国产精华一区二区三区| 老司机靠b影院| 亚洲色图 男人天堂 中文字幕| 国产亚洲精品久久久久久毛片| 免费搜索国产男女视频| 国产黄片美女视频| 日韩高清综合在线| 老汉色av国产亚洲站长工具| 黄色片一级片一级黄色片| 一级a爱视频在线免费观看| 露出奶头的视频| 国产aⅴ精品一区二区三区波| 久久国产乱子伦精品免费另类| 国产欧美日韩一区二区精品| 白带黄色成豆腐渣| 色综合站精品国产| www.熟女人妻精品国产| 女人高潮潮喷娇喘18禁视频| 欧美乱妇无乱码| 欧美精品啪啪一区二区三区| 久久久久久国产a免费观看| 亚洲天堂国产精品一区在线| 亚洲国产毛片av蜜桃av| 99在线视频只有这里精品首页| 欧美精品亚洲一区二区| 亚洲精品粉嫩美女一区| 日本在线视频免费播放| 欧美av亚洲av综合av国产av| 别揉我奶头~嗯~啊~动态视频| 国产精品1区2区在线观看.| 黑丝袜美女国产一区| 我的亚洲天堂| 少妇被粗大的猛进出69影院| 久久精品国产99精品国产亚洲性色| 天天躁夜夜躁狠狠躁躁| 日韩大码丰满熟妇| 欧美精品啪啪一区二区三区| 午夜福利免费观看在线| 亚洲av成人一区二区三| 久久中文字幕一级| 曰老女人黄片| 久久精品91无色码中文字幕| 中文亚洲av片在线观看爽| 午夜亚洲福利在线播放| 久久久久久久久中文| 18禁国产床啪视频网站| 久久性视频一级片| 一本综合久久免费| 亚洲成av片中文字幕在线观看| 女警被强在线播放| 一级a爱视频在线免费观看| 长腿黑丝高跟| 国产片内射在线| 午夜免费成人在线视频| 国产熟女午夜一区二区三区| 天天一区二区日本电影三级| 亚洲无线在线观看| 亚洲国产中文字幕在线视频| 最好的美女福利视频网| 视频在线观看一区二区三区| 搞女人的毛片| 久久久国产精品麻豆| 伦理电影免费视频| 神马国产精品三级电影在线观看 | 亚洲,欧美精品.| 法律面前人人平等表现在哪些方面| 久久国产乱子伦精品免费另类| 99在线视频只有这里精品首页| 欧美国产精品va在线观看不卡| 国产精品久久久久久精品电影 | 久久精品人妻少妇| 午夜免费激情av| 欧美国产精品va在线观看不卡| 国产精品二区激情视频| 成年女人毛片免费观看观看9| 亚洲国产精品999在线| 1024视频免费在线观看| 在线观看舔阴道视频| 999久久久国产精品视频| 精品久久久久久久毛片微露脸| 精品国内亚洲2022精品成人| 亚洲第一青青草原| 中出人妻视频一区二区| 久久精品人妻少妇| 91国产中文字幕| 婷婷精品国产亚洲av| 国产精品av久久久久免费| 啦啦啦韩国在线观看视频| 1024香蕉在线观看| 国产亚洲欧美精品永久| 日本五十路高清| e午夜精品久久久久久久| 久久久国产欧美日韩av| 国内久久婷婷六月综合欲色啪| 丰满的人妻完整版| 国产精品野战在线观看| 亚洲av第一区精品v没综合| 亚洲av五月六月丁香网| 91国产中文字幕| 亚洲 国产 在线| 久久精品国产99精品国产亚洲性色| 亚洲av成人av| 9191精品国产免费久久| 成人午夜高清在线视频 | 麻豆国产av国片精品| 午夜免费成人在线视频| 法律面前人人平等表现在哪些方面| 欧美激情 高清一区二区三区| 成人欧美大片| 亚洲精品中文字幕一二三四区| 国产精品一区二区精品视频观看| 给我免费播放毛片高清在线观看| АⅤ资源中文在线天堂| 亚洲精品中文字幕在线视频| 免费在线观看完整版高清| 亚洲人成伊人成综合网2020| 国产激情偷乱视频一区二区| 久久久水蜜桃国产精品网| 国产在线精品亚洲第一网站| 国产三级黄色录像| 久久国产亚洲av麻豆专区| 99国产综合亚洲精品| 国产伦在线观看视频一区| 国产精品精品国产色婷婷| 不卡av一区二区三区| 男女视频在线观看网站免费 | 国产精品久久视频播放| 变态另类成人亚洲欧美熟女| 欧美乱妇无乱码| 老汉色∧v一级毛片| 久久这里只有精品19| 一级a爱片免费观看的视频| 亚洲国产中文字幕在线视频| www.999成人在线观看| 在线国产一区二区在线| 国产黄色小视频在线观看| 一二三四在线观看免费中文在| 久久久久国内视频| 亚洲 欧美 日韩 在线 免费| 久久久精品国产亚洲av高清涩受| 国产在线观看jvid| 高清在线国产一区| 国产av不卡久久| 国产亚洲精品综合一区在线观看 | 亚洲欧美精品综合久久99| 国产高清激情床上av| 国产在线精品亚洲第一网站| 免费看美女性在线毛片视频| 一级黄色大片毛片| 亚洲成人久久爱视频| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲天堂国产精品一区在线| 视频区欧美日本亚洲| 亚洲最大成人中文| 亚洲成av人片免费观看| 男女午夜视频在线观看| www.熟女人妻精品国产| 欧美黑人巨大hd| 午夜日韩欧美国产| 18禁国产床啪视频网站| 亚洲熟女毛片儿| 国产精品自产拍在线观看55亚洲| 最新美女视频免费是黄的| 97碰自拍视频| 女警被强在线播放| 老熟妇仑乱视频hdxx| 在线观看免费日韩欧美大片| 一级毛片高清免费大全| 国产亚洲av高清不卡| 久久精品成人免费网站| 国产精品1区2区在线观看.| 久久精品夜夜夜夜夜久久蜜豆 | 69av精品久久久久久| 欧美性长视频在线观看| 国产三级黄色录像| 中文资源天堂在线| 亚洲男人天堂网一区| 黄色a级毛片大全视频| 国产精品一区二区三区四区久久 | 妹子高潮喷水视频| 日韩高清综合在线| 国产黄片美女视频| 99国产精品一区二区蜜桃av| 中文资源天堂在线| 听说在线观看完整版免费高清| 日日夜夜操网爽| 十八禁网站免费在线| 50天的宝宝边吃奶边哭怎么回事| 一区二区日韩欧美中文字幕| 成年女人毛片免费观看观看9| 此物有八面人人有两片| 99在线视频只有这里精品首页| 亚洲 欧美 日韩 在线 免费| 十八禁人妻一区二区| 又紧又爽又黄一区二区| 丝袜人妻中文字幕| 国产精品98久久久久久宅男小说| 18美女黄网站色大片免费观看| 欧美不卡视频在线免费观看 | 欧美成人一区二区免费高清观看 | 日本一区二区免费在线视频| 悠悠久久av| 亚洲一卡2卡3卡4卡5卡精品中文| 国产一区二区三区视频了| 十八禁人妻一区二区| 精品一区二区三区视频在线观看免费| 又大又爽又粗| 变态另类成人亚洲欧美熟女| 又大又爽又粗| 动漫黄色视频在线观看| 久久九九热精品免费| 中文亚洲av片在线观看爽| 国产精华一区二区三区| 精品一区二区三区视频在线观看免费| 亚洲成av人片免费观看| 黄色 视频免费看| 两性夫妻黄色片| 精品国产超薄肉色丝袜足j| 男人的好看免费观看在线视频 | 亚洲熟女毛片儿| 久9热在线精品视频| 999久久久国产精品视频| 国产国语露脸激情在线看| 欧美+亚洲+日韩+国产| 免费在线观看成人毛片| 国产亚洲精品第一综合不卡| 国产成人av教育| 国产精品久久久久久亚洲av鲁大| 美女 人体艺术 gogo| 伊人久久大香线蕉亚洲五| 国产精品美女特级片免费视频播放器 | 99re在线观看精品视频| 可以免费在线观看a视频的电影网站| 亚洲国产精品sss在线观看| 欧美丝袜亚洲另类 | 久久久久久国产a免费观看| 久久久久久久久中文| 成人亚洲精品一区在线观看| 人人澡人人妻人| 精品国产一区二区三区四区第35| 中文字幕精品亚洲无线码一区 | 97人妻精品一区二区三区麻豆 | 真人做人爱边吃奶动态| av有码第一页| 91九色精品人成在线观看| 免费观看人在逋| 黄色片一级片一级黄色片| 亚洲一区二区三区色噜噜| 久久香蕉激情| 好男人电影高清在线观看| 国产日本99.免费观看| 亚洲欧美日韩无卡精品| 婷婷丁香在线五月| 久久99热这里只有精品18| 国产又黄又爽又无遮挡在线| 美女高潮喷水抽搐中文字幕| 亚洲在线自拍视频| 久久久久久大精品| 女人爽到高潮嗷嗷叫在线视频| 搡老妇女老女人老熟妇| 白带黄色成豆腐渣| 1024视频免费在线观看| 精品国产亚洲在线| 精品熟女少妇八av免费久了| 亚洲精品一区av在线观看|