瑞萊智慧：聰明的防御專家

彭飛

位于北京市海淀區(qū)成府路的清華科技園，從來不缺少振奮人心的創(chuàng)業(yè)故事。北京瑞萊智慧科技有限公司（下稱“瑞萊智慧”）從一家校園孵化企業(yè)，經(jīng)過短短三年多的時間，快速成長為具有世界影響力的人工智能公司。它如啟明星般冉冉升起，令同行側(cè)目。

瑞萊智慧成立于2018年7月，由清華大學人工智能研究院孵化而來，是中國首家安全可控人工智能系統(tǒng)提供商。公司致力于將人工智能的不安全性降到最低，讓人工智能變得安全、可靠、可信與可擴展。相比研發(fā)某一項人工智能產(chǎn)品，打造動態(tài)演化、科學調(diào)整的安全防御體系，更具挑戰(zhàn)性。

2021年10月，瑞萊智慧迎來第四輪融資，累計融資額達數(shù)億美元，估值數(shù)十億元人民幣，正式躋身“準獨角獸”行列。近日，《法人》記者走進瑞萊智慧，試圖了解這家企業(yè)快速成長的“密碼”。

破殼而出，占盡天時地利人和

2月末的一個下午，記者走進瑞萊智慧新入駐的清華科技園辦公區(qū)。公司的一面墻上，醒目地展示著公司的價值觀：客戶為先、可靠利他、追求完美、行勝于言。偌大的辦公區(qū)中央，在一片城市街景的沙盤模型前，幾位算法研究人員正在進行自動駕駛安全測試。

瑞萊智慧的破殼而出占盡天時地利人和。2017年7月，國務(wù)院頒布《新一代人工智能發(fā)展規(guī)劃》明確提出，大力建設(shè)人工智能學科，完善人工智能領(lǐng)域?qū)W科布局，設(shè)立人工智能專業(yè)，推動人工智能領(lǐng)域一級學科建設(shè)。政策導向下，2018年國內(nèi)多所科研強?！旖虼髮W、南開大學、南京大學、上海交通大學、哈爾濱工業(yè)大學等陸續(xù)成立人工智能研究院，為人工智能領(lǐng)域人才儲備續(xù)足勢能。2021年，國家“十四五”規(guī)劃綱要公布，全文65章，“智能”“智慧”字樣出現(xiàn)了57處，為未來一段時期以人工智能為代表的新一代信息技術(shù)的長足發(fā)展擘畫了藍圖。

瑞萊智慧成立三年來，取得的業(yè)績和榮譽可圈可點。產(chǎn)品研發(fā)方面，公司不僅打造出全球首個針對AI系統(tǒng)的安全檢測和防御加固產(chǎn)品，而且在隱私計算、深偽檢測等方面，均有世界領(lǐng)先技術(shù)和獨創(chuàng)功能。據(jù)不完全統(tǒng)計，幾乎每一兩個月，公司便會摘得某項行業(yè)殊榮。如今，瑞萊智慧是“專精特新”中小企業(yè)、北京市專精特新“小巨人”、福布斯高增長瞪羚企業(yè)，榮獲“2021世界互聯(lián)網(wǎng)大會全球領(lǐng)先科技成果獎”和CAAD虛假人臉AI識別大賽冠軍等。

迄今為止，瑞萊智慧團隊多次在各類國際測評和競賽中斬獲冠軍，在ICML、NeurIPS、ICLR、CVPR等國際頂級會議上發(fā)表論文數(shù)百篇，參與了20余項國際、國家及行業(yè)標準的制定工作，累計獲得各項知識產(chǎn)權(quán)250余項，其中授權(quán)發(fā)明專利近60項。而90后的CEO田天憑借在學術(shù)與商業(yè)領(lǐng)域的杰出表現(xiàn)，獲評“青年AI科學家”稱號，2022年更是獲評“吳文俊人工智能優(yōu)秀青年獎”，成為該獎項設(shè)立以來首位以企業(yè)研發(fā)人員身份獲此殊榮的獲獎?wù)摺?/p>

田天在接受記者采訪時，道出了公司快速發(fā)展背后的另一面。“外界看到的是瑞萊智慧的快速發(fā)展，但實際上，商業(yè)化之前，我們的研究人員已經(jīng)坐了很多年冷板凳。”他表示，人工智能發(fā)展是一個長周期過程。在技術(shù)轉(zhuǎn)化成果之前，他和早期團隊成員已經(jīng)在學校實驗室做了多年科研工作。尤其在貝葉斯深度學習等技術(shù)領(lǐng)域，他的導師朱軍教授帶領(lǐng)團隊已深耕數(shù)十年，其開發(fā)的“珠算平臺”是最早的深度概率編程庫之一，朱軍教授也是目前國內(nèi)在這一領(lǐng)域的領(lǐng)軍人。

最高配置，構(gòu)建結(jié)構(gòu)性安全防御系統(tǒng)

2018年6月，清華大學人工智能研究院宣告成立。一個月后，由該研究院孵化而來的瑞萊智慧成立。彼時，公司只有5個聯(lián)合創(chuàng)始人，他們在清華FIT樓的一間會議室里開啟了創(chuàng)業(yè)之旅。

瑞萊智慧的團隊成員可謂行業(yè)“最高配置”，即使在全球人工智能領(lǐng)域，也具有風向標意義。公司幾位創(chuàng)始人都來自清華大學，聯(lián)合創(chuàng)始人兼CEO田天是清華大學人工智能方向博士，曾獲得清華大學學生最高榮譽“特等獎學金”與“西貝爾學者”稱號，也是清華大學計算機系近10余年來第一位研究生清華特等獎學金得主。公司首席科學家由清華大學人工智能研究院名譽院長張鈸院士、清華大學人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授共同擔任。

瑞萊智慧早期投資機構(gòu)之一基石資本天使基金合伙人黃依群曾評價，瑞萊智慧作為清華大學人工智能研究院官方孵化的第一個項目，在人才儲備、學術(shù)研究、科研項目和產(chǎn)業(yè)結(jié)合等方面非常領(lǐng)先。

早在2016年，中國科學院院士張鈸就提出發(fā)展第三代人工智能。他認為，今后發(fā)展的方向是把第一代人工智能知識驅(qū)動方法和第二代人工智能數(shù)據(jù)驅(qū)動方法結(jié)合起來，發(fā)展安全、可信、可靠和可擴展的人工智能技術(shù)，從而推動人工智能的創(chuàng)新應(yīng)用。

為此，瑞萊智慧團隊一直致力于推動第三代人工智能理論成果的產(chǎn)業(yè)轉(zhuǎn)化，打造基于第三代人工智能技術(shù)的基礎(chǔ)設(shè)施平臺，加速安全、可靠、可信的產(chǎn)業(yè)智能化升級。

“安全是最核心的基礎(chǔ)能力?！碧锾鞂τ浾弑硎?，當前人工智能技術(shù)基于深度學習算法，是個“黑盒子”，存在不可解釋等結(jié)構(gòu)性缺陷，將導致被惡意攻擊風險。

瑞萊智慧工作人員在公司現(xiàn)場向記者演示：正常情況下，當人站在攝像頭前，畫面中出現(xiàn)一個目標框，會被實時檢測出來。但如果在胸前放一件帶有特殊花紋的T恤，再次站在攝像頭前，目標框就消失了。

對此，工作人員進一步解釋：“這個特殊花紋被稱為‘對抗樣本’，能夠使目標檢測算法出錯，讓識別系統(tǒng)捕捉不到目標。這一漏洞，可能被不法分子用于惡意攻擊視頻監(jiān)控、安檢閘機等智能設(shè)備，躲避追蹤、冒充他人。在交通領(lǐng)域，也可能被用于干擾自動駕駛汽車的視覺識別系統(tǒng)，引發(fā)安全事故等。”

瑞萊智慧工作人員還模擬了一種破解手機人臉解鎖系統(tǒng)的場景：通過佩戴一副帶有“對抗樣本”花紋的眼鏡，一臺被鎖定的手機成功被解鎖?！皩嶋H上，很多人工智能場景都存在這樣的漏洞，如果不及時填補，金融、政務(wù)、能源等高價值關(guān)鍵場景將面臨極大風險。”田天介紹道。

為此，瑞萊智慧研發(fā)出人工智能安全平臺RealSafe。這是業(yè)內(nèi)首個業(yè)務(wù)級的人工智能安全平臺，可自動化高效評估AI系統(tǒng)安全風險，通過搭載的攻擊算法對系統(tǒng)進行模擬攻擊，評估系統(tǒng)表現(xiàn)，綜合給出安全性評分。之后，用戶再通過搭載的防御算法，針對性地進行加固提升，類似于人工智能時代的“殺毒軟件”。

“安全的本質(zhì)是攻防不斷升級，攻擊的目的是為了更好地防御。我們通過先于黑客找到系統(tǒng)漏洞，提前研發(fā)防御技術(shù)，有效應(yīng)對新型安全風險?！碧锾旖忉尩?。

智能“向善”，防范技術(shù)濫用

目前，人工智能在新基建東風下正逐步邁入深度產(chǎn)業(yè)融合階段，但隨之帶來的算法漏洞、隱私泄露、技術(shù)濫用等安全隱患正在加劇。

“應(yīng)促使人工智能不斷向‘善’的方向進化，完善的人工智能將讓每個人更幸福?！碧锾鞂τ浾弑硎荆婪度斯ぶ悄芗夹g(shù)濫用是公司重點關(guān)注的方向。

“AI換臉”曾風靡一時，被用于非法偽造公眾人物肖像吸引流量牟利，甚至是色情宣傳、操縱輿論、網(wǎng)絡(luò)欺詐等違法犯罪行為，成為人工智能技術(shù)被濫用的重災區(qū)。為此，瑞萊智慧開發(fā)了深度偽造內(nèi)容檢測平臺DeepReal，支持快速、精準地對多種格式與質(zhì)量的圖像與視頻進行自動化真?zhèn)舞b別，可應(yīng)用于檢測圖像物證真實性、檢測網(wǎng)絡(luò)內(nèi)容合規(guī)性、打擊侵害個人聲譽行為、提升人臉識別系統(tǒng)安全性等多個場景。

據(jù)了解，該項技術(shù)已被多地公安機關(guān)應(yīng)用于網(wǎng)絡(luò)圖像與視頻內(nèi)容合規(guī)性檢測，以打擊詐騙、非法虛假宣傳。同時，該項技術(shù)被中國信通院用于國家級重要科研項目建設(shè)，以及檢測虛假人臉數(shù)據(jù)。目前，該平臺在主流學術(shù)數(shù)據(jù)集和網(wǎng)絡(luò)數(shù)據(jù)集中的檢測準確率高達99%以上，產(chǎn)業(yè)應(yīng)用中檢測準確率和效率均達業(yè)界頂尖水平。

瑞萊智慧的成果遠不止于此。圍繞數(shù)據(jù)安全問題，瑞萊智慧推出隱私保護計算平臺RealSecure。這是一款基于安全多方計算、聯(lián)邦學習、匿蹤查詢等技術(shù)打造的數(shù)據(jù)安全共享基礎(chǔ)平臺，通過打通數(shù)據(jù)孤島，將計算環(huán)節(jié)移動到數(shù)據(jù)端，實現(xiàn)了數(shù)據(jù)安全和共享流通。

針對建設(shè)新型人工智能安全防御體系，瑞萊智慧推出人工智能“安全靶場”RealRange。這是業(yè)內(nèi)首個實戰(zhàn)化、體系化的一站式人工智能攻防演練平臺，通過預設(shè)訓練場景模型、對抗攻防實戰(zhàn)競演，幫助政企實現(xiàn)精準挖掘薄弱環(huán)節(jié)、驗證攻防能力、敏捷迭代防御體系等全方位能力。

截至目前，瑞萊智慧已經(jīng)在政務(wù)、金融、能源、制造、互聯(lián)網(wǎng)等領(lǐng)域落地，為近百家企業(yè)機構(gòu)提供產(chǎn)品服務(wù)。

“智能向善，是我們的使命所在?！闭劦焦驹妇埃锾焯寡?，公司在成立之初，即圍繞人工智能產(chǎn)業(yè)鏈的基礎(chǔ)數(shù)據(jù)、算法技術(shù)、應(yīng)用產(chǎn)品三方面布局安全能力，推動人工智能向著對社會有益的方向穩(wěn)健發(fā)展，這一點一直沒有改變。不過，他同時認為，新技術(shù)的影響往往具有兩面性，人工智能的創(chuàng)新發(fā)展與安全治理必須同步進行。