當(dāng)合成生物學(xué)遇上AI 生物安保風(fēng)險(xiǎn)需警惕

張建新 栗雅婷

專家指出，人工智能技術(shù)幫助合成生物學(xué)克服的一個(gè)基本挑戰(zhàn)，即從海量復(fù)雜體系中尋找最優(yōu)解

由于在人工智能的幫助下進(jìn)入合成生物學(xué)研究領(lǐng)域的非專業(yè)群體可能不隸屬于任何研究機(jī)構(gòu)或組織而被科學(xué)共同體及機(jī)構(gòu)審查和管理排除在外，因此其引發(fā)的生物安全風(fēng)險(xiǎn)會(huì)更加難以監(jiān)測(cè)和管理

惡意行為者可能通過欺騙方式繞過人工智能保護(hù)措施，利用ChatGPT獲取具有大流行潛力的病毒序列、組裝病毒基因組的技術(shù)、必要的實(shí)驗(yàn)室用品和可以提供這些設(shè)備的公司等信息，這些都可能使已知病毒變得更加危險(xiǎn)

抗癌藥物、可再生生物燃料、嘗起來像肉的無肉漢堡、已滅絕花朵的香味……近幾年，蓬勃發(fā)展的合成生物學(xué)正在悄然改變?nèi)藗兊纳睢?/p>

合成生物學(xué)是一門結(jié)合生物學(xué)、工程學(xué)和計(jì)算機(jī)科學(xué)的跨學(xué)科領(lǐng)域，旨在設(shè)計(jì)和構(gòu)建具有新功能的生物系統(tǒng)?！昂铣缮飳W(xué)就像奶牛產(chǎn)奶的過程?！庇袠I(yè)內(nèi)人士曾這樣解釋合成生物學(xué)的研究?jī)?nèi)容，“在合成生物學(xué)中，底盤細(xì)胞相當(dāng)于奶牛，各種原料相當(dāng)于低價(jià)值的草料。研究人員通過基因編輯技術(shù)改造底盤細(xì)胞，添加低廉原料后經(jīng)過發(fā)酵等一系列工藝產(chǎn)生的高價(jià)值的化學(xué)或生物原料，就相當(dāng)于生產(chǎn)牛奶”。

合成生物產(chǎn)出的“牛奶”在醫(yī)療健康、化工、農(nóng)業(yè)、食品等多個(gè)領(lǐng)域具有廣泛的應(yīng)用場(chǎng)景。麥肯錫咨詢公司曾發(fā)布數(shù)據(jù)，預(yù)計(jì)到2025年，合成生物學(xué)與生物制造的經(jīng)濟(jì)影響將達(dá)到1000億美元；2030—2040年，合成生物學(xué)每年帶來的經(jīng)濟(jì)影響將達(dá)到1.8萬億—3.6萬億美元。

隨著人工智能（AI）技術(shù)的快速發(fā)展，越來越多的研究者開始探索將AI應(yīng)用于合成生物學(xué)，進(jìn)一步促進(jìn)了合成生物學(xué)在化學(xué)品制造、新穎材料、人類健康及環(huán)境保護(hù)等方面的進(jìn)步。

然而，人工智能與合成生物的深入融合也在一定程度上帶來了更多風(fēng)險(xiǎn)。在接受記者采訪時(shí)，天津大學(xué)生物安全戰(zhàn)略研究中心副教授王方忠表示，人工智能可能誘發(fā)更多生物安保風(fēng)險(xiǎn)，如加大生物安全風(fēng)險(xiǎn)概率、提升生物安全風(fēng)險(xiǎn)危害程度等。

專家指出，降低生物安保風(fēng)險(xiǎn)需要從加強(qiáng)生物防御戰(zhàn)略部署、重視相關(guān)領(lǐng)域人才培養(yǎng)、提高合成產(chǎn)品監(jiān)管力度等方面著力。

人工智能賦能合成生物學(xué)發(fā)展

合成生物學(xué)的目的是設(shè)計(jì)符合標(biāo)準(zhǔn)的生物系統(tǒng)，基于工程設(shè)計(jì)原則，利用工程可預(yù)測(cè)性控制復(fù)雜系統(tǒng)構(gòu)建的“設(shè)計(jì)-構(gòu)建-測(cè)試-學(xué)習(xí)”循環(huán)（DBTL）逐漸成為合成生物學(xué)的核心策略。在生物制造領(lǐng)域，DBLT循環(huán)四個(gè)階段循環(huán)往復(fù)可以成功構(gòu)建需要的細(xì)胞，生產(chǎn)出合適的產(chǎn)品。

隨著人們對(duì)“牛奶”需求的不斷提高，人工智能技術(shù)被引入并應(yīng)用于合成生物學(xué)研究領(lǐng)域。當(dāng)前，人工智能已在基因線路、代謝工程、基因組工程等合成生物學(xué)領(lǐng)域廣泛應(yīng)用，既有助于提升生物工程的研發(fā)效率，還能夠降低研究門檻，成為推動(dòng)合成生物學(xué)發(fā)展的有力工具。

——提升生物工程研究效率。

8月9日，實(shí)驗(yàn)與臨床醫(yī)學(xué)領(lǐng)域的重要期刊《臨床藥理學(xué)與治療學(xué)》刊發(fā)了一項(xiàng)研究，介紹了一款人工智能臨床試驗(yàn)預(yù)測(cè)引擎inClinico及其準(zhǔn)確預(yù)測(cè)的多項(xiàng)臨床試驗(yàn)Ⅱ期至Ⅲ期轉(zhuǎn)化結(jié)果。

“目前，有超過半數(shù)的Ⅱ期臨床試驗(yàn)都以失敗告終，導(dǎo)致數(shù)千億美元和多年的努力付諸東流。臨床試驗(yàn)失敗背后有著許多復(fù)雜的原因，而人工智能在解決這個(gè)問題上有著得天獨(dú)厚的優(yōu)勢(shì)?！痹撜撐淖髡哒J(rèn)為，借助AI工具準(zhǔn)確預(yù)測(cè)臨床試驗(yàn)Ⅱ期至Ⅲ期的轉(zhuǎn)化成功率可以幫助研究者在藥物發(fā)現(xiàn)過程中更早地引導(dǎo)臨床試驗(yàn)取得成功結(jié)果。

專家指出，人工智能技術(shù)幫助合成生物學(xué)克服的一個(gè)基本挑戰(zhàn)，即從海量復(fù)雜體系中尋找最優(yōu)解。此前，由于無法預(yù)測(cè)生物工程的結(jié)果，合成生物學(xué)的細(xì)胞工程目標(biāo)（即逆向設(shè)計(jì)）只能通過大量試錯(cuò)來實(shí)現(xiàn)，效率低下，而人工智能可以利用公開數(shù)據(jù)和實(shí)驗(yàn)數(shù)據(jù)來預(yù)測(cè)結(jié)果。

不僅是在數(shù)據(jù)分析與預(yù)測(cè)方面，人工智能還有助于在合成生物的基因組設(shè)計(jì)與優(yōu)化、蛋白質(zhì)工程與設(shè)計(jì)、生物系統(tǒng)模擬與優(yōu)化等各環(huán)節(jié)提升工作效率、降低成本，縮短研發(fā)周期。

例如，人工智能可以幫助研究人員處理和分析大規(guī)模的生物數(shù)據(jù)，包括基因組、蛋白質(zhì)組和代謝組等信息。利用機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘技術(shù)，人工智能可以從海量的信息中發(fā)現(xiàn)模式和趨勢(shì)，用以預(yù)測(cè)生物系統(tǒng)的行為和反應(yīng)。

“目前已有科學(xué)家通過小規(guī)模的試驗(yàn)結(jié)果或利用數(shù)據(jù)庫(kù)中存儲(chǔ)的病毒基因序列構(gòu)建人工智能模型，在不破壞病毒其他特征的基礎(chǔ)上預(yù)測(cè)病毒突變后是否會(huì)逃逸人類免疫系統(tǒng)檢測(cè)。”王方忠介紹，目前該研究已在禽流感病毒、HIV病毒等建立相關(guān)模型。隨著更多病毒序列的發(fā)現(xiàn)和公布，預(yù)計(jì)會(huì)有更多針對(duì)不同種類病毒的預(yù)測(cè)突變模型出現(xiàn)。

——降低合成生物學(xué)研究門檻。

近日，一網(wǎng)友發(fā)布了自己與ChatGPT關(guān)于合成生物學(xué)的對(duì)話。對(duì)話內(nèi)容顯示，ChatGPT不僅可以回答“如何向一個(gè)八歲的孩子解釋合成生物學(xué)”“年輕人如何開始從事合成生物學(xué)”等相對(duì)具有科普性質(zhì)的問題，還可以回答“設(shè)計(jì)一個(gè)能夠在大腸桿菌中高濃度表達(dá)GFP的基因序列”等專業(yè)問題，讓學(xué)習(xí)者學(xué)習(xí)合成生物學(xué)相關(guān)專業(yè)知識(shí)的難度大大降低。

與此同時(shí)，基于人工智能技術(shù)的合成生物技術(shù)服務(wù)不斷商業(yè)化進(jìn)一步降低了合成相關(guān)產(chǎn)品的難度。例如，目前已有生物科技企業(yè)可以為客戶提供合成新物質(zhì)的整體設(shè)計(jì)方案、利用人工智能與生物計(jì)算技術(shù)進(jìn)行虛擬篩選并進(jìn)行規(guī)模化量產(chǎn)。在人工智能的幫助下，合成生物學(xué)技術(shù)具有了更廣泛的可及性。

業(yè)內(nèi)人士指出，隨著低成本且簡(jiǎn)單實(shí)用的實(shí)驗(yàn)工具的成熟、生物技術(shù)知識(shí)的通俗化，合成生物學(xué)研發(fā)的開源化以及新型生物設(shè)計(jì)—建造機(jī)構(gòu)的成立，合成生物學(xué)研究領(lǐng)域不僅僅是高技能、具有豐富的生物醫(yī)學(xué)知識(shí)的高級(jí)專家的領(lǐng)地，而且會(huì)吸納大量沒有生物學(xué)經(jīng)驗(yàn)的科學(xué)家或業(yè)余愛好者參與進(jìn)來。

誘發(fā)更多生物安保風(fēng)險(xiǎn)

2017年，一位加拿大病毒學(xué)家僅花費(fèi)10萬美元就合成出了天花病毒的“近親”馬痘病毒，引發(fā)人們對(duì)于“天花病毒是否會(huì)卷土重來”的擔(dān)憂。

在人工智能促進(jìn)合成生物學(xué)快速發(fā)展的同時(shí)，也可能導(dǎo)致生物安全風(fēng)險(xiǎn)概率的加大、危害程度的提升，給現(xiàn)有生物安全和生物安保治理帶來更多挑戰(zhàn)。

值得關(guān)注的是，由惡意行為者故意釋放生物制劑或材料造成的生物安保風(fēng)險(xiǎn)也可能在人工智能的輔助下進(jìn)一步擴(kuò)大。

——加大生物安全風(fēng)險(xiǎn)概率。

業(yè)內(nèi)人士認(rèn)為，人工智能與合成生物學(xué)的結(jié)合在降低研究門檻的同時(shí)，也增加了合成生物被惡意使用的概率。

“惡意行為者只需要具備基本的代碼運(yùn)行能力便可將一個(gè)有用的醫(yī)學(xué)工具轉(zhuǎn)變?yōu)榭赡苤旅肿拥纳善??！蓖醴街艺f，惡意行為者利用開源模型代碼和公共數(shù)據(jù)庫(kù)即可完成創(chuàng)建新毒素?cái)?shù)據(jù)庫(kù)。

記者在調(diào)查中發(fā)現(xiàn)，在公開學(xué)術(shù)期刊及網(wǎng)站上，已有大量關(guān)于如何利用人工智能技術(shù)優(yōu)化化學(xué)品合成通路遺傳設(shè)計(jì)的方案。例如，有文章介紹了通過顛倒機(jī)器學(xué)習(xí)模型的使用邏輯對(duì)特定毒性分子進(jìn)行建模從而在6小時(shí)內(nèi)驅(qū)動(dòng)模型創(chuàng)造出4萬個(gè)新毒素分子的方法。

“在人工智能的助力下，合成新毒素的時(shí)間成本和經(jīng)濟(jì)成本只會(huì)更低，所引發(fā)的生物安保風(fēng)險(xiǎn)也會(huì)更加隱蔽?！蓖醴街艺f。

此外，天津大學(xué)生物安全戰(zhàn)略研究中心副教授薛楊認(rèn)為，由于在人工智能的幫助下進(jìn)入合成生物學(xué)研究領(lǐng)域的非專業(yè)群體可能不隸屬于任何研究機(jī)構(gòu)或組織而被科學(xué)共同體及機(jī)構(gòu)審查和管理排除在外，因此其引發(fā)的生物安全風(fēng)險(xiǎn)會(huì)更加難以監(jiān)測(cè)和管理。

——增加生物安全風(fēng)險(xiǎn)危害程度。

增強(qiáng)病毒免疫逃逸能力是增強(qiáng)病毒毒性的重要手段，在人工智能的幫助下，這將變得不再那么困難。

專家向記者介紹，一些毒素的合成可能會(huì)帶來病原體毒力提升或非致病病原體致病、病原體傳播能力提升、病原體宿主改變、診斷措施無效、疫苗無效、抗生素耐藥性等風(fēng)險(xiǎn)，而這些情況的出現(xiàn)可能對(duì)人體產(chǎn)生致命影響。

例如，惡意行為者可能利用合成生物學(xué)技術(shù)，有針對(duì)性地編輯腸道菌群中影響免疫功能的微生物，通過空氣、水或者食物傳播，削弱人體免疫力。一旦這樣的做法被惡意行為者進(jìn)行工程化改造，則可能引發(fā)大規(guī)模的病毒感染風(fēng)險(xiǎn)。

“當(dāng)前，我們識(shí)別及歸因攻擊的能力較弱，消減措施也不足，即使是輕微的惡意操作腸道微生物菌群，也可逐漸改變?nèi)说纳砗托袨槟芰?。”天津大學(xué)生物安全戰(zhàn)略研究中心主任張衛(wèi)文說。

此外，人工智能聊天機(jī)器人也可能被惡意利用，成為增強(qiáng)已知病毒毒性的工具。

在麻省理工學(xué)院的一項(xiàng)課堂測(cè)試中，ChatGPT在一小時(shí)內(nèi)提出了4個(gè)潛在的大流行病原體，并幫助學(xué)生確定了哪些病原體殺傷力最大，提供了可能協(xié)助進(jìn)行DNA合成的公司名單，甚至還告知學(xué)生們?nèi)绾纹垓_這些公司來獲得服務(wù)。

“惡意行為者可能通過欺騙方式繞過人工智能保護(hù)措施，利用ChatGPT獲取具有大流行潛力的病毒序列、組裝病毒基因組的技術(shù)、必要的實(shí)驗(yàn)室用品和可以提供這些設(shè)備的公司等信息，這些都可能使已知病毒變得更加危險(xiǎn)。”王方忠說。

降低生物安保風(fēng)險(xiǎn)需多方努力

多位受訪專家指出，盡管合成生物學(xué)與人工智能深度融合可能存在一定生物安保風(fēng)險(xiǎn)，但不應(yīng)“因噎廢食”。政府、學(xué)術(shù)界、產(chǎn)業(yè)界應(yīng)共同努力，采取“謹(jǐn)慎預(yù)防”和“產(chǎn)品導(dǎo)向”相結(jié)合的方式制定對(duì)策方案，保證技術(shù)進(jìn)步的同時(shí)最大程度減少風(fēng)險(xiǎn)發(fā)生。

加強(qiáng)生物防御戰(zhàn)略部署。王方忠建議，政府相關(guān)部門應(yīng)加強(qiáng)生物防御戰(zhàn)略部署，研究制定長(zhǎng)期發(fā)展規(guī)劃，重視相關(guān)領(lǐng)域研究，加大政策和資金支持力度。推動(dòng)建立生物安全國(guó)家高端智庫(kù)，形成生物安全高端人才匯聚地。

此外，專家建議學(xué)術(shù)界應(yīng)努力增強(qiáng)從業(yè)人員風(fēng)險(xiǎn)意識(shí)和責(zé)任感，將相關(guān)安全培訓(xùn)納入項(xiàng)目申請(qǐng)、審批和實(shí)施階段。從業(yè)人員應(yīng)盡可能提高風(fēng)險(xiǎn)識(shí)別、評(píng)估、應(yīng)對(duì)及消減能力。

重視相關(guān)領(lǐng)域人才培養(yǎng)。張衛(wèi)文表示，應(yīng)重視相關(guān)領(lǐng)域的人才培養(yǎng)與教育，將更多具有相關(guān)專業(yè)知識(shí)和經(jīng)驗(yàn)的政府、學(xué)術(shù)界、產(chǎn)業(yè)界人員吸收到現(xiàn)有的合成生物學(xué)風(fēng)險(xiǎn)管理體系中，完善風(fēng)險(xiǎn)審查和咨詢專家?guī)臁Ｍ瑫r(shí)，要注重培養(yǎng)下一代具有國(guó)際視野的人工智能和合成生物學(xué)風(fēng)險(xiǎn)管理專業(yè)人才，實(shí)現(xiàn)人才不斷更新迭代。

提高合成產(chǎn)品監(jiān)管力度。薛楊建議，人工智能技術(shù)在合成生物領(lǐng)域的應(yīng)用使得化學(xué)武器與生物武器的界限進(jìn)一步模糊。有關(guān)人士表示，應(yīng)鼓勵(lì)建立人工智能與合成生物學(xué)深度融合產(chǎn)生的風(fēng)險(xiǎn)報(bào)告機(jī)制，建立化學(xué)合成或生物合成“白清單”和“黑清單”，要求從事化學(xué)或生物合成的公司及高通量篩選公司應(yīng)根據(jù)清單內(nèi)容，決定是否提供服務(wù)。

此外，產(chǎn)業(yè)界應(yīng)差異化推動(dòng)合成產(chǎn)品商業(yè)化進(jìn)程，盡快推進(jìn)相關(guān)法律法規(guī)出臺(tái)，明確各類產(chǎn)品申報(bào)、審批及市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn)。

（摘自《瞭望》新聞周刊2023年第40—41期。作者均為該刊記者）

■ 本欄編輯 相利盈