天津人工智能技術(shù)風(fēng)險(xiǎn)與對(duì)策研究

文/趙繪存

一、天津人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀

人工智能技術(shù)已經(jīng)成為天津城市發(fā)展的重要技術(shù)載體。在基礎(chǔ)設(shè)施建設(shè)層面，2020年6月底，天津移動(dòng)第6000個(gè)5G基站順利建成，率先實(shí)現(xiàn)天津行政區(qū)域5G信號(hào)全覆蓋。在產(chǎn)業(yè)層面，天津形成以人工智能為核心、以新一代信息技術(shù)為引領(lǐng)、以智能制造為主攻方向、以新型智能基礎(chǔ)設(shè)施為關(guān)鍵支撐、各領(lǐng)域深度融合發(fā)展的產(chǎn)業(yè)格局。在應(yīng)用層面，目前，天津在智能制造、智慧城市、智慧教育、智慧醫(yī)療、智慧媒體等垂直行業(yè)的應(yīng)用發(fā)展已形成80個(gè)5G應(yīng)用場(chǎng)景（40個(gè)實(shí)施中、40個(gè)待實(shí)施）。在智能制造層面，兩年來(lái)，天津共支持了4批911個(gè)智能化改造項(xiàng)目，安排財(cái)政資金36.2億元，打造高質(zhì)量、多領(lǐng)域的智能工廠、數(shù)字化車(chē)間，推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)。人工智能產(chǎn)業(yè)的快速發(fā)展，產(chǎn)業(yè)技術(shù)深度覆蓋的同時(shí)，不可避免地將技術(shù)所帶來(lái)的安全風(fēng)險(xiǎn)擴(kuò)散到社會(huì)的各個(gè)領(lǐng)域。

二、天津人工智能技術(shù)發(fā)展的潛在風(fēng)險(xiǎn)識(shí)別

（一）社會(huì)輿情風(fēng)險(xiǎn)

一是虛假新聞問(wèn)題。通過(guò)人工智能技術(shù)，能夠虛構(gòu)物體或是人物的運(yùn)動(dòng)軌跡，比如非法的視頻剪輯制作，可能導(dǎo)致謠言快速地?cái)U(kuò)散，對(duì)天津城市建設(shè)產(chǎn)生不良的影響。二是數(shù)據(jù)的非法使用問(wèn)題。如當(dāng)前大數(shù)據(jù)分析應(yīng)用的持續(xù)拓展，使得獲取數(shù)據(jù)的過(guò)程變得更加的輕松和容易，更多的人群可以通過(guò)抓取網(wǎng)絡(luò)數(shù)據(jù)進(jìn)行數(shù)據(jù)分析，有可能因?yàn)閭€(gè)人的偏好造成數(shù)據(jù)偏頗的分析結(jié)果，從而對(duì)社會(huì)形成非常不良的影響。

（二）公眾信息風(fēng)險(xiǎn)

一是數(shù)據(jù)泄漏引發(fā)的隱私安全。個(gè)人數(shù)據(jù)的采集與利用過(guò)程中，不可避免地造成信息的傳播或泄露，由此引發(fā)信息泄露、侵犯隱私的風(fēng)險(xiǎn)。如當(dāng)前我們正進(jìn)入一個(gè)APP大規(guī)模應(yīng)用的時(shí)代，各種各樣的APP都會(huì)根據(jù)需要獲取個(gè)人信息，但每個(gè)APP背后的信息保護(hù)程度千差萬(wàn)別，個(gè)人信息泄露時(shí)有發(fā)生。二是數(shù)據(jù)偽造引發(fā)的隱私安全。人工智能圖像識(shí)別、語(yǔ)音合成技術(shù)的發(fā)展，使人工合成一個(gè)人的聲音和外貌成為可能，將會(huì)產(chǎn)生非常大的影響，比如利用上述技術(shù)通過(guò)網(wǎng)絡(luò)進(jìn)行詐騙活動(dòng)，將會(huì)對(duì)天津居民的人身財(cái)產(chǎn)產(chǎn)生威脅。三是數(shù)據(jù)偏好應(yīng)用誘發(fā)社會(huì)治理風(fēng)險(xiǎn)。人工智能技術(shù)對(duì)于個(gè)人偏好的數(shù)據(jù)化處理，在購(gòu)物網(wǎng)站，通過(guò)捕捉消費(fèi)者瀏覽網(wǎng)頁(yè)的習(xí)慣來(lái)獲取消費(fèi)者購(gòu)買(mǎi)特定商品的意愿，進(jìn)而有針對(duì)性地進(jìn)行廣告的營(yíng)銷(xiāo)和宣傳，非常容易誘發(fā)過(guò)度消費(fèi)，而過(guò)度消費(fèi)對(duì)于經(jīng)濟(jì)條件尚不成熟的人群（如大學(xué)生和剛剛就業(yè)的人群）容易引發(fā)背后的社會(huì)犯罪行為，形成社會(huì)治理的隱患。

（三）生產(chǎn)安全風(fēng)險(xiǎn)

人工智能在生產(chǎn)安全上的雙刃劍效應(yīng)之一就是技術(shù)不合理應(yīng)用以及新技術(shù)發(fā)展所誘發(fā)的深度網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。一是政府管理服務(wù)方面，據(jù)有關(guān)數(shù)據(jù)統(tǒng)計(jì)，地方政府網(wǎng)站正成為黑客攻擊的“重災(zāi)區(qū)”，一旦遭受攻擊，將造成重大數(shù)據(jù)的損失，甚至?xí)谡W(wǎng)站上發(fā)布不實(shí)消息，引發(fā)輿論風(fēng)險(xiǎn)。二是工業(yè)生產(chǎn)智能化網(wǎng)絡(luò)設(shè)備被劫持誘發(fā)的安全風(fēng)險(xiǎn)。截至2019年底，全市智能工廠和數(shù)字車(chē)間數(shù)量分別達(dá)到60家和100家，智能制造類(lèi)企業(yè)占規(guī)上企業(yè)數(shù)量近乎1/5。同時(shí)，天津納入統(tǒng)計(jì)的數(shù)據(jù)中心機(jī)架數(shù)已達(dá)42615個(gè)，在建數(shù)據(jù)中心機(jī)架61000個(gè)。工廠內(nèi)部生產(chǎn)管理數(shù)據(jù)、生產(chǎn)操作數(shù)據(jù)以及工廠外部數(shù)據(jù)等各類(lèi)數(shù)據(jù)一旦遭網(wǎng)絡(luò)劫持，將給企業(yè)帶來(lái)嚴(yán)重的安全問(wèn)題，輕則停產(chǎn)停業(yè)，重則會(huì)造成安全事故。三是社會(huì)民生領(lǐng)域智能化網(wǎng)絡(luò)失常誘發(fā)的風(fēng)險(xiǎn)。如智能網(wǎng)聯(lián)車(chē)正開(kāi)始進(jìn)入大規(guī)模示范和應(yīng)用階段。2020年6月底，上海首批智能網(wǎng)聯(lián)汽車(chē)率先在滴滴APP上開(kāi)放服務(wù)，天津也計(jì)劃在部分地區(qū)開(kāi)始測(cè)試，如果車(chē)輛發(fā)生網(wǎng)絡(luò)劫持，或車(chē)輛本身計(jì)算問(wèn)題，將產(chǎn)生重大的安全事故。在智慧醫(yī)療方面，天津大力發(fā)展互聯(lián)網(wǎng)醫(yī)院和線(xiàn)上醫(yī)療，一旦發(fā)生醫(yī)患糾紛，就會(huì)存在責(zé)任主體無(wú)法明確的問(wèn)題。

（四）結(jié)構(gòu)性失業(yè)風(fēng)險(xiǎn)

在人工智能與實(shí)體經(jīng)濟(jì)融合步伐逐漸加快的背景下，部分職業(yè)將被取代已經(jīng)成為必然趨勢(shì)，傳統(tǒng)“飯碗”的破碎將伴隨新產(chǎn)業(yè)革命和經(jīng)濟(jì)結(jié)構(gòu)調(diào)整，在這種程度上講，個(gè)別可替代性強(qiáng)的產(chǎn)業(yè)的失業(yè)風(fēng)險(xiǎn)將加劇。如住建部同意深圳市開(kāi)展建筑工程人工智能審圖試點(diǎn)工作，以住宅工程作為試點(diǎn)工作切入點(diǎn)，探索人工智能在審圖方面的應(yīng)用，在節(jié)省人力成本的同時(shí)，提高相應(yīng)工作的效率和質(zhì)量，為行業(yè)的改革與發(fā)展提供可復(fù)制、可推廣經(jīng)驗(yàn)。

（五）招商引資風(fēng)險(xiǎn)

一是部分人工智能技術(shù)重復(fù)投資過(guò)剩的風(fēng)險(xiǎn)。我國(guó)人工智能企業(yè)發(fā)展呈現(xiàn)出不均衡性的特點(diǎn)，重點(diǎn)表現(xiàn)在底層技術(shù)領(lǐng)域創(chuàng)新創(chuàng)業(yè)企業(yè)數(shù)量少，應(yīng)用領(lǐng)域企業(yè)數(shù)量多，同質(zhì)化競(jìng)爭(zhēng)激烈，企業(yè)存活率低。過(guò)度注重引進(jìn)處于應(yīng)用層面的企業(yè)很可能因?yàn)橥|(zhì)化競(jìng)爭(zhēng)，造成后期投資的損失。二是人工智能技術(shù)知識(shí)產(chǎn)權(quán)不清晰的風(fēng)險(xiǎn)。一種是項(xiàng)目和團(tuán)隊(duì)的人工智能產(chǎn)品和技術(shù)的知識(shí)產(chǎn)權(quán)存在嚴(yán)重的不清晰、不明確現(xiàn)象，給政府投資帶來(lái)極大的發(fā)展隱患。如天津某人工智能芯片企業(yè)，因與美國(guó)存在技術(shù)和知識(shí)產(chǎn)權(quán)糾紛，導(dǎo)致企業(yè)停滯發(fā)展的案例。三是偽人工智能企業(yè)的風(fēng)險(xiǎn)。項(xiàng)目團(tuán)隊(duì)借助人工智能招牌，從事非法的經(jīng)營(yíng)活動(dòng)，比如說(shuō)在金融領(lǐng)域，利用人工智能和區(qū)塊鏈等技術(shù)從事非法集資。

三、天津人工智能技術(shù)風(fēng)險(xiǎn)防范的思路與對(duì)策建議

人工智能產(chǎn)業(yè)風(fēng)險(xiǎn)的防范要秉承“技術(shù)”+“制度”雙向發(fā)力的原則，以加快產(chǎn)業(yè)的發(fā)展來(lái)解決當(dāng)前存在的問(wèn)題。通過(guò)人工智能新技術(shù)的開(kāi)發(fā)來(lái)解決技術(shù)發(fā)展的問(wèn)題；通過(guò)人工智能新技術(shù)的發(fā)展來(lái)增加新的社會(huì)就業(yè)問(wèn)題；通過(guò)制度的約束來(lái)解決技術(shù)發(fā)展過(guò)程中參與者的合法合規(guī)問(wèn)題；通過(guò)制度的評(píng)價(jià)和治理來(lái)研判和預(yù)防技術(shù)發(fā)展過(guò)程中的風(fēng)險(xiǎn)點(diǎn)問(wèn)題。

（一）加快人工智能技術(shù)的前瞻性研究

一是強(qiáng)化科技智庫(kù)對(duì)人工智能技術(shù)的支撐。充分發(fā)揮天津市智能科技產(chǎn)業(yè)專(zhuān)家咨詢(xún)委員會(huì)、天津市信息技術(shù)應(yīng)用創(chuàng)新工作委員會(huì)等專(zhuān)家力量，強(qiáng)化對(duì)新興人工智能技術(shù)，如區(qū)塊鏈技術(shù)、數(shù)字孿生技術(shù)、C-VX2通信技術(shù)等的安全性和潛在風(fēng)險(xiǎn)進(jìn)行安全等級(jí)評(píng)估，形成技術(shù)風(fēng)險(xiǎn)等級(jí)與安全防護(hù)對(duì)應(yīng)的方案清單，有力保障技術(shù)應(yīng)用過(guò)程中的安全性、有序性。

二是探索建設(shè)安全前瞻性研究天津?qū)嶒?yàn)室。利用“技術(shù)制約技術(shù)”的理念，以技術(shù)發(fā)展解決技術(shù)問(wèn)題，通過(guò)人工智能先進(jìn)技術(shù)的應(yīng)用，解決當(dāng)前人工智能技術(shù)存在的問(wèn)題，發(fā)揮天津信息安全產(chǎn)業(yè)優(yōu)勢(shì)，整合高校、科研院所資源，探索成立具有國(guó)家戰(zhàn)略高度的人工智能風(fēng)險(xiǎn)防控系統(tǒng)與實(shí)體研究機(jī)構(gòu)，組建天津市安全領(lǐng)域的天津?qū)嶒?yàn)室，加強(qiáng)人工智能技術(shù)安全性研究。

（二）強(qiáng)化人工智能技術(shù)的法制化建設(shè)

一是加快探索人工智能產(chǎn)業(yè)技術(shù)法律規(guī)章制度建設(shè)，充分發(fā)揮天津市國(guó)家新一代人工智能試驗(yàn)區(qū)建設(shè)優(yōu)勢(shì)，先行先試，聚焦人工智能技術(shù)，如云計(jì)算、大數(shù)據(jù)、區(qū)塊鏈等，加快開(kāi)展人工智能社會(huì)實(shí)驗(yàn)，推動(dòng)上述技術(shù)的立法工作，從約束技術(shù)的研發(fā)與使用等多個(gè)環(huán)節(jié)的參與者、明確人工智能應(yīng)用過(guò)程中重大責(zé)任權(quán)屬劃分（如智能網(wǎng)聯(lián)車(chē)傷人事故責(zé)任劃分）等多方面入手，構(gòu)建技術(shù)良性發(fā)展的法制化環(huán)境。

二是探索人工智能產(chǎn)業(yè)和技術(shù)的“雙負(fù)面清單”制度，強(qiáng)化底線(xiàn)思維，加大對(duì)高度不確定性領(lǐng)域的行政性監(jiān)管力度，加大對(duì)產(chǎn)業(yè)、科研闖紅區(qū)行為的執(zhí)法力度，立法從嚴(yán)，執(zhí)法從嚴(yán)，特別是強(qiáng)化對(duì)網(wǎng)絡(luò)入侵、網(wǎng)絡(luò)竊密、制作和傳播網(wǎng)絡(luò)病毒、高技術(shù)污染等技術(shù)型犯罪的治理。

（三）強(qiáng)化人工智能技術(shù)的全流程與重點(diǎn)領(lǐng)域監(jiān)管

一是強(qiáng)化人工智能全流程技術(shù)管控，加快開(kāi)發(fā)面向人工智能技術(shù)全流程監(jiān)管的體制機(jī)制，重點(diǎn)面向人工智能行業(yè)數(shù)據(jù)采集以及人工智能行業(yè)重點(diǎn)領(lǐng)域應(yīng)用兩大環(huán)節(jié)，推進(jìn)行業(yè)安全標(biāo)準(zhǔn)和行業(yè)應(yīng)用安全預(yù)案的部署，保障技術(shù)安全、產(chǎn)品安全、數(shù)據(jù)安全和應(yīng)用安全。

二是高度重視網(wǎng)絡(luò)安全監(jiān)控，加快天津360態(tài)勢(shì)感知與安全運(yùn)營(yíng)平臺(tái)建設(shè)，打造集網(wǎng)絡(luò)安全態(tài)勢(shì)感知、風(fēng)險(xiǎn)評(píng)估、通報(bào)預(yù)警、應(yīng)急處置和聯(lián)動(dòng)指揮為一體的新型網(wǎng)絡(luò)安全運(yùn)營(yíng)服務(wù)平臺(tái)。

三是強(qiáng)化工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)接入安全管理，聚焦天津智能制造重點(diǎn)領(lǐng)域，發(fā)揮天津建設(shè)信創(chuàng)產(chǎn)業(yè)的先發(fā)優(yōu)勢(shì)，推動(dòng)信創(chuàng)產(chǎn)業(yè)重大創(chuàng)新應(yīng)用與工業(yè)互聯(lián)網(wǎng)平臺(tái)建設(shè)深度融合，試點(diǎn)推行工業(yè)互聯(lián)網(wǎng)接入產(chǎn)品的安全評(píng)測(cè)和等級(jí)認(rèn)證制度，打造一批示范性的工程，形成自主可控的工業(yè)互聯(lián)網(wǎng)解決方案，形成“天津樣本”。

（四）強(qiáng)化人工智能技術(shù)誘發(fā)風(fēng)險(xiǎn)的主動(dòng)疏導(dǎo)

一是建立風(fēng)險(xiǎn)疏導(dǎo)機(jī)制。形成重點(diǎn)領(lǐng)域系統(tǒng)的風(fēng)險(xiǎn)解決方案（如研究制定在線(xiàn)教育信息安全整體方案），并建立動(dòng)態(tài)的解決方案更新機(jī)制和相應(yīng)的處置聯(lián)動(dòng)機(jī)制，確保在突發(fā)事件發(fā)生時(shí)能夠第一時(shí)間處置。打造多層次、全方位的發(fā)聲陣地，建立權(quán)威信息發(fā)布制度，在突發(fā)事件發(fā)生時(shí)，有效引導(dǎo)輿情。

二是建立風(fēng)險(xiǎn)應(yīng)對(duì)機(jī)制。一方面，以技術(shù)發(fā)展解決職業(yè)問(wèn)題，推動(dòng)天津人力資源有關(guān)部門(mén)對(duì)“互聯(lián)網(wǎng)營(yíng)銷(xiāo)師”“在線(xiàn)學(xué)習(xí)服務(wù)師”等人工智能新職業(yè)開(kāi)展宣傳和技術(shù)培訓(xùn)，鼓勵(lì)符合條件的再就業(yè)人員向新職業(yè)轉(zhuǎn)型，擴(kuò)大社會(huì)就業(yè)機(jī)會(huì)。另一方面，針對(duì)新一代人工智能可能引發(fā)的在重點(diǎn)領(lǐng)域和重點(diǎn)人群的結(jié)構(gòu)性失業(yè)等風(fēng)險(xiǎn)，形成風(fēng)險(xiǎn)級(jí)別目錄，根據(jù)優(yōu)先順序，有計(jì)劃地推動(dòng)重點(diǎn)領(lǐng)域和人群的在職培訓(xùn)和再就業(yè)培訓(xùn)，打好勞動(dòng)力轉(zhuǎn)型的主動(dòng)仗。

（五）強(qiáng)化人工智能產(chǎn)業(yè)引育過(guò)程中的精準(zhǔn)識(shí)別

一是強(qiáng)化招商引資工作隊(duì)伍的人工智能技術(shù)知識(shí)培訓(xùn)。鼓勵(lì)天津市各個(gè)園區(qū)根據(jù)發(fā)展實(shí)際，制定人工智能技術(shù)重點(diǎn)培訓(xùn)計(jì)劃，提升招商人才隊(duì)伍對(duì)人工智能技術(shù)發(fā)展趨勢(shì)、動(dòng)態(tài)的了解，提升對(duì)人工智能項(xiàng)目的甄別判斷能力。

二是強(qiáng)化人工智能企業(yè)引育過(guò)程中的調(diào)研與研判。鼓勵(lì)引入第三方機(jī)制，在重大人工智能項(xiàng)目引進(jìn)過(guò)程中，做好企業(yè)的背景調(diào)查工作，特別要關(guān)注人工智能企業(yè)本身的技術(shù)場(chǎng)景應(yīng)用情況、財(cái)務(wù)狀況和知識(shí)產(chǎn)權(quán)情況。

三是強(qiáng)化對(duì)人工智能產(chǎn)業(yè)引進(jìn)過(guò)程的決策咨詢(xún)管理。鼓勵(lì)天津人工智能產(chǎn)業(yè)聚集園區(qū)充分發(fā)揮人工智能專(zhuān)家的人力資源優(yōu)勢(shì)，在項(xiàng)目引進(jìn)和分析評(píng)判過(guò)程中，鼓勵(lì)企業(yè)家參與項(xiàng)目引進(jìn)過(guò)程，為項(xiàng)目的引進(jìn)提供建議。