人工智能應(yīng)用的風險評估與應(yīng)對策略

摘 要：大數(shù)據(jù)生態(tài)中多元應(yīng)用社會生活的人工智能技術(shù)，在勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅(qū)動協(xié)作共享的產(chǎn)業(yè)變革以及實現(xiàn)精準遞歸的社會治理的同時，也逐漸暴露出算法決策內(nèi)嵌安全隱患、責任分散置險族群永續(xù)、精英趨向引發(fā)異化強權(quán)以及智能迭代侵害人格權(quán)益等諸多風險。亟待確立人工智能應(yīng)用有益族群永續(xù)的立法目標，遵循技術(shù)進步、經(jīng)濟增長和公眾權(quán)益交互規(guī)律，平衡國家安全、社會穩(wěn)定、企業(yè)發(fā)展與個人成長的矛盾沖突；構(gòu)筑張弛有度的政府監(jiān)管機制、頒行透明可信的數(shù)據(jù)核饋規(guī)范、完善有區(qū)別的責任制度、實施適應(yīng)全新需求的層級稅制并加強人工智能領(lǐng)域的宣傳教育，加快提升中國的軟實力和巧實力，積極建設(shè)創(chuàng)新型科技強國。

關(guān)鍵詞：人工智能；多元應(yīng)用；情報交流；風險表征；政策法律

中圖分類號：TP18；G203 文獻標識碼：A DOI：10.11968/tsyqb.1003-6938.2017122

Abstract In the worldwide surge of digitization， artificial intelligence is applied in all aspects of social life. On the one hand， they have contributed to improve the vision of good health， push forward the process of open source knowledge transmission， promote the collaborative sharing industrial transformation， and realize the precise and recursive management of society. On the other hand， there are a number of serious risks involved， such as hidden dangers in algorithm decision， the survival crisis of mankind caused by the diffusion of responsibility， alienated power raised by elite tendency and personal rights violated by iterative intelligence. The article proposes to establish the legislative purpose of obeying the interactive law among technical development， economic growth and social stability， equating the collision of national security， social stability， business development and personal growth， and helping ethnic sustainability through intelligent technology research and development. It's especially urgent to make regulations of the balanced government supervision， the transparent and credible data auditing and feedback system， the distinguishing accountability mechanism， the tax mechanism satisfying new needs. Above countermeasures would help to rapidly enhance China's soft power and smart power， and build an innovative technological power.

Key words artificial intelligence； multiple applications； information exchange； risk characterization； policy and law

信息紀元中迅速提升的大數(shù)據(jù)處理技術(shù)、開源互補的廣域算法、持續(xù)作用的香農(nóng)定理和摩爾定律以及人類族群探索未知的執(zhí)意和趨利避害的本性合力引領(lǐng)歷經(jīng)兩輪大幅起落的人工智能技術(shù)作為數(shù)字生態(tài)關(guān)鍵要素再獲新生，不僅構(gòu)筑共生、競爭、合作、依存的協(xié)同進化生態(tài)圈，亦在情報研判、決策支持與勞動替代中暴露出諸多風險。亟需采取一系列行之有效的應(yīng)對策略，積極推動我國人工智能戰(zhàn)略的革命性發(fā)展。

1 人工智能多元應(yīng)用的情狀畫像

萬物感知的爆發(fā)式增長推動人工智能技術(shù)迅速擺脫“計算機展示的一系列同質(zhì)智能行為”[1]的負面標簽。智聯(lián)圖景中能效冪次遞增的海量數(shù)據(jù)集成訓(xùn)練樣本嵌入神經(jīng)網(wǎng)絡(luò)，大幅拓展人類思維界域并增強群體行動量能，助力整個社會迎來跨越式發(fā)展的起飛點。多元異質(zhì)的嶄新智能應(yīng)用全方位顛覆國家安全情報構(gòu)成與交流過程，積極推進科學(xué)、個性、精準的嵌入式業(yè)態(tài)革命，逐步構(gòu)筑良性循環(huán)的智能可再生能源系統(tǒng)，產(chǎn)生巨大經(jīng)濟效益與社會影響力。相關(guān)應(yīng)用的情狀畫像內(nèi)蘊勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅(qū)動協(xié)作共享的產(chǎn)業(yè)革命以及實現(xiàn)精準遞歸的社會治理等點睛之處。

1.1 勾勒健康恒存的愿景框架

寒武紀大爆發(fā)的實力出現(xiàn)營建的全新生物對抗環(huán)境倒逼防衛(wèi)競爭下多樣生物協(xié)同進化。信息互通場景中遍布全球的物理傳感載體實時監(jiān)控巨量節(jié)點、互鏈數(shù)據(jù)資源池自動整理并優(yōu)化組合海量信息、多層微化算法積極洞察復(fù)雜社會機能。諸多原力聚合躍遷長期停滯的智能機器識別能力與覆蓋空間，驅(qū)動人類族群加速勾勒增強自我健康的宏大愿景。endprint

人工智能多元應(yīng)用積極抽取并持續(xù)更新生命體征情報圖譜，充分發(fā)揮循證醫(yī)學(xué)在理想狀態(tài)下高效挖掘與傳遞疾病規(guī)律的核心優(yōu)勢，逐漸開辟超越資深專家水平的全維度個性化診療局面。疾病檢測領(lǐng)域，沃森智醫(yī)系統(tǒng)通過集中檢測海量圖片數(shù)據(jù)歸納糖尿病性視網(wǎng)膜病變和黃斑水腫等致盲因素的初發(fā)跡象[2]；疾病治療領(lǐng)域，初步智能化的達芬奇手術(shù)系統(tǒng)已經(jīng)輔助完成300多萬例微創(chuàng)手術(shù)[3]。事實上，從“23與我”公司有重點的基因芯片篩查服務(wù)到核林公司嘗試通過神經(jīng)假體引領(lǐng)的腦細胞通信協(xié)助認知缺陷群體，幾何乘數(shù)拓展的人工智能應(yīng)用正在迅速拉升整個社會的泛在健康指數(shù)，拉開璀璨的永生序幕，“把生命稍縱即逝的光華寫進我們的遺傳密碼，從此成為永恒”[4]。從體內(nèi)芯片情報介質(zhì)、入腦起搏器、植入式溫度計等起步的旨在結(jié)合生物潛能和機器優(yōu)勢塑造具有無窮適應(yīng)力的半機械人的探索活動正在開拓可遺傳棲變下的恒存通路。

1.2 推進開源聚力的知識傳遞

隨著制造、發(fā)售和維護實時信息捕析設(shè)施的成本驟降、計算能力大幅提升和云端存儲巨量擴容，持續(xù)匯總的密集數(shù)據(jù)為打破縱橫割裂的信息孤島奠定了堅實基礎(chǔ)。大數(shù)據(jù)環(huán)境能夠規(guī)避非注意盲視①的不良影響、運用人工神經(jīng)網(wǎng)絡(luò)架構(gòu)演算識別和精準整合隱嵌用戶終端的海量知識原點而形成睿智洞見的多樣智能應(yīng)用，積極打造人機融合的個性化知識傳承網(wǎng)絡(luò)，開拓重建巴別塔的綠色路徑②。如明略數(shù)據(jù)在全國落地了大量智能化的公安情報知識圖譜，準確高效地研判警務(wù)情報，切實維護公共安全。又如，如火如荼的人工智能圖書館建設(shè)實現(xiàn)了個性化推薦推送，積極強化館藏稀缺資源的延伸性，全面整合碎片信息并推進讀者互動，逐漸形成強大的知識流轉(zhuǎn)格局。

1.3 驅(qū)動協(xié)作共享的產(chǎn)業(yè)變革

從蒸汽機、計算機到人工智能的技術(shù)躍遷遞次趨零商品和服務(wù)的邊際成本，“催生出新的業(yè)態(tài)和商業(yè)模式，引發(fā)產(chǎn)業(yè)結(jié)構(gòu)的深刻變革”[5]，日漸構(gòu)筑數(shù)據(jù)驅(qū)動個性定制、人機協(xié)同生產(chǎn)服務(wù)和跨界共享產(chǎn)品價值的智能經(jīng)濟形態(tài)，加快深化供給側(cè)結(jié)構(gòu)性改革。眾多企業(yè)基于用戶活躍度、權(quán)威度與興趣方向等動態(tài)畫像進行集優(yōu)銷售、信用預(yù)測與分類補償?shù)鹊?。如人工智能技術(shù)廣泛應(yīng)用于發(fā)行、印刷、數(shù)字加工與閱讀等領(lǐng)域，通過機器協(xié)助寫作校對和智能增強交互體驗等重塑新聞出版行業(yè)；又如，綜合運用精準對象檢測與追蹤技術(shù)、生物特征自主感知技術(shù)以及意圖識別和交易技術(shù)等積極開發(fā)具有高識別力、高觸達力、高洞察力和高服務(wù)力的新零售實踐樣本，如Take Go、淘咖啡等無人值守智能門店。此外，自動駕駛技術(shù)嘗試嵌入共享交通工具等現(xiàn)象進一步激勵了“使用而不購買”的新興數(shù)字消費方式，節(jié)約巨量資源，促進環(huán)境改善。

1.4 實現(xiàn)精準遞歸的社會治理

《新一代人工智能發(fā)展規(guī)劃》（國發(fā)〔2017〕35號）中指出，“人工智能技術(shù)可準確感知、預(yù)測、預(yù)警基礎(chǔ)設(shè)施和社會安全運作的重大態(tài)勢?！闭洗髷?shù)據(jù)、云計算、深度學(xué)習與虛擬現(xiàn)實的集智平臺充分發(fā)揮社會治理最優(yōu)解的隧道效應(yīng)，以結(jié)合環(huán)境復(fù)合因子的智析節(jié)點為“瓦斯報警鳥”①，審慎聚化、分類、壓縮和處理萬物互聯(lián)中眾多傳感器生成數(shù)據(jù)，精準權(quán)衡按需數(shù)據(jù)搜索、標記和使用的方差偏離和計算負荷，批量保真并遞歸提升數(shù)質(zhì)精度，近看助力提升國家安全防衛(wèi)、完善災(zāi)難響應(yīng)方式、解決人口老齡化與教育平權(quán)化等難題，遠期助力人類族群擺脫資源環(huán)境束縛。如融合圖像識別、語音識別、自然語言處理等創(chuàng)新技術(shù)的自動情報生成系統(tǒng)有助于突破傳統(tǒng)情報收集和流轉(zhuǎn)的真實性、透明性與全面性障礙，儼然是顛覆性的公共安全保障力量。

2 人工智能多元應(yīng)用的風險表征

隨著經(jīng)濟奇點下爆發(fā)式擴張的人工智能應(yīng)用持續(xù)展現(xiàn)出精準、高效、節(jié)能等優(yōu)勢，各級公權(quán)機構(gòu)、海量社會組織、眾多企事業(yè)單位、乃至廣大居民開始依賴復(fù)合影響變量的權(quán)重計算進行評估和決策，引發(fā)了侵害生命健康權(quán)、受教育權(quán)、就業(yè)權(quán)、平等權(quán)、婚姻權(quán)以及參與政治生活和社會生活的權(quán)利等災(zāi)難性負面效應(yīng)。

2.1 算法決策內(nèi)嵌安全隱患

基于深度學(xué)習引擎在特定場景進行智能推理的全新范式改變了人類族群自由抉擇的傳統(tǒng)模式，看似科學(xué)客觀的算法決策內(nèi)嵌著形形色色的故障因子。事實上，非定常性黑盒輸入導(dǎo)致智能應(yīng)用的處理與輸出模塊處于不可知的自主狀態(tài)，過度依賴機器決策存在巨大的安全隱患。

（1）公權(quán)機構(gòu)、企事業(yè)單位、其他社會組織乃至眾多居民在近因效應(yīng)作用下盲目認為依據(jù)短時尺度的數(shù)據(jù)體驗就能做出準確的趨勢判斷，往往積極刪除缺乏新穎性和時效性的信息資源，導(dǎo)致運用人工智能技術(shù)分析環(huán)境變遷、國家安全、公共事務(wù)、市場趨勢以及特定個體狀況等情報信息時采獲的近期數(shù)據(jù)過于龐雜，與之對應(yīng)的遠期數(shù)據(jù)寥寥無幾。缺乏完整的持續(xù)數(shù)據(jù)集聚致使宏大規(guī)模的過濾數(shù)據(jù)質(zhì)量低下，相應(yīng)的算法決策（尤其是少見且難以預(yù)測的極端事件中情境理解與準確抉擇）的真實性與可靠性大打折扣。

（2）參與人工智能運作中學(xué)習樣本揀選與標注的從業(yè)人員本身就可能存在種族歧視、性別偏見、宗教傾向或多元價值觀，甚至通過不經(jīng)意輸入錯誤或惡意微調(diào)細微因素等欺騙人工神經(jīng)網(wǎng)絡(luò)。由于人工智能技術(shù)的一次突破意味著無窮復(fù)制的替代物，滲透在算法框架中的固有偏見與歧視必會隨著規(guī)?；l(fā)展擴散到諸多應(yīng)用領(lǐng)域。

（3）目前投入應(yīng)用的弱人工智能尚處于技術(shù)發(fā)展初級階段，幾乎不可能進行逆向操作的算法運作不斷暴露出容易導(dǎo)致安全隱患的技術(shù)缺陷。如具有鎖定潛在不良行為強大能力的惡意購物智能篩查決策程序存在因錯誤跟蹤辨識用戶行為而限制或拒絕交易，進而影響營銷關(guān)系的情況；又如，眾多黑客不僅可以通過自主學(xué)習識別算法框架的偶發(fā)錯誤，甚至可以利用已有的受信代碼預(yù)測智能系統(tǒng)未來更新可能出現(xiàn)的零日漏洞②，進行最大程度的安全滲透。

2.2 責任分散置險族群永續(xù)

圖靈測試迄今的眾多人工智能技術(shù)水平量度方案相繼揭示智能應(yīng)用難以突破莫拉維克悖論③而達至獲得心靈并獲取思想的超人工智能，閱面（ReadFace）、藍眼（Blue Eyes）等嵌入互動智能硬件的情感認知引擎本質(zhì)上是以簡單方式認知世界的單色符號表征，但諸多合并人類智慧和機器智能的人機協(xié)作模式已經(jīng)能夠獨立感知基本情感顆粒和識別陌生物體，甚至通過蜂巢思維將習得成果匯聚中央知識庫并實現(xiàn)全域共享。技術(shù)迭代下持續(xù)趨向自動化的人機協(xié)作中主動偽造數(shù)據(jù)與被動黑客劫持等現(xiàn)象愈加隱蔽，零亂不堪且疏漏重重的相應(yīng)責任機制進一步刺激參與者不擇手段地汲取跨物種、跨代際的物化生命價值與量化環(huán)境對價，嚴重威脅人類族群健康永續(xù)。如在高效的人工智能技術(shù)應(yīng)用與多方位的規(guī)范巢白激勵控制權(quán)讓渡的新形勢下，外科醫(yī)生使用機械臂手術(shù)和駕駛員使用輔助駕駛系統(tǒng)等大幅削弱參與人員對于關(guān)鍵環(huán)境要素的識別和反應(yīng)能力，甚至產(chǎn)生智能系統(tǒng)可以自動彌補全部遺失錯漏的錯覺，進而引發(fā)嚴重的傷亡事故。endprint

2.3 精英趨向引發(fā)異化強權(quán)

大數(shù)據(jù)聯(lián)姻深度學(xué)習背景下人工智能應(yīng)用中高度聚合的數(shù)據(jù)資源與高新技術(shù)正在派生掌握絕對資源優(yōu)勢的精英特權(quán)階層，必然加劇人際異化、經(jīng)濟危機和社會動蕩，攔阻整個社會邁向應(yīng)然王國的步伐。隨著智能機器和算法框架愈加集中于少數(shù)精英群體，巨額收益亦飛速向其靠攏。持續(xù)異變的分配模式甚至逐步解體現(xiàn)有社會結(jié)構(gòu)，導(dǎo)致技術(shù)精英日漸占據(jù)社會強勢地位。然而，絕大多數(shù)技術(shù)專家與杰出的應(yīng)用人物類似大航海時代開疆拓土的哥倫布和達伽馬，相對缺乏宏觀的政經(jīng)洞見與審慎態(tài)度，不僅助力技術(shù)發(fā)展、知識傳遞、經(jīng)濟增長與環(huán)境改善，亦可能瘋狂地推進整個世界的黑盒化。

同時，人工智能多元應(yīng)用實現(xiàn)創(chuàng)意人才向上流動，日漸優(yōu)化精英階層的生存環(huán)境。如昂貴的高精尖智能運載工具不僅節(jié)約時間并延長出行里程，更突破了傳統(tǒng)交通運輸根深蒂固的4D風險①，意味著更高的安全系數(shù)，在一定程度上賦予精英階層在任何其他生命面前的優(yōu)先通道，嚴重侵害弱勢群體的基本生存權(quán)和發(fā)展權(quán)；又如，通過基因編輯技術(shù)微調(diào)關(guān)鍵致病因子的昂貴智能醫(yī)療鋪開應(yīng)用意味著精英階層健康生命的大幅延長，使得收入成為壽命的最佳預(yù)測指標，反向加劇貧富鴻溝，甚至可能影響整個族群有序繁衍。

人工智能廣域滲透導(dǎo)致稀缺資源苛刻分配、社會上升階梯大面積斷裂，逐漸剝奪低收入、低水平且前景有限的弱勢群體的生存空間。如掌握覆蓋整個市場智能監(jiān)控系統(tǒng)的權(quán)威精英擁有上帝視角，通過設(shè)置準入門檻和預(yù)警系統(tǒng)抑制競爭，或者采取“擊斃式收購”方式消滅潛在對手，變相剝奪其他群體的發(fā)展機會，形成后現(xiàn)代的馬太效應(yīng)生態(tài)圈；又如，現(xiàn)代社會中勞動者享有不因種族、性別、宗教、外形、性取向和政治見解等遭受不同待遇的平等就業(yè)權(quán)。有意義的工作是個人自我認同感的重要組成部分，是人生意義的構(gòu)成要素。伏爾泰曾言“工作攆跑了三大魔鬼：無聊、墮落和貧窮”，失業(yè)率較高的國家和地區(qū)中濫藥、自殺和精神患病概率均較高。人工智能多元應(yīng)用的高速發(fā)展導(dǎo)致整個社會就業(yè)結(jié)構(gòu)變遷，秘書、快遞員、操盤手、保險定損員、圖書管理員、一線制造工人等具有常規(guī)性和重復(fù)性特征的工種逐漸被機器替代（如多家高校圖書館已經(jīng)用智能管理員取代傳統(tǒng)人工），數(shù)以億計喪失經(jīng)濟價值的失業(yè)群體難以自力打通重入職場的渠道。不同于圈地運動之后大工業(yè)生產(chǎn)需要海量雇傭工人（彼時普遍用工荒導(dǎo)致整個社會加大職業(yè)技能培訓(xùn)力度和輻射面），目前人力資源相對冗余、具有創(chuàng)新性或需要復(fù)雜溝通的崗位人員幾近飽和，強勢精英階層缺乏主動投資全民職業(yè)能力培養(yǎng)的動力，大幅壓縮了弱勢群體的生存空間與上升通道。

2.4 智能迭代侵害人格權(quán)益

人機物三元融合發(fā)展進程中，數(shù)據(jù)成為驅(qū)動經(jīng)濟增長的關(guān)鍵要素，數(shù)字化資訊積累成本與周期耗費是能否最大限度釋放智能紅利的關(guān)鍵。如立足基因分析搭建生命周期監(jiān)控與疾病預(yù)防機制的智能診療系統(tǒng)中內(nèi)蘊海量受體遺傳信息的數(shù)據(jù)資源池助力持有者在漫長而封閉的研發(fā)周期中逐漸打造行業(yè)技術(shù)門檻，具有巨大的使用價值和交換價值?！?3與我”公司能夠與輝瑞、基因泰克等業(yè)界巨頭以及眾多科研院所達成基因組測序合作協(xié)議的核心籌碼就是其在長期虧損檢測中通過附隨使用協(xié)議攢下的80萬消費者的基因數(shù)據(jù)。

“大數(shù)據(jù)往往混合了來自多個數(shù)據(jù)源的多維度信息?！盵6]人工智能廣域應(yīng)用帶來的巨額數(shù)據(jù)紅利進一步刺激眾多公司持續(xù)挖掘數(shù)據(jù)隱私，諸如臉書悄然掃描用戶隱私信息和谷歌“深思”非匿名獲取和識別海量急性腎損傷患者數(shù)據(jù)等惡性事件層出不窮。尤其是在數(shù)字追蹤線上慣例影響之下，優(yōu)步、易到和滴滴等企業(yè)的城市規(guī)劃數(shù)據(jù)中心長期監(jiān)控用戶行蹤數(shù)據(jù)，大量網(wǎng)貸平臺公然追蹤并評級用戶日常行為，無人車、無人機、無人商店等均以7/24模式瘋狂收集用戶身份和行為習慣，植入體內(nèi)的芯片情報介質(zhì)更是不間斷地開展監(jiān)控和存儲。缺乏高精尖技術(shù)知識的普通民眾難以深刻意識數(shù)據(jù)隱私無序暴露和肆意使用可能造成的惡劣后果，往往為了節(jié)約時間和經(jīng)濟成本、獲得更多便利或更高質(zhì)量而忽視隱私侵害。

此外，“搜索一旦得以進化，就有可能成為最終連接人性和機器的‘鉸鏈”。[7]去中心化巨網(wǎng)籠罩下人工智能技術(shù)應(yīng)用于全網(wǎng)海量數(shù)據(jù)資源搜索領(lǐng)域?qū)е掠洃浲獠炕?。智搜系統(tǒng)對于散落網(wǎng)際空間的個人數(shù)據(jù)永不遺忘的記憶傳承減弱了人們對于自身隱私的控制權(quán)。基于海量零散數(shù)據(jù)處理的智能識別軟件持續(xù)迭代，進一步助力深層的關(guān)鍵性隱私挖掘，迫使整個族群被長期禁錮于透明的數(shù)字化圓形監(jiān)獄。如形形色色的面部識別算法不僅用于情報收集研判（如從“天眼”系統(tǒng)中分辨恐怖分子）、判斷和引導(dǎo)對象政治選擇（如2016年美國大選和英國脫歐投票期間通過面部識別分類發(fā)送資訊而試圖影響投票者），甚至以高達91%的準確率識別性取向[8]，催生外表決定論的粗暴法則，嚴重侵害當事人的知情權(quán)、自主權(quán)和人格尊嚴，在特定的時間或環(huán)境下（如烏干達、尼日利亞等全民歧同且酷法反同的國家應(yīng)用同性戀識別軟件）可能產(chǎn)生災(zāi)難性后果。

事實上，人格尊嚴是個人價值的源泉，是自由和獨立的基石。企業(yè)通過智能系統(tǒng)持續(xù)監(jiān)視員工（如彭博監(jiān)控所有員工整個職業(yè)生涯的全部辦公室活動）并收集一切移除人類直覺和情感的客觀數(shù)據(jù)，精準評估其未來潛力、貨幣價值和人格特征，繼而引發(fā)偏見、歧視和其他不可預(yù)期的侵害對方尊嚴的惡性事件，導(dǎo)致員工喪失勞動熱情和主人翁精神，甚至引發(fā)嚴重的心理疾病。此外，包括類人性伴侶和老幼陪伴機器人等在內(nèi)的替代人類接觸的人工智能應(yīng)用導(dǎo)致弱勢群體被物化忽略，侵害其基本的人格權(quán)益。

3 人工智能應(yīng)用風險的應(yīng)對策略

萬物互聯(lián)時代的科技烏托邦愿景大力推動現(xiàn)實與虛擬交融，極客思維映射人工智能全方位滲透社會生活各個領(lǐng)域，在“促進國家擁有經(jīng)濟、金融、意識形態(tài)、政治和其他資源……促進國家繁榮”[9]的同時，充滿變化性、危險性與不確定性。從實質(zhì)侵害配偶權(quán)益的性愛機器人到有違倫理的葬禮誦經(jīng)機器僧人[10]；從上線不足一日就變身不良少女的微軟小冰到編寫具有自我保護意識的計算機程序，“現(xiàn)在我們已經(jīng)進入通向未知世界的兔子洞了”[11]。面對人工智能多元應(yīng)用的已知風險與未知威脅，亟待圍繞《網(wǎng)絡(luò)安全法》《新一代人工智能發(fā)展規(guī)劃》的指導(dǎo)思想、戰(zhàn)略目標、重點任務(wù)和保障措施，構(gòu)筑具有中國特色的公權(quán)主導(dǎo)、多方參與、域內(nèi)外合作規(guī)制的智能應(yīng)用政策法律調(diào)整框架。運用復(fù)合技術(shù)標準檢測、認證和評估人工智能安全指數(shù)，確立妥善處理國家安全、公共安全、企業(yè)利益和個人權(quán)益的協(xié)同聯(lián)動和相關(guān)責任劃分的政策法律體系，推動各級監(jiān)管部門的能力建設(shè)、參與企業(yè)的自我審查與個人權(quán)益的全面保障，形成健康有序的智能生態(tài)培育環(huán)境，大幅提升整個社會的文明水準，加快發(fā)展中國的軟實力和巧實力，積極建立創(chuàng)新型科技強國。endprint

3.1 確立和諧永續(xù)的立法目標

數(shù)據(jù)資源與處理技術(shù)爆炸式增長中創(chuàng)新紅利、市場紅利和人口紅利交疊起效，為我國人工智能多元應(yīng)用在全球范圍內(nèi)彎道超車創(chuàng)造了有利條件。亟待確立人工智能研發(fā)和應(yīng)用有益族群和諧永續(xù)的立法目標，遵循技術(shù)進步、經(jīng)濟增長和公眾權(quán)益交互規(guī)律，平衡國家安全、社會穩(wěn)定、企業(yè)發(fā)展與個人成長的矛盾沖突，秉持安全性、可用性和可溯源性原則制定指引人工智能規(guī)劃和部署的法律規(guī)范，明確智能應(yīng)用的法律主體及相關(guān)權(quán)責，實行設(shè)計問責和應(yīng)用監(jiān)督并重的行政監(jiān)管機制與法定認證和預(yù)警標準，制定人工智能研發(fā)行為守則并布局人工智能人才發(fā)展戰(zhàn)略。如海量數(shù)據(jù)和人工智能多維融通在一定程度上導(dǎo)致技術(shù)引領(lǐng)的信息壟斷和數(shù)字鴻溝。“隨著各平臺不斷專業(yè)化自己的服務(wù)，未來社會的不平等問題將更嚴重”。[12]亟待進一步完善公平準入和有序競爭規(guī)則，避免濫用壟斷地位，持續(xù)增進公眾福祉。

3.2 構(gòu)筑張弛有度的政府監(jiān)管機制

激進的技術(shù)變革往往促使體現(xiàn)集體理性的政府公器適用全新的監(jiān)管模式。迅速迭代的人工智能既是社會發(fā)展的核心動能，亦是人類文明的根本風險。亟待迅速構(gòu)筑張弛有度的政府監(jiān)管機制，積極權(quán)衡技術(shù)進步、經(jīng)濟增長與公眾權(quán)益的交互關(guān)系。以最優(yōu)方式劃分部門權(quán)限，堅持公眾參與原則，確保監(jiān)管連貫、合理、公平，兼顧人工智能固有的軍民兩用性，既保密和保護突破性軍事創(chuàng)新，又擴展研發(fā)和應(yīng)用民用顛覆性技術(shù)；既制定防止人工智能造假的技術(shù)標準，又補白數(shù)據(jù)侵權(quán)的保障性規(guī)范。堅持將大數(shù)據(jù)作為國家基本戰(zhàn)略資源與將人工智能多元應(yīng)用的關(guān)鍵部分作為公共基礎(chǔ)設(shè)施管理的基本方針。運用合理而透明的可靠系數(shù)標準從網(wǎng)絡(luò)層、數(shù)據(jù)層到算法層等全面量化人工智能系統(tǒng)的安全程度，逐步建立關(guān)鍵基礎(chǔ)設(shè)施保護體系、推進彈性保障的非歧視用工制度、靈活現(xiàn)代的福利體系以及審慎高效的數(shù)據(jù)開放規(guī)則，防御并降低偶發(fā)事件帶來的災(zāi)難性風險，逐步提升我國的全球位次。

3.3 頒布透明可信的數(shù)據(jù)核饋規(guī)范

人工智能產(chǎn)業(yè)順遂成長的關(guān)鍵在于獲得數(shù)據(jù)權(quán)人、其他使用者乃至普通民眾的數(shù)字信任。隨著中國科技行業(yè)逐漸走出加拉帕戈斯群島式封閉狀態(tài)，大量內(nèi)嵌豐富功能的智能應(yīng)用的國際競爭力愈加強大。亟待頒布透明可信的自動化數(shù)據(jù)審核和反饋規(guī)范，積極完善冗余自檢機制、構(gòu)筑輕量密鑰算法標準、健全高性能模塊分離流程和安全防御指標。不僅立法督促科技企業(yè)全面公開智能技術(shù)部署和漸進測試過程，助力其依據(jù)用戶體驗和機器錯誤積極調(diào)整設(shè)置；還要求智能企業(yè)預(yù)先鎖定并嵌入高度模塊化的安全設(shè)計，遵循最小阻力路徑識別和控制黑客注入易受攻擊的疏漏集群，避免利用情感或意圖錯覺操控弱勢用戶[13]。

3.4 完善有區(qū)別的責任制度

完全人工智能（Full AI）和應(yīng)用型人工智能（Applied AI）圖景下能夠觀察環(huán)境并做出行動以達到目標的智能主體絕大多數(shù)行為不受人類直接指令約束，而是基于所獲信息的分析判斷。創(chuàng)造者難以預(yù)料和事先控制其在不同情境中的應(yīng)激反應(yīng)與決策選擇。單純以產(chǎn)品具有缺陷追究生產(chǎn)者的產(chǎn)品缺陷責任或以未盡到合理注意義務(wù)追究使用者的過錯責任等，既不符合追求公平和正義的法治精神，亦不利于科學(xué)劃分參與各方的權(quán)利義務(wù)，還會因缺乏可操作性而影響法律公信力并打破智能應(yīng)用有序發(fā)展的穩(wěn)定格局。亟待出臺系統(tǒng)化的調(diào)整人工智能多元應(yīng)用的特別規(guī)范，賦予智能主體法律人格。完善智能應(yīng)用的設(shè)計、制造與使用中有區(qū)別的歸責體系，對于商用智能系統(tǒng)適用嚴格責任制度，給予公益相關(guān)的智能主體（如救援機器人、智能國安情報員和智能圖書管理員等）特殊寬待。細化智能運作的標準流程和數(shù)據(jù)隱私保障制度、智能系統(tǒng)登記制度、危險責任制度、強制保險制度和賠償基金制度等。

3.5 實施適應(yīng)全新需求的層級稅制

人工智能的廣域應(yīng)用在很多領(lǐng)域替代了傳統(tǒng)人力勞動，間接導(dǎo)致國家大量稅收流失。有必要依據(jù)新紀元發(fā)展特征，考慮實現(xiàn)社會公允與均衡進步的宗旨，積極改革現(xiàn)有稅收制度，實施有條件的層級稅制。如對于有利環(huán)境改善、疾病治療和知識普及的人工智能技術(shù)應(yīng)用免稅，對于其他工業(yè)和服務(wù)業(yè)智能系統(tǒng)（如無人商店的自助結(jié)賬系統(tǒng)）的算法設(shè)計、機械制造和使用企業(yè)征稅；又如，增收資產(chǎn)稅和奢侈品消費稅以避免財富和資源過度集中于技術(shù)精英群體，避免智能企業(yè)的應(yīng)稅業(yè)務(wù)轉(zhuǎn)移到其他國家和地區(qū)。進而使用上述部分稅收收入搭建弱勢群體進階知識儲備的綠色通路，實現(xiàn)社會公平。

3.6 加強人工智能領(lǐng)域的宣傳教育

人工智能推動社會發(fā)展的核心價值使得相關(guān)宣傳教育至關(guān)重要。全面提升整個社會獲取、理解和整合數(shù)字信息的素養(yǎng)和參與研發(fā)應(yīng)用的能力是維持人工智能可持續(xù)發(fā)展的重要舉措。有必要立足國家人工智能發(fā)展戰(zhàn)略，通過相關(guān)宣傳教育，積極培養(yǎng)大批守法的“人工智能+”的復(fù)合型人才，尤其重視提升女性、少數(shù)民族同胞和欠發(fā)達地區(qū)居民的相關(guān)法律法規(guī)認知水平，防止智能紀元的性別歧視、種族歧視和收入偏見等等。此外，積極加強高等院校培養(yǎng)智能人才中的黨性教育、愛國主義教育和集體主義教育，重點強化私營科技企業(yè)的黨組織和工會系統(tǒng)，亦有利于降低科技企業(yè)集結(jié)逐利與技術(shù)專家群體泛自由主義過度泛濫引發(fā)的諸多危險。

4 結(jié)語

進化的互聯(lián)網(wǎng)與迭代的信息科技推動人工智能多元應(yīng)用廣域開啟整個族群改造世界的第二次契機。智能應(yīng)用已經(jīng)從最初的軍事、科技和工業(yè)應(yīng)用滲透到普通民眾的日常生活之中。在充分發(fā)揮加快知識傳遞、驅(qū)動產(chǎn)業(yè)變革、完善社會治理以及推動族群永續(xù)等積極效用的同時，亦暴露出大量阻礙社會和諧發(fā)展的嚴重風險。亟待建立智能系統(tǒng)設(shè)計者、制造者、使用者以及其他利益相關(guān)者合作共贏的權(quán)責體系，充分發(fā)揮各級各地公權(quán)部門合法規(guī)制與激勵發(fā)展的雙重作用，積極深化智能應(yīng)用領(lǐng)域的國際管控合作，確保運作流程公開透明與安全可靠，統(tǒng)一協(xié)調(diào)公權(quán)力、私權(quán)力、多樣生態(tài)和社會秩序等。

參考文獻：

[1] Elish M C，Tim H.An AI Pattern Language： Accounting for Human Factors & Human Frames[R].Data & Society Research Institute，2017：8.endprint

[2] Michelle K.American Diabetes Association and IBM Watson Health Join Forces to Reimagine How Diabetes are Prevented and Managed [R].American Diabetes Association Report，2016：31.

[3] Da Vinci Surgery：Minimally Invasive Surgery[EB/OL].[2017-12-08].http：//www.davincisurgery.com/.

[4] 王立銘.上帝的手術(shù)刀：基因編輯簡史[M].杭州：浙江人民出版社，2017：1.

[5] 周志敏，紀愛華.人工智能：改變未來的顛覆性技術(shù)[M].北京：中國工信出版集團，北京：人民郵電出版社，2017：27.

[6] 李開復(fù)，王詠剛.人工智能[M].北京：文化發(fā)展出版社，2017：3.

[7] （美）斯特凡·韋茨.任頌華，譯.搜索：開啟智能時代的新引擎[M].北京：中信出版社，2017：101.

[8] Yilun W，Michal K.Deep neural networks can detect sexual orientation from faces[J].Personality and Social Psychology.Preprint [EB/OL].[2017-12-08].https：//psyarxiv.com/hv28a/.同性戀識別算法使用深度神經(jīng)網(wǎng)絡(luò)提取特征，在給定同一測試者五張面部圖像的前提下，分類器區(qū)別男性同性戀的準確率高達91%、女性83%，遠優(yōu)于人類判斷表現(xiàn)（男性61%、女性54%）。

[9] （美）喬舒亞·庫帕·雷默.羅康琳，譯.第七感：權(quán)力、財富與這個世界的生存法則[M].北京：中信出版社，2017.

[10] Robot Priests Funeral Role[N].Hindustan Times，2017-08-23（4）.

[11] （英）卡魯姆·蔡斯.張堯亮，譯.人工智能革命：超級智能時代的人類命運[M].北京：機械工業(yè)出版社，2017：173.

[12] （印）阿魯·薩丹拉徹.周恂，譯.分享經(jīng)濟的爆發(fā)[M].北京：文匯出版社，2017：8.

[13] （英）瑪格麗特·博登.孫詩惠，譯.AI：人工智能的本質(zhì)與未來[M].北京：中國人民大學(xué)出版社，2017：1955.

作者簡介：蔣潔（1979-），女，南京信息工程大學(xué)中意網(wǎng)絡(luò)侵權(quán)研究所、南京信息工程大學(xué)法政學(xué)院副教授，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟政策法規(guī)組副組長，意大利信息法學(xué)博士后，騰訊學(xué)術(shù)顧問。endprint