《人工智能創(chuàng)新發(fā)展道德倫理宣言》助力產(chǎn)業(yè) 健康發(fā)展

隨著人工智能科技的發(fā)展，人工智能與人類的關系已經(jīng)引起了多方重視。近日，在天津高新區(qū)召開的2018雷克大會（2018機器人與人工智能大會）上，工信部賽迪研究院發(fā)布了《人工智能創(chuàng)新發(fā)展道德倫理宣言》，包括人工智能系統(tǒng)、人工智能與人類的關系、人工智能具體接觸人員的道德倫理要求、人工智能的應用、當前發(fā)展人工智能的方向等方面。

為期兩天的 “2018雷克大會（2018機器人與人工智能大會）”近日在天津高新區(qū)順利舉行。在雷克大會主論壇上，人工智能產(chǎn)業(yè)創(chuàng)新聯(lián)盟面向成員組織發(fā)布了《人工智能創(chuàng)新發(fā)展道德倫理宣言》。成員組織包括中國電子信息產(chǎn)業(yè)發(fā)展研究院、英特爾（中國）有限公司、科大訊飛股份有限公司、微軟（中國）有限公司、京東集團、天津市高新技術企業(yè)協(xié)會等40余家國內機構及企業(yè)。

宣言共6章22條，對人工智能系統(tǒng)、人工智能與人類的關系、人工智能具體接觸人員的道德倫理要求、人工智能的應用、當前發(fā)展人工智能的方向等內容進行了界定，提出了要求。

工信部賽迪智庫政策法規(guī)研究所所長欒群表示，發(fā)展人工智能不僅存在技術或應用問題，更存在顛覆社會性、倫理性甚至人性的跨領域問題。為此，在大量研究和調研的基礎上，工信部賽迪研究院發(fā)布vzt了《人工智能創(chuàng)新發(fā)展道德倫理宣言》，希望通過道德倫理約束，幫助人工智能產(chǎn)業(yè)健康發(fā)展。

以下為《人工智能創(chuàng)新發(fā)展道德倫理宣言》全文內容：

序言

鑒于全人類固有道德、倫理、尊嚴及人格之權利，創(chuàng)新、應用和發(fā)展人工智能技術當以此為根本基礎；

鑒于人類社會發(fā)展的最高階段為人類解放和人的自由全面發(fā)展，人工智能技術研發(fā)當以此為最終依歸，進而促進全人類福祉；

鑒于人工智能技術對人類社會既有觀念、秩序和自由意志的挑戰(zhàn)巨大，且發(fā)展前景充滿未知，對人工智能技術的創(chuàng)新應當設置倡導性與禁止性的規(guī)則，這些規(guī)則本身應當凝聚不同文明背景下人群的基本價值共識；

鑒于人工智能技術具有把人類從繁重體力和腦力勞動束縛中解放的潛力，縱然未來的探索道路上出現(xiàn)曲折與反復，也不應停止人工智能創(chuàng)新發(fā)展造福人類的步伐。

鑒于此，現(xiàn)發(fā)布人工智能創(chuàng)新發(fā)展道德倫理宣言，宣揚涉及人工智能創(chuàng)新、應用和發(fā)展的基本準則，以期無論何種身份的人都能經(jīng)常銘記本宣言精神，理解并尊重發(fā)展人工智能的初衷，使宣言傳達的價值與理念得到普遍認可與遵行。

第一章 人工智能系統(tǒng)

第一條 人工智能系統(tǒng)基礎數(shù)據(jù)應當秉持公平性與客觀性，摒棄帶有偏見的數(shù)據(jù)和算法，以杜絕可能的歧視性結果。

第二條 人工智能系統(tǒng)的數(shù)據(jù)采集和使用應當尊重隱私權等一系列人格權利，以維護權利所承載的人格利益。

第三條 人工智能系統(tǒng)應當有相應的技術風險評估機制，保持對系統(tǒng)潛在危險的前瞻性控制能力。

第四條 人工智能系統(tǒng)所具有的自主意識程度應當受到科學技術水平和道德、倫理、法律等人文價值的共同評價。

第二章 人工智能與人類的關系

第五條 人工智能的發(fā)展應當始終以造福人類為宗旨。牢記這一宗旨，是防止人工智能的巨大優(yōu)勢轉為人類生存發(fā)展巨大威脅的關鍵所在。

第六條 無論人工智能的自主意識能力進化到何種階段，都不能改變其由人類創(chuàng)造的事實。不能將人工智能的自主意識等同于人類特有的自由意志，模糊這兩者之間的差別可能抹殺人類自身特有的人權屬性與價值。

第七條 當人工智能的設定初衷與人類整體利益或個人合法利益相悖時，人工智能應當無條件停止或暫停工作進程，以保證人類整體利益的優(yōu)先性。

第三章 人工智能具體接觸人員的道德倫理要求

第八條 人工智能具體接觸人員是指居于主導地位、可以直接操縱或影響人工智能系統(tǒng)和技術，使之按照預設產(chǎn)生某種具體功效的人員，包括但不限于人工智能的研發(fā)人員和使用者。

第九條 人工智能的研發(fā)者自身應當具備正確的倫理道德意識，同時將這種意識貫徹于研發(fā)全過程，確保其塑造的人工智能自主意識符合人類社會主流道德倫理要求。

第十條 人工智能產(chǎn)品的使用者應當遵循產(chǎn)品的既有使用準則，除非出于改善產(chǎn)品本身性能的目的，否則不得擅自變動、篡改原有的設置，使之背離創(chuàng)新、應用和發(fā)展初衷，以致于破壞人類文明及社會和諧。

第十一條 人工智能的具體接觸人員可以根據(jù)自身經(jīng)驗，闡述其對人工智能產(chǎn)品與技術的認識。此種闡述應當本著誠實信用的原則，保持理性與客觀，不得誘導公眾的盲目熱情或故意加劇公眾的恐慌情緒。

第四章 人工智能的應用

第十二條 人工智能發(fā)展迅速，但也伴隨著各種不確定性。在沒有確定完善的技術保障之前，在某些失誤成本過于沉重的領域，人工智能的應用和推廣應當審慎而科學。

第十三條 人工智能可以為決策提供輔助。但是人工智能本身不能成為決策的主體，特別是國家公共事務領域，人工智能不能行使國家公權力。

第十四條 人工智能的優(yōu)勢使其在軍事領域存在巨大應用潛力。出于對人類整體福祉的考慮，應當本著人道主義精神，克制在進攻端武器運用人工智能的沖動。

第十五條 人工智能不應成為侵犯合法權益的工具，任何運用人工智能從事犯罪活動的行為，都應當受到法律的制裁和道義的譴責。

第十六條 人工智能的應用可以解放人類在腦力和體力層面的部分束縛，在條件成熟時，應當鼓勵人工智能在相應領域發(fā)揮幫助人類自由發(fā)展的作用。

第五章 當前發(fā)展人工智能的方向

第十七條 探索產(chǎn)、學、研、用、政、金合作機制，推動人工智能核心技術創(chuàng)新與產(chǎn)業(yè)發(fā)展。特別是推動上述各方資源結合，建立長期和深層次的合作機制，針對人工智能領域的關鍵核心技術難題開展聯(lián)合攻關。

第十八條 制定人工智能產(chǎn)業(yè)發(fā)展標準，推動人工智能產(chǎn)業(yè)協(xié)同發(fā)展。推動人工智能產(chǎn)業(yè)從數(shù)據(jù)規(guī)范、應用接口以及性能檢測等方面的標準體系制定，為消費者提供更好的服務與體驗。

第十九條 打造共性技術支撐平臺，構建人工智能產(chǎn)業(yè)生態(tài)。推動人工智能領域龍頭企業(yè)牽頭建設平臺，為人工智能在社會生活各個領域的創(chuàng)業(yè)創(chuàng)新者提供更好支持。

第二十條 健全人工智能法律法規(guī)體系。通過不斷完善人工智能相關法律法規(guī)，在拓展人類人工智能應用能力的同時，避免人工智能對社會和諧的沖擊，尋求人工智能技術創(chuàng)新、產(chǎn)業(yè)發(fā)展與道德倫理的平衡點。

第六章 附則

第二十一條 本宣言的條文，不得解釋為默許任何主體有權進行破壞本宣言所載的道德、倫理和宗旨的活動。

第二十二條 人工智能的發(fā)展在深度與廣度上都是難以預測的。根據(jù)新的發(fā)展形勢，可以修改本宣言的具體條款，但任何修改都不能違反人類的道德倫理法律準則，不得損害人類的尊嚴和整體福祉。

中國電子信息產(chǎn)業(yè)發(fā)展研究院

人工智能產(chǎn)業(yè)創(chuàng)新聯(lián)盟