科技啟智向善：OECD《人工智能原則》解讀與啟示

高玉英

摘?要：以O(shè)ECD《人工智能原則》項(xiàng)目為例，介紹了該項(xiàng)目政策背景、研究過(guò)程、研究?jī)?nèi)容及成果的應(yīng)用。本文在解讀報(bào)告核心部分的基礎(chǔ)上，提出了一些啟示：人工智能的技術(shù)突破為產(chǎn)業(yè)發(fā)展提供了核心驅(qū)動(dòng)力，將是“未來(lái)紅海”，值得提前布局，深入研究;人工智能標(biāo)準(zhǔn)化工作，任重而道遠(yuǎn)，需要標(biāo)準(zhǔn)先行;科技啟智向善是人工智能發(fā)展需要遵守的技術(shù)倫理，不可輕視。

關(guān)鍵詞：OECD;人工智能

中圖分類號(hào)：G434??文獻(xiàn)標(biāo)識(shí)碼：A

一、緒論

人工智能正在改變我們生活的方方面面，它影響我們的工作和娛樂方式。它承諾幫助解決全球挑戰(zhàn)，如氣候變化和獲得高質(zhì)量醫(yī)療服務(wù)。然而，人工智能也給政府和公民帶來(lái)了真正的挑戰(zhàn)。當(dāng)它滲透到經(jīng)濟(jì)和社會(huì)中時(shí)，什么樣的政策和體制框架應(yīng)該指導(dǎo)人工智能的設(shè)計(jì)和使用，我們?nèi)绾未_保它造福于整個(gè)社會(huì)？經(jīng)合組織通過(guò)分析人工智能技術(shù)應(yīng)用的經(jīng)濟(jì)和社會(huì)影響，與所有利益攸關(guān)方合作，共同制定公共政策，來(lái)支持各國(guó)政府的發(fā)展。

二、OECD關(guān)于《人工智能原則》制定過(guò)程

（一）政策背景

2018年，OECD和美國(guó)國(guó)家科學(xué)院展開了合作，合作研究項(xiàng)目名稱為“技術(shù)的未來(lái)：人工智能和機(jī)器人對(duì)教育的影響”。通過(guò)該項(xiàng)目可以對(duì)機(jī)器人技術(shù)和人工智能在數(shù)十年中所產(chǎn)生的變化以及對(duì)未來(lái)教育而產(chǎn)生的眾多影響。這一項(xiàng)目針對(duì)機(jī)器人技術(shù)和人工智能的發(fā)展在4個(gè)技能領(lǐng)域方面進(jìn)行測(cè)評(píng)：一是一般認(rèn)知技術(shù)。主要分析的是閱讀、聽、寫以及閱讀等;二是專家認(rèn)知技能。這部分主要包括了科學(xué)推理和醫(yī)療診斷等專業(yè)領(lǐng)域性質(zhì)的內(nèi)容;三是社會(huì)技能。例如對(duì)話等;四是身體技能。這部分技能主要以駕駛技能為主（方樂，2018）。2019年5月，經(jīng)合組織通過(guò)了《人工智能原則》（OECD?Principles?on?AI，2019），這是各國(guó)政府就負(fù)責(zé)任地管理可信賴人工智能達(dá)成的第一個(gè)國(guó)際標(biāo)準(zhǔn)。經(jīng)合組織關(guān)于人工智能的原則包括對(duì)公共政策和戰(zhàn)略的具體建議，確保可以應(yīng)用于世界各地的人工智能開發(fā)。

（二）研究進(jìn)程

2016年4月，七國(guó)集團(tuán)信息通信技術(shù)部長(zhǎng)在日本高松同意就人工智能的快速發(fā)展展開國(guó)際討論。2016年11月，經(jīng)合組織數(shù)字經(jīng)濟(jì)政策委員會(huì)舉辦人工智能技術(shù)展望論壇，探討人工智能發(fā)展帶來(lái)的好處和挑戰(zhàn)。2017年9月，七國(guó)集團(tuán)信息和通信技術(shù)部長(zhǎng)和工業(yè)部長(zhǎng)在意大利都靈同意“待進(jìn)一步的多方利益相關(guān)者對(duì)話，并在經(jīng)合組織的支持下促進(jìn)我們對(duì)人工智能合作的理解”。2017年10月，具有里程碑意義的經(jīng)合組織人工智能會(huì)議：智能機(jī)器—智能政策。2018年3月，七國(guó)集團(tuán)創(chuàng)新部長(zhǎng)在加拿大蒙特利爾同意“促進(jìn)多利益相關(guān)者在人工智能方面的對(duì)話與合作”，為七國(guó)集團(tuán)政府未來(lái)的政策討論提供信息。2018年9月，經(jīng)合組織成立了專家組，以促進(jìn)對(duì)人工智能研究進(jìn)程。

（三）推進(jìn)成果

2019年5月，經(jīng)合組織的《人工智能原則》頒布，目的是促進(jìn)具有創(chuàng)新性和可信賴性、尊重人權(quán)和民主價(jià)值觀的人工智能發(fā)展。經(jīng)合組織《人工智能原則》是各國(guó)政府（各國(guó)政府包括經(jīng)合組織成員國(guó)，其他國(guó)家包括阿根廷、巴西、哥倫比亞、哥斯達(dá)黎加、秘魯和羅馬尼亞）簽署的第一個(gè)此類原則，為人工智能制定了標(biāo)準(zhǔn)，使其能夠在快速發(fā)展的領(lǐng)域經(jīng)受住時(shí)間的考驗(yàn)，并補(bǔ)充了現(xiàn)有的OECD標(biāo)準(zhǔn)，如隱私、數(shù)字安全風(fēng)險(xiǎn)管理和負(fù)責(zé)任的商業(yè)行為等。

1.經(jīng)合組織《人工智能原則》內(nèi)容

該建議確定了五項(xiàng)基于價(jià)值觀的原則，用于負(fù)責(zé)任地管理可信賴的人工智能：①人工智能應(yīng)該推動(dòng)人類社會(huì)的可持續(xù)性發(fā)展和包容性增長(zhǎng)。②人工智能系統(tǒng)的設(shè)計(jì)應(yīng)尊重多樣性的價(jià)值觀：法治、人權(quán)和民主，并且也應(yīng)該采取一些適當(dāng)?shù)谋Ｕ洗胧?。例如，在必要時(shí)，應(yīng)該采取人工干預(yù)，以確保人類社會(huì)的公平、公正。③人工智能系統(tǒng)的信息披露應(yīng)該具有透明度和嚴(yán)謹(jǐn)性，使得人們理解并修改基于人工智能系統(tǒng)取得的成果。④人工智能系統(tǒng)在其產(chǎn)品的整個(gè)生命周期里必須不斷評(píng)估潛在風(fēng)險(xiǎn)并解決它，其運(yùn)行方式應(yīng)該穩(wěn)健和安全。⑤組織或者個(gè)人應(yīng)該按照上述原則對(duì)人工智能系統(tǒng)的正常運(yùn)行負(fù)責(zé)。

根據(jù)這些基于價(jià)值的原則，經(jīng)合組織還向各國(guó)政府提出五項(xiàng)建議：①促進(jìn)公共和私人在研發(fā)方面的投資，以促進(jìn)可信人工智能的創(chuàng)新。②利用數(shù)字基礎(chǔ)設(shè)施、技術(shù)和機(jī)制，促進(jìn)無(wú)障礙人工智能生態(tài)系統(tǒng)，以共享數(shù)據(jù)和知識(shí)。③確保有一個(gè)政策環(huán)境，為部署可信賴的人工智能系統(tǒng)開辟道路。④賦予人們?nèi)斯ぶ悄艿募寄?，并支持工人?shí)現(xiàn)公平過(guò)渡。⑤跨國(guó)界和部門合作，在負(fù)責(zé)任地管理可信賴的人工智能方面取得進(jìn)展。

從OECD《人工智能原則》內(nèi)容來(lái)看分為兩個(gè)章節(jié)。

第一部分是關(guān)于管理人工智能的原則，包括包容性增長(zhǎng)、可持續(xù)發(fā)展和福祉、以人為本的價(jià)值觀和公平、關(guān)于信息的透明度和可解釋性、穩(wěn)健性、安全性和安全性共四個(gè)方面。其中提到利益相關(guān)者積極參與負(fù)責(zé)任地管理人工智能，以期實(shí)現(xiàn)對(duì)全球人類有益，促進(jìn)包容未被充分代表的群體利益，減少不平等的經(jīng)濟(jì)、社會(huì)和性別歧視，保護(hù)自然環(huán)境，促進(jìn)人類社會(huì)的可持續(xù)發(fā)展。在人工智能系統(tǒng)的整個(gè)生命周期中，人工智能行為者應(yīng)尊重法治、人權(quán)和民主價(jià)值觀。人工智能參與者應(yīng)致力于數(shù)據(jù)信息的透明度和負(fù)責(zé)任的披露信息。人工智能行為者應(yīng)尊重法治、人權(quán)和民主價(jià)值觀。確保人工智能在整個(gè)生命周期內(nèi)保持穩(wěn)健、安全和安全。以便在正常使用、可預(yù)見的使用或誤用情況下，其功能正常，不會(huì)造成不合理的安全風(fēng)險(xiǎn)。應(yīng)當(dāng)要保證，數(shù)據(jù)、相關(guān)過(guò)程以及決策能夠追溯到源頭，以此可以讓人們更好地分析人工智能系統(tǒng)，進(jìn)而得到過(guò)去及現(xiàn)有成果。按照不同的角色所具備的行動(dòng)能力以及背景，在人工智能系統(tǒng)的每一個(gè)階段中，人工智能參與者都應(yīng)當(dāng)積極應(yīng)用系統(tǒng)風(fēng)險(xiǎn)管理辦法，以此來(lái)解決隱私、數(shù)字安全、安全和偏見的風(fēng)險(xiǎn)。

第二部分人工智能的國(guó)家政策和國(guó)際合作。主要內(nèi)容包括5個(gè)方面：投資人工智能研發(fā)、培育人工智能的數(shù)字生態(tài)系統(tǒng)、為人工智能創(chuàng)造有利的政策環(huán)境、人力資源建設(shè)和勞動(dòng)力市場(chǎng)轉(zhuǎn)型準(zhǔn)備、可信賴人工智能的國(guó)際合作。在投資方面，對(duì)基于跨學(xué)科的人工智能研究和發(fā)展，各國(guó)政府應(yīng)優(yōu)先考慮長(zhǎng)期的公共投資，同時(shí)鼓勵(lì)私人投資，以便解決人工智能領(lǐng)域的具有創(chuàng)新和挑戰(zhàn)性的技術(shù)問(wèn)題。在具有代表性并尊重隱私和數(shù)據(jù)保護(hù)的開放數(shù)據(jù)集上面，改進(jìn)操作性和標(biāo)準(zhǔn)的使用。人工智能數(shù)字生態(tài)系統(tǒng)在進(jìn)行開發(fā)研究、應(yīng)用以及基礎(chǔ)設(shè)施和數(shù)字技術(shù)的建設(shè)方面，各國(guó)政府應(yīng)建立促進(jìn)并分享人工智能知識(shí)和數(shù)據(jù)信托的機(jī)制，探索支持安全、公平、合法和合乎道德的數(shù)據(jù)共享。促進(jìn)有利于人工智能的政策環(huán)境，從而支持從研發(fā)階段向系統(tǒng)的部署和運(yùn)行階段的靈活過(guò)渡，各國(guó)政府應(yīng)該考慮使用實(shí)驗(yàn)環(huán)境對(duì)人工智能系統(tǒng)進(jìn)行測(cè)試，再酌情擴(kuò)大使用規(guī)模。應(yīng)酌情審查和調(diào)整適用于人工智能系統(tǒng)的政策、監(jiān)管框架及評(píng)估機(jī)制，以便鼓勵(lì)競(jìng)爭(zhēng)和創(chuàng)新。在人力資源建設(shè)和勞動(dòng)力市場(chǎng)轉(zhuǎn)型方面，《條件》建議與利益相關(guān)方密切合作，為人力資源的變革做好準(zhǔn)備，人們應(yīng)該有能力在各種應(yīng)用程序中使用人工智能系統(tǒng)。確保在部署人工智能時(shí)工人的順利過(guò)渡，通過(guò)工作生活方面的培訓(xùn)方案、對(duì)流離失所者的保障以及在勞動(dòng)力市場(chǎng)上獲得新機(jī)會(huì)。在工作中負(fù)責(zé)任地使用人工智能，提高工人的人身安全，盡可能利用人工技術(shù)來(lái)對(duì)工作中的實(shí)際質(zhì)量進(jìn)行提升。而且還要要求企業(yè)主能夠培養(yǎng)出企業(yè)家精神，保障人們能夠應(yīng)用人工智能的過(guò)程中合理化和公平化的分享其所帶來(lái)的眾多效益。另外人工智能也應(yīng)當(dāng)走出國(guó)際，積極開展國(guó)際合作?！对瓌t》明確要求了各國(guó)的政府應(yīng)當(dāng)在人工智能領(lǐng)域方面積極展開合作，盡可能在經(jīng)合組織內(nèi)部，或者是其他，具有全球性質(zhì)和區(qū)域性質(zhì)的論壇中朝著共同發(fā)展的方向努力，不斷分享所具備的人工智能知識(shí)。各國(guó)之間，多方利益相關(guān)者以及跨部門的主體都要積極行動(dòng)，利用這樣的方式來(lái)獲得人工智能方面的相關(guān)知識(shí)和內(nèi)容。各國(guó)政府應(yīng)促進(jìn)為可互動(dòng)和可信賴的人工智能制定多方利益相關(guān)者、共識(shí)驅(qū)動(dòng)的全球技術(shù)標(biāo)準(zhǔn)。