美國(guó)發(fā)布人工智能標(biāo)準(zhǔn)制定計(jì)劃

編譯 方陵生

美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）于2019年8月發(fā)布了一項(xiàng)聯(lián)邦機(jī)構(gòu)參與制定人工智能（AI）標(biāo)準(zhǔn)的計(jì)劃。該計(jì)劃建議聯(lián)邦政府更深入、持續(xù)、長(zhǎng)期地參與其中，幫助美國(guó)加快發(fā)展可靠、強(qiáng)大、值得信賴的人工智能技術(shù)的步伐。

為強(qiáng)調(diào)人工智能（AI）對(duì)未來美國(guó)經(jīng)濟(jì)和國(guó)家安全的重要性，2019年2月11日，美國(guó)總統(tǒng)發(fā)布了一項(xiàng)行政命令（EO 13859），旨在確保美國(guó)在人工智能領(lǐng)域保持其領(lǐng)導(dǎo)地位。行政命令要求NIST制定一項(xiàng)計(jì)劃，目標(biāo)之一是“確保技術(shù)標(biāo)準(zhǔn)最大限度地降低受到惡意行為者攻擊的脆弱性，確定在人工智能技術(shù)創(chuàng)新、建立公眾信任和信心方面的優(yōu)先事項(xiàng)，并制定國(guó)際標(biāo)準(zhǔn)來促進(jìn)和保護(hù)這些優(yōu)先事項(xiàng)”。這項(xiàng)計(jì)劃即《美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位：聯(lián)邦政府參與開發(fā)技術(shù)標(biāo)準(zhǔn)和相關(guān)工具的計(jì)劃》（U.S. leadership in AI：A Plan for Federal Engagement in Developing Technical Standards and Related Tools）。

NIST在公共和私營(yíng)部門的廣泛參與下制定了該計(jì)劃，包括2019年5月30日的研討會(huì)和多個(gè)公眾評(píng)論活動(dòng)。NIST收到了40多個(gè)工業(yè)、學(xué)術(shù)界和政府組織對(duì)2019年7月2日發(fā)布的計(jì)劃草案的建議和評(píng)論，修改完善后形成了本計(jì)劃。

美國(guó)商務(wù)部副部長(zhǎng)兼NIST主管沃爾特·科潘（Walter G.Copan）說：“聯(lián)邦政府可以通過與工業(yè)界和學(xué)術(shù)界專家的密切合作，投資于研究，并與國(guó)際標(biāo)準(zhǔn)界接觸，幫助美國(guó)保持人工智能領(lǐng)域的領(lǐng)導(dǎo)地位。這一計(jì)劃提供的途徑可確保聯(lián)邦政府支持制定的標(biāo)準(zhǔn)既有靈活性，又有包容性，且能適應(yīng)人工智能技術(shù)和應(yīng)用領(lǐng)域的快速變化。”

美國(guó)在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位依賴于聯(lián)邦政府在人工智能標(biāo)準(zhǔn)制定中發(fā)揮的積極和有意義的作用。計(jì)劃提出了聯(lián)邦政府參與標(biāo)準(zhǔn)開發(fā)應(yīng)優(yōu)先考慮的原則，包括基于共識(shí)、包容性和可及性、公開性和透明性等；提供了標(biāo)準(zhǔn)的重要特征，為機(jī)構(gòu)在有關(guān)AI標(biāo)準(zhǔn)的決策中提供指導(dǎo)和幫助；并將參與機(jī)構(gòu)根據(jù)參與程度劃分為四類，即監(jiān)控、參與、影響和領(lǐng)導(dǎo)；為決定參與人工智能標(biāo)準(zhǔn)工作的各機(jī)構(gòu)提供了切實(shí)可行的步驟；最后，對(duì)聯(lián)邦政府參與標(biāo)準(zhǔn)制定工作提出了一些建議，如鼓勵(lì)與AI標(biāo)準(zhǔn)相關(guān)的知識(shí)學(xué)習(xí)，提高領(lǐng)導(dǎo)力，協(xié)調(diào)開發(fā)或使用AI標(biāo)準(zhǔn)各機(jī)構(gòu)之間的關(guān)系；促進(jìn)對(duì)人工智能系統(tǒng)可信度的重點(diǎn)研究；支持和擴(kuò)大公私合作伙伴關(guān)系；開展與國(guó)際各方的合作，以推進(jìn)可靠、強(qiáng)大和可信的人工智能系統(tǒng)。計(jì)劃的附錄中還列出了適用于人工智能的現(xiàn)有標(biāo)準(zhǔn)，以及正在進(jìn)行的關(guān)于人工智能標(biāo)準(zhǔn)和相關(guān)工具的各項(xiàng)活動(dòng)。

現(xiàn)有的許多跨部門和特定部門的AI標(biāo)準(zhǔn)正在使用之中，其他一些標(biāo)準(zhǔn)正在由許多標(biāo)準(zhǔn)制定組織（SDO）開發(fā)制定。一些領(lǐng)域，如通信領(lǐng)域，已制定并廣泛使用的一些標(biāo)準(zhǔn)，通常最初是針對(duì)其他技術(shù)的。其他方面，如可信度，現(xiàn)在也在考慮之中。所有這些標(biāo)準(zhǔn)的制定，都是為了建立可靠、強(qiáng)大和可信的人工智能系統(tǒng)。

聯(lián)邦政府參與標(biāo)準(zhǔn)開發(fā)的原則

在決定哪些標(biāo)準(zhǔn)制定工作值得聯(lián)邦政府大力參與時(shí)，美國(guó)政府機(jī)構(gòu)應(yīng)該優(yōu)先考慮以下原則：基于共識(shí)，即決策基于所有相關(guān)方都理解的明確的條款或協(xié)議，決策基于廣泛認(rèn)同和共識(shí)；包容性和可及性，鼓勵(lì)用戶、開發(fā)人員、供應(yīng)商等群體的多元化，并對(duì)他們之間的需求進(jìn)行平衡，利益相關(guān)者還應(yīng)包括來自不同學(xué)科的代表，來自對(duì)人工智能具有特殊重要性的非傳統(tǒng)學(xué)科的專家和從業(yè)者，如倫理學(xué)家、經(jīng)濟(jì)學(xué)家、法律專業(yè)人士和政策制定者，即要盡量能夠滿足所有人的需求；通過多種途徑，包括傳統(tǒng)和創(chuàng)新的標(biāo)準(zhǔn)制定方法和組織機(jī)構(gòu)來開發(fā)，以最有效地滿足整個(gè)市場(chǎng)和社會(huì)中的開發(fā)人員和用戶的需求；開放性和透明度，確保標(biāo)準(zhǔn)的可獲得性，并通過確立容易獲得的操作規(guī)則、程序和政策，為決策過程提供確定性，及時(shí)反饋以對(duì)標(biāo)準(zhǔn)進(jìn)行更新，同時(shí)為所有受影響的人提供參與機(jī)會(huì)；制定全球相關(guān)的和非歧視的標(biāo)準(zhǔn)，這些標(biāo)準(zhǔn)要避免成為非關(guān)稅貿(mào)易的壁壘或鎖定在某些特定的技術(shù)和產(chǎn)品上，具有全球通用性。

在人工智能標(biāo)準(zhǔn)制定的優(yōu)先權(quán)方面，該計(jì)劃不會(huì)選定任何某個(gè)標(biāo)準(zhǔn)制定機(jī)構(gòu)。聯(lián)邦政策制定了目標(biāo)，并要求每個(gè)機(jī)構(gòu)根據(jù)其具體需要來參與標(biāo)準(zhǔn)的制定和使用。新的標(biāo)準(zhǔn)將由現(xiàn)有的和新的標(biāo)準(zhǔn)制定組織共同完成。

對(duì)于那些參與人工智能標(biāo)準(zhǔn)開發(fā)的人員來說，意識(shí)到并與美國(guó)政府的政策和原則保持一致是很重要的，包括那些涉及社會(huì)和倫理問題、治理、隱私的政策和原則。然而，盡管人們普遍認(rèn)為這些問題都必須納入人工智能標(biāo)準(zhǔn)，但目前尚不清楚如何做到這一點(diǎn)，以及是否有足夠的科學(xué)和技術(shù)基礎(chǔ)來開發(fā)制定這些標(biāo)準(zhǔn)。

人工智能標(biāo)準(zhǔn)的重要特征

聯(lián)邦政府需優(yōu)先考慮的與人工智能標(biāo)準(zhǔn)相關(guān)的特征包括：應(yīng)以創(chuàng)新為導(dǎo)向跟上技術(shù)的快速變化，包括具有最大的靈活性、技術(shù)和平臺(tái)中立性、更偏向基于性能的需求等；既適用于多種行業(yè)（橫向），以在多個(gè)行業(yè)、政府和社會(huì)進(jìn)行大規(guī)模部署，又能集中于某個(gè)特定領(lǐng)域或?qū)嶋H應(yīng)用（縱向），特別是存在特定風(fēng)險(xiǎn)和重大影響的領(lǐng)域；應(yīng)明確規(guī)定范圍和預(yù)期用途，允許用戶根據(jù)所使用的數(shù)據(jù)或算法來決定一個(gè)應(yīng)用程序的AI標(biāo)準(zhǔn)是否適用于其他應(yīng)用程序，或者風(fēng)險(xiǎn)級(jí)別是否可以接受；能夠解決整個(gè)產(chǎn)品生命周期中監(jiān)督和管理AI系統(tǒng)的需求；能夠反映人工智能的技術(shù)、風(fēng)險(xiǎn)、社會(huì)影響等的發(fā)展情況，即標(biāo)準(zhǔn)制定要適當(dāng)代表人工智能在技術(shù)上的可行性和能被社會(huì)理解的狀態(tài)；應(yīng)定期更新，以反映人工智能技術(shù)的快速變化，避免將技術(shù)和社會(huì)影響方面的新發(fā)展和新知識(shí)排除在外；能有效測(cè)量和評(píng)估人工智能系統(tǒng)性能，以幫助確定風(fēng)險(xiǎn)程度、效率、是否與目標(biāo)一致等；以人為本，確保人工智能數(shù)據(jù)收集、模型開發(fā)、測(cè)試和部署過程中充分考慮人的交互和價(jià)值；使用清晰的語言定義與人工智能相關(guān)的術(shù)語和概念，并進(jìn)行協(xié)調(diào)，促進(jìn)互操作性，促進(jìn)詞匯和術(shù)語的全面統(tǒng)一；倫理道德方面的考量，如識(shí)別并減少偏見和歧視、保護(hù)隱私和安全可控等。

美國(guó)政府的參與程度

參與建立人工智能標(biāo)準(zhǔn)至關(guān)重要，美國(guó)不希望被排除在外，這將不利于美國(guó)公司及政府機(jī)構(gòu)的發(fā)展。此外，由于標(biāo)準(zhǔn)的基礎(chǔ)性，缺乏美國(guó)利益相關(guān)者參與人工智能標(biāo)準(zhǔn)的開發(fā)，從長(zhǎng)遠(yuǎn)來看會(huì)降低美國(guó)的創(chuàng)新能力和競(jìng)爭(zhēng)力。聯(lián)邦政府在標(biāo)準(zhǔn)制定過程中的參與類型，根據(jù)參與程度從最低到最高可分為四類。

監(jiān)督遵循特定標(biāo)準(zhǔn)或更廣泛的程序，由標(biāo)準(zhǔn)制定組織制定處理特定問題或解決特定需求的標(biāo)準(zhǔn)。

參與對(duì)具有重要戰(zhàn)略意義的標(biāo)準(zhǔn)進(jìn)行評(píng)論并提供有意義的貢獻(xiàn)，包括以委員會(huì)觀察員的身份參與。

影響更深入?yún)⑴c，通過正式和非正式的討論以及提供專業(yè)知識(shí)直接與行業(yè)和國(guó)際參與者合作，并施加影響。

領(lǐng)導(dǎo)通過召集或管理共識(shí)小組來領(lǐng)導(dǎo)標(biāo)準(zhǔn)制定工作，擔(dān)任標(biāo)準(zhǔn)項(xiàng)目編制或類似的技術(shù)領(lǐng)導(dǎo)角色，或擔(dān)任標(biāo)準(zhǔn)小組之間的聯(lián)絡(luò)代表。領(lǐng)導(dǎo)力也可以通過在標(biāo)準(zhǔn)制定組織的董事會(huì)或其他職位上任職來實(shí)現(xiàn)。

每一種類型的參與都需要美國(guó)政府參與者（如政府員工或承辦者）根據(jù)他們的專業(yè)知識(shí)、人際關(guān)系和對(duì)特定標(biāo)準(zhǔn)開發(fā)的最佳實(shí)踐等來發(fā)揮作用。

參與人工智能標(biāo)準(zhǔn)制定的步驟

制定人工智能標(biāo)準(zhǔn)具有挑戰(zhàn)性，可根據(jù)以下步驟進(jìn)行人工智能標(biāo)準(zhǔn)的制定。首先，確定如何利用人工智能技術(shù)來進(jìn)一步完成機(jī)構(gòu)的任務(wù)，如科學(xué)研究、技術(shù)開發(fā)、采購(gòu)或監(jiān)管。其次，了解與標(biāo)準(zhǔn)制定相關(guān)的現(xiàn)有法規(guī)、政策和資源。第三，進(jìn)行橫向調(diào)查和差距分析，以確定現(xiàn)有或需要開發(fā)的標(biāo)準(zhǔn)和相關(guān)工具。第四，如有合適的現(xiàn)有標(biāo)準(zhǔn)，則繼續(xù)使用；如沒有現(xiàn)有標(biāo)準(zhǔn)或現(xiàn)有標(biāo)準(zhǔn)不能完全滿足要求，則參與新標(biāo)準(zhǔn)的制定。

參與過程中需要注意：與可能有類似需求的其他聯(lián)邦機(jī)構(gòu)進(jìn)行協(xié)調(diào)配合；確定合適的參與程度；遵循指南，明確在何處以及如何參與；對(duì)參與標(biāo)準(zhǔn)制定的員工進(jìn)行培訓(xùn)。

與人工智能標(biāo)準(zhǔn)相關(guān)的工作

與人工智能標(biāo)準(zhǔn)相關(guān)的各項(xiàng)工作包括支持和開展人工智能的研究和開發(fā)；積極參與標(biāo)準(zhǔn)開發(fā)；采購(gòu)基于標(biāo)準(zhǔn)的產(chǎn)品，部署基于標(biāo)準(zhǔn)的服務(wù)；制定和實(shí)施支持性政策，包括必要的監(jiān)管政策。

計(jì)劃確定了制定人工智能標(biāo)準(zhǔn)的九個(gè)重點(diǎn)領(lǐng)域：概念和術(shù)語、數(shù)據(jù)和知識(shí)、人工交互、度量標(biāo)準(zhǔn)、網(wǎng)絡(luò)、性能測(cè)試和報(bào)告方法、安全、風(fēng)險(xiǎn)管理、可信度（可信度標(biāo)準(zhǔn)包括對(duì)準(zhǔn)確度、可解釋性、彈性、安全性、可靠性和客觀性的指導(dǎo)和要求）。

標(biāo)準(zhǔn)開發(fā)應(yīng)輔以相關(guān)工具，因此計(jì)劃同時(shí)還強(qiáng)調(diào)要開發(fā)支持人工智能的相關(guān)工具，包括可以推動(dòng)創(chuàng)造性解決問題的基準(zhǔn)、評(píng)估和挑戰(zhàn)。這些工具通常有重疊應(yīng)用，包括但不限于：標(biāo)準(zhǔn)化格式的數(shù)據(jù)集，包括用于人工智能系統(tǒng)培訓(xùn)、驗(yàn)證和測(cè)試的元數(shù)據(jù)；在人工智能系統(tǒng)中用于擷取和表述知識(shí)及推導(dǎo)的工具；有完備記錄的使用案例，提供關(guān)于AI技術(shù)的特定應(yīng)用程序的一系列數(shù)據(jù)和信息，以及在決定部署這些應(yīng)用程序時(shí)使用的標(biāo)準(zhǔn)或最佳實(shí)踐指南；驗(yàn)證和評(píng)估人工智能技術(shù)性能的測(cè)試方法；量化衡量和描述人工智能技術(shù)的指標(biāo)；人工智能測(cè)試平臺(tái)；問責(zé)與審計(jì)工具等。

對(duì)政府機(jī)構(gòu)參與標(biāo)準(zhǔn)制定的建議

計(jì)劃就聯(lián)邦政府如何有效參與人工智能標(biāo)準(zhǔn)制定工作，以實(shí)現(xiàn)美國(guó)保持其在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位的目標(biāo)提出了相關(guān)建議。

1.激勵(lì)與AI標(biāo)準(zhǔn)相關(guān)的知識(shí)學(xué)習(xí)，提高領(lǐng)導(dǎo)力，協(xié)調(diào)好各機(jī)構(gòu)之間的關(guān)系，以最大限度提高效率

國(guó)家科學(xué)技術(shù)委員會(huì)（NSTC）機(jī)器學(xué)習(xí)/人工智能（ML/AI）小組委員會(huì)應(yīng)指定標(biāo)準(zhǔn)協(xié)調(diào)員負(fù)責(zé)收集和分享與人工智能標(biāo)準(zhǔn)相關(guān)的需求、戰(zhàn)略、路線圖、術(shù)語、用例和最佳實(shí)踐，以支持可靠、強(qiáng)大、值得信賴的AI系統(tǒng)，包括計(jì)劃的和正在實(shí)行的標(biāo)準(zhǔn)、方法和參與活動(dòng)，確保與標(biāo)準(zhǔn)制定組織建立健全的反饋循環(huán)；確定橫向或縱向標(biāo)準(zhǔn)的優(yōu)先級(jí)；確定擬議標(biāo)準(zhǔn)的要求；分析正在進(jìn)行的標(biāo)準(zhǔn)活動(dòng)是否符合聯(lián)邦政府需求，是否需要適當(dāng)?shù)念~外指導(dǎo)。

最大限度地利用行業(yè)部門廣泛采用的現(xiàn)有標(biāo)準(zhǔn)，這些標(biāo)準(zhǔn)可以在人工智能解決方案的新環(huán)境中使用或得到改進(jìn)。

各機(jī)構(gòu)應(yīng)遵守關(guān)于AI標(biāo)準(zhǔn)和相關(guān)工具的聯(lián)邦政策，如數(shù)據(jù)訪問和數(shù)據(jù)質(zhì)量。

為適應(yīng)人工智能技術(shù)發(fā)展的快速步伐，并反映人們對(duì)“人工智能的可信度、可及性和以人為本”的理解，應(yīng)特別注意靈活選擇用于各項(xiàng)行動(dòng)的AI標(biāo)準(zhǔn)。

培養(yǎng)具有相關(guān)技能的聯(lián)邦政府領(lǐng)導(dǎo)者，制定清晰的職業(yè)發(fā)展和晉升路徑，重視并鼓勵(lì)員工參與人工智能標(biāo)準(zhǔn)的制定，并提供相應(yīng)的專業(yè)知識(shí)培訓(xùn)。

2.促進(jìn)對(duì)人工智能系統(tǒng)可信度的重點(diǎn)研究，在標(biāo)準(zhǔn)與可信度結(jié)合方面，推進(jìn)和加速更廣泛的探索和理解

支持可靠、強(qiáng)大和可信的人工智能計(jì)劃并進(jìn)行研究和評(píng)估。開發(fā)度量標(biāo)準(zhǔn)和數(shù)據(jù)集，以評(píng)估人工智能系統(tǒng)的可靠性、強(qiáng)大性和可信度，重點(diǎn)關(guān)注那些容易理解的、可用的、并能標(biāo)準(zhǔn)化的方法。建議由商務(wù)部、國(guó)家科學(xué)基金會(huì)和研究資助機(jī)構(gòu)領(lǐng)導(dǎo)。

對(duì)風(fēng)險(xiǎn)管理策略的標(biāo)準(zhǔn)化進(jìn)行研究，包括識(shí)別、監(jiān)測(cè)和降低風(fēng)險(xiǎn)。建議由研究資助機(jī)構(gòu)領(lǐng)導(dǎo)。

確定研究需求、要求和方法，幫助推動(dòng)人工智能的科學(xué)突破，讓人們對(duì)人工智能技術(shù)有信心，并建立對(duì)人工智能設(shè)計(jì)、開發(fā)和應(yīng)用的信任。建議由商務(wù)部和研究資助機(jī)構(gòu)領(lǐng)導(dǎo)。

3.支持和擴(kuò)大公私伙伴關(guān)系，促進(jìn)人工智能標(biāo)準(zhǔn)和相關(guān)工具的開發(fā)和使用

戰(zhàn)略性地增加對(duì)AI標(biāo)準(zhǔn)開發(fā)的參與程度，特別是在需要做出重大決策的標(biāo)準(zhǔn)開發(fā)早期階段。

推進(jìn)非傳統(tǒng)的標(biāo)準(zhǔn)開發(fā)協(xié)作模型，如開放源代碼和聯(lián)邦開放數(shù)據(jù)計(jì)劃。

提高數(shù)據(jù)的可搜索性和已被授權(quán)供公眾使用的聯(lián)邦政府?dāng)?shù)據(jù)的訪問權(quán)限，以更廣泛地使用人工智能技術(shù)，對(duì)人工智能技術(shù)進(jìn)行培訓(xùn)，尤其是與標(biāo)準(zhǔn)制定相關(guān)的技術(shù)。

推動(dòng)基準(zhǔn)標(biāo)桿工作，以評(píng)估人工智能系統(tǒng)的可靠性、強(qiáng)大性和可信度，確保這些基準(zhǔn)的廣泛可用性，形成最佳實(shí)踐，并改進(jìn)人工智能評(píng)估和驗(yàn)證方法。

創(chuàng)造協(xié)作環(huán)境，通過AI問題挑戰(zhàn)和測(cè)試平臺(tái)，創(chuàng)造性地解決問題，推進(jìn)標(biāo)準(zhǔn)開發(fā)。

促進(jìn)跨學(xué)科的研究和合作，增進(jìn)對(duì)相關(guān)社會(huì)和倫理問題的理解，促進(jìn)可靠、強(qiáng)大和可信的人工智能標(biāo)準(zhǔn)的開發(fā)和使用。

4.與國(guó)際組織進(jìn)行戰(zhàn)略合作，促進(jìn)滿足美國(guó)經(jīng)濟(jì)和國(guó)家安全需求的人工智能標(biāo)準(zhǔn)的開發(fā)

在世界各地的人工智能標(biāo)準(zhǔn)開發(fā)活動(dòng)中，支持美國(guó)的人工智能標(biāo)準(zhǔn)的優(yōu)先事項(xiàng)。

通過人工智能標(biāo)準(zhǔn)和相關(guān)工具開發(fā)方面的合作，加強(qiáng)與盟國(guó)之間的信息交流。

跟蹤和了解外國(guó)政府和機(jī)構(gòu)在人工智能標(biāo)準(zhǔn)開發(fā)方面的戰(zhàn)略和舉措。

“特朗普政府將繼續(xù)實(shí)施美國(guó)人工智能計(jì)劃，即保持美國(guó)在人工智能領(lǐng)域領(lǐng)導(dǎo)地位的國(guó)家戰(zhàn)略，”美國(guó)聯(lián)邦政府首席技術(shù)官邁克爾·克拉齊奧斯（Michael Kratsios）說道，“公眾信任、安全和隱私方面的考慮仍然是我們制定人工智能技術(shù)標(biāo)準(zhǔn)的關(guān)鍵組成部分。正如NIST所提出的，人工智能標(biāo)準(zhǔn)制定將確保人工智能的創(chuàng)建和應(yīng)用造福于美國(guó)人民！”