美《國家人工智能研究與發(fā)展戰(zhàn)略計劃》主要特點及啟示

■文/李東格 高月（中國電子信息產(chǎn)業(yè)發(fā)展研究院）

2023年5月23日，美國白宮科技政策辦公室發(fā)布2023年更新版《國家人工智能研究與發(fā)展戰(zhàn)略計劃》（以下簡稱《計劃》），該計劃遵循2016年和2019年發(fā)布的國家人工智能研發(fā)戰(zhàn)略計劃，增加了第九項戰(zhàn)略，提出人工智能研究國際合作的原則和協(xié)調(diào)方法。新版《計劃》指出了人工智能領域的諸多安全挑戰(zhàn)，明確了人工智能研發(fā)的優(yōu)先事項和目標，協(xié)調(diào)和集中聯(lián)邦研發(fā)投資，以確保美國人工智能系統(tǒng)研發(fā)繼續(xù)處于領先地位。目前，ChatGPT等人工智能新技術新應用沖擊著全球，引發(fā)新一代人工智能變革，我國人工智能發(fā)展與發(fā)達國家差距將進一步拉大，新版《計劃》對我國新時期人工智能發(fā)展規(guī)劃具有較好的借鑒意義。

一、新版《計劃》重點內(nèi)容

戰(zhàn)略1：對基礎和負責任的人工智能研究進行長期投資。優(yōu)先投資下一代人工智能，推動負責任的人工智能創(chuàng)新，為公共利益服務，保持美國人工智能的世界領先地位。主要任務包括：提高感知、表達、學習和推理等基礎人工智能能力；提升人工智能的易用性和可靠性；預測和管理生成式人工智能相關的風險。

戰(zhàn)略2：開發(fā)有效的人工智能協(xié)作方法。增進對如何創(chuàng)建有效補充和增強人類能力的人工智能系統(tǒng)的理解，解決多學科研究的需求，以實現(xiàn)有效的人工智能合作。主要任務包括：發(fā)展人類-人工智能團隊科學；尋求改進的績效模型和衡量標準；培養(yǎng)對人工智能交互的信任；開發(fā)人工智能交互協(xié)作的新范式。

戰(zhàn)略3：理解和解決人工智能的倫理、法律和社會影響。制定減輕人工智能帶來的倫理、合法和社會風險的方法，以確保人工智能系統(tǒng)反映美國的價值觀并促進公平。主要任務包括：對基礎研究進行投資，通過社會技術系統(tǒng)設計提升社會核心價值觀；理解和減輕人工智能的社會倫理風險；利用人工智能解決倫理、法律和社會問題。

戰(zhàn)略4：確保人工智能系統(tǒng)的安全保障。深入了解如何設計值得信賴、可靠和安全的人工智能系統(tǒng)。主要任務包括：研究提高人工智能系統(tǒng)的功能性和準確性的測試及驗證能力；保護人工智能系統(tǒng)免受網(wǎng)絡安全和數(shù)據(jù)漏洞的影響。

戰(zhàn)略5：為人工智能培訓和測試開發(fā)共享的公共數(shù)據(jù)集和環(huán)境。開發(fā)并允許訪問高質量的數(shù)據(jù)集和環(huán)境，以及測試和培訓資源，利用最佳數(shù)據(jù)和工具進行人工智能研究，提升更具創(chuàng)新性和公平性的潛力。主要任務包括：開發(fā)和制作可訪問的數(shù)據(jù)集；開發(fā)可共享大規(guī)模專業(yè)化高級計算和硬件資源；開發(fā)開放源碼軟件庫和工具包，保證軟件工具開發(fā)、維護和管理的可持續(xù)性。

戰(zhàn)略6：通過標準和基準衡量和評估人工智能系統(tǒng)。根據(jù)政府的人工智能權利法案和人工智能風險管理框架藍圖，開發(fā)廣泛的人工智能評估技術。主要任務包括：制定廣泛的人工智能標準；建立人工智能技術基準；增加人工智能試驗平臺的可用性；鼓勵人工智能社會團體參與標準制定；制定人工智能系統(tǒng)審計和監(jiān)測標準。

戰(zhàn)略7：更好地了解國家人工智能研發(fā)人員的需求。改善研發(fā)人員發(fā)展的機會，從戰(zhàn)略上培養(yǎng)美國的人工智能勞動力。主要任務包括：探討多樣化和多學科專業(yè)知識的影響，制定各級人工智能教材的開發(fā)策略，將倫理、法律和社會影響納入人工智能教育和培訓，提升對人工智能及相關工作局限性和可能性的理解能力；有效評估人工智能勞動力，吸引全球優(yōu)秀的人才，提升人工智能高等人才培養(yǎng)能力。

戰(zhàn)略8：擴大公私伙伴關系，加快人工智能的發(fā)展。積極開展與學術界、工業(yè)界、國際合作伙伴及其他非聯(lián)邦實體之間的合作，對負責任的人工智能研發(fā)的持續(xù)投資，提升研發(fā)成果轉化能力。主要任務包括：增強公私伙伴關系協(xié)同效應，有效推進科學和工程創(chuàng)新；改進、擴大和建立研發(fā)伙伴關系的機制，創(chuàng)建新形式的公私伙伴關系。

戰(zhàn)略9：建立人工智能研究國際合作的原則和協(xié)調(diào)方法。優(yōu)先考慮人工智能研發(fā)方面的國際合作，戰(zhàn)略性國際伙伴關系將有助于支持負責任的人工智能研發(fā)進展，以及人工智能國際準則和標準的制定和實施。主要任務包括：培養(yǎng)開發(fā)和使用值得信賴的人工智能的全球文化，支持全球人工智能系統(tǒng)、標準和框架的開發(fā)；促進國際思想和專業(yè)知識交流，促進人工智能造福世界各國人民。

二、新版《計劃》主要特點

新版《計劃》明確人工智能發(fā)展優(yōu)先事項，引導聯(lián)邦政府戰(zhàn)略投資方向。一是建立負責任的人工智能系統(tǒng)研發(fā)。新版《計劃》指出，人們越來越關注人工智能的倫理、法律和社會影響，聯(lián)邦政府必須將人民和社區(qū)置于中心，優(yōu)先投資于負責任人工智能的研發(fā)，為公共利益服務，保護人民的權利和安全，促進民主價值觀。二是開發(fā)有效的人工智能協(xié)作方法。新版《計劃》指出，隨著人工智能在整個社會的應用越來越普遍，人類與人工智能協(xié)作的有效方法已成為越來越重要的優(yōu)先事項，人機協(xié)作可以發(fā)揮各自的優(yōu)勢提升生產(chǎn)效率，并降低風險。三是優(yōu)化人工智能領域國際合作。新版《計劃》指出，優(yōu)先考慮人工智能研發(fā)方面的國際合作，以應對全球挑戰(zhàn)，如環(huán)境可持續(xù)性、醫(yī)療保健和制造業(yè)等方面的挑戰(zhàn)，同時有助于人工智能創(chuàng)新的發(fā)展以及人工智能國際標準的制定和實施。

新版《計劃》兼顧人工智能發(fā)展機遇與安全挑戰(zhàn)，提升人工智能易用性和可靠性。一方面，新版《計劃》積極謀劃人工智能發(fā)展新策略，加快推動人工智能領域技術的全面突破。一是持續(xù)推進人工智能基礎研究，如挖掘大量可用數(shù)據(jù)用于機器學習和知識發(fā)現(xiàn)，提高人工智能的感知和行動能力。二是共享公共數(shù)據(jù)集和環(huán)境，創(chuàng)建新研究計算基礎設施，擴大訪問范圍，以滿足人工智能應用的各種需求。三是擴展多模式合作的項目，促進聯(lián)邦資助機構、學術界以及私營部門能夠更有效地相互合作，實現(xiàn)人工智能領域技術突破。另一方面，新版《計劃》加大戰(zhàn)略投資，促進負責任的人工智能創(chuàng)新，應對發(fā)展過程中出現(xiàn)的各種安全挑戰(zhàn)。一是設計與主流價值觀相一致的人工智能系統(tǒng)，支持安全、公平和負責任的人工智能系統(tǒng)的開發(fā)，解決人工智能法律和社會影響。二是構建安全人工智能系統(tǒng)，提高系統(tǒng)抵御輸入數(shù)據(jù)操縱、模型反演和其他形式的對抗性攻擊的能力。三是制定人工智能系統(tǒng)審計和監(jiān)控標準，識別和減輕準確性、可靠性等技術風險和偏見、隱私社會技術風險。

新版《計劃》勾畫人工智能國際合作新路線，打造以美為中心的人工智能研發(fā)生態(tài)系統(tǒng)。一是加強可信人工智能研發(fā)和部署方面的國際合作。與志同道合的國際伙伴開展多形式合作，探索可信人工智能研發(fā)和創(chuàng)新的方法，實現(xiàn)共同價值觀和社會優(yōu)先事項；繼續(xù)參與和領導國際組織和論壇，表達對研發(fā)合作的意愿，明確人工智能研發(fā)、創(chuàng)新的合作方式，建立公眾信任和信心。二是支持全球人工智能系統(tǒng)、標準和框架的開發(fā)。制定并建立適當嚴格的數(shù)據(jù)共享、數(shù)據(jù)隱私和知識產(chǎn)權保護標準、政策和程序，滿足各國系統(tǒng)之間的互操作性，確保數(shù)據(jù)共享和傳輸安全可靠，以保護數(shù)據(jù)、隱私和國家安全。三是促進國際人工智能專業(yè)知識交流。開展更廣泛的雙邊和多邊合作，縮短伙伴關系之間人工智能專業(yè)知識鴻溝；制定人工智能人才交流計劃，促進美國人工智能研究人員之間的長期合作關系。四是推動人工智能造福全世界。利用雙邊和多邊伙伴關系，限制競爭對手和敵對國家獲取先進的人工智能工具及相關技術，遏制濫用及惡意使用的行為。借助人工智能發(fā)展領導地位，建立標準化的可信人工智能基礎設施，造福全世界。

三、幾點啟示

加強頂層戰(zhàn)略部署，加快推動人工智能技術全面突破。近年來我國相關部門同樣高度重視人工智能發(fā)展，頂層設計逐步完善，但隨著人工智能新技術新應用的涌現(xiàn)，凸顯我國與發(fā)達國家的技術還有一定的差距，需加強頂層戰(zhàn)略部署，盡快完成技術突破。一是充分發(fā)揮國家政府統(tǒng)籌協(xié)調(diào)作用，設置人工智能發(fā)展優(yōu)先事項，明確發(fā)展目標，加快推進戰(zhàn)略部署任務進度。二是設計人工智能戰(zhàn)略性投資，對人工智能基礎研究、關鍵共性技術攻關、成果轉移轉化、基地平臺建設、創(chuàng)新應用示范等提供支持。三是加快人工智能高端人才培養(yǎng)戰(zhàn)略布局，引導人工智能科研機構和龍頭企業(yè)發(fā)揮“頭雁效應”，支持和培養(yǎng)具有發(fā)展?jié)摿Φ娜斯ぶ悄茴I軍人才，尤其是青少年優(yōu)秀人才培養(yǎng)。

統(tǒng)籌安全與發(fā)展，穩(wěn)步推動人工智能新發(fā)展格局。目前我國已出臺了《新一代人工智能治理原則——發(fā)展負責任的人工智能》《新一代人工智能倫理規(guī)范》等政策文件，穩(wěn)步推動人工智能安全發(fā)展，然而ChatGPT等人工智能新技術新應用發(fā)展的不確定性帶來新挑戰(zhàn)，需加強前瞻預防與約束引導，保障人工智能安全、可靠發(fā)展。一是完善人工智能安全審查評估機制，嚴格把控人工智能新技術新應用的引進，對已引進和使用的人工智能系統(tǒng)進行定期監(jiān)控和適當?shù)膶徲?，識別和減輕人工智能安全風險。二是加強人工智能研發(fā)“設計安全”，確保從初始設計和數(shù)據(jù)模型構建到驗證、部署、運行和監(jiān)測的全過程安全，避免投喂數(shù)據(jù)操縱、信息偏見、隱私泄露等安全風險。三是制定廣泛的人工智能標準，引導學術界、工業(yè)界和公眾積極參與標準制定，實現(xiàn)人工智能系統(tǒng)安全透明，解決不公平、不平等的問題。

加強國際交流，全方位推動人工智能開放合作新發(fā)展路線。我國在人工智能國際合作方面做出了許多努力，人工智能已成為“一帶一路”國際合作的重要主題，在國際人工智能開源社區(qū)的貢獻度方面僅次于美國，但“技術封鎖”“小院高墻”等現(xiàn)象依然存在，嚴重阻礙我國人工智能發(fā)展，急需發(fā)展國際合作新路線謀求技術新突破。一是加強雙邊和多邊合作交流，積極探討人工智能技術優(yōu)勢和瓶頸，達成合作共贏共識，共同實現(xiàn)人工智能關鍵技術攻關。二是積極與發(fā)達國家建立友好合作，通過文化、思想等方面的交流，減少國家之間分歧和摩擦，打破技術壁壘，共同實現(xiàn)人工智能造福全球。三是支持企業(yè)參與或主導制定人工智能國際標準，助力我國人工智能產(chǎn)品海外推廣，有效提升我國人工智能領域的公信力。