人工智能時代 標準化需做好哪些準備

人工智能時代的大幕已經(jīng)徐徐拉開，人類社會的生產(chǎn)和生活方式將發(fā)生巨大變革，在洶涌澎湃的智能技術(shù)浪潮面前，我們都做好準備了嗎？在近日召開的2024（第九屆）世界物聯(lián)網(wǎng)大會上，《中國標準化》記者就此問題采訪了世界工程組織聯(lián)合會前任主席、中國新一代人工智能戰(zhàn)略研究院執(zhí)行院長龔克，請他介紹了人工智能標準化方面的熱點問題。

人工智能標準化面臨的機遇和挑戰(zhàn)

當前人工智能技術(shù)的飛速發(fā)展已超乎人們的想象，那么人工智能標準化目前的狀況怎樣呢？龔克向記者介紹，新一代人工智能從發(fā)展伊始，各國就將標準放在非常重要的位置。2017年，國務(wù)院公布了《新一代人工智能發(fā)展規(guī)劃》（以下簡稱規(guī)劃），規(guī)劃從2017—2030年期間跨越三個5年計劃，在“戰(zhàn)略目標”的設(shè)計上，從時間上分三步走，即到2020年為第一步，到2025年為第二步，到2030年為第三步；在內(nèi)容上分為三個方面建設(shè)：第一方面是人工智能理論和技術(shù)，提出了第一步在新一代人工智能理論和技術(shù)取得重要進展，第二步到新一代人工智能理論和技術(shù)體系初步建立，第三步要形成較為成熟的新一代人工智能理論與技術(shù)體系；第二方面是人工智能產(chǎn)業(yè)，提出了第一步是人工智能產(chǎn)業(yè)競爭力進入國際第一方陣，第二步讓人工智能產(chǎn)業(yè)進入全球價值鏈高端，第三步使人工智能產(chǎn)業(yè)競爭力達到國際領(lǐng)先水平；第三方面是關(guān)于人才和人工智能法規(guī)政策標準等發(fā)展環(huán)境，就法規(guī)政策和標準而言，提出了第一步初步建立部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)，第二步初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，第三步建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。可見，我國從人工智能發(fā)展的頂層設(shè)計上將標準擺在重要位置，把標準化水平設(shè)為重要發(fā)展目標。

從人工智能相關(guān)技術(shù)標準的發(fā)展情況看，我國在2020年由國家標準化管理委員會等五部委聯(lián)合印發(fā)《國家新一代人工智能標準體系建設(shè)指南》（以下簡稱《指南》）?！吨改稀诽岢鲆允袌鲵?qū)動和政府引導(dǎo)相結(jié)合，建立國家新一代人工智能標準體系的指導(dǎo)思想和從標準化頂層設(shè)計到初步建立人工智能標準體系的建設(shè)目標。《指南》給出的標準體系框架，不但明確了支撐技術(shù)與產(chǎn)品、基礎(chǔ)軟硬件平臺、關(guān)鍵通用技術(shù)、關(guān)鍵領(lǐng)域技術(shù)、產(chǎn)品與服務(wù)、行業(yè)應(yīng)用六個層次，而且明確規(guī)定了“共性基礎(chǔ)”（包括術(shù)語標準、參考架構(gòu)標準、測試評估標準等）和“安全/倫理”（包括安全與隱私保護、倫理等）兩類貫穿各個層次的通用要求，以確保人工智能技術(shù)的規(guī)范化發(fā)展。

龔克表示，過去我們一般只是在醫(yī)學(xué)技術(shù)、生物技術(shù)涉及倫理屬性，但人工智能技術(shù)因為它有技術(shù)與社會屬性緊密融合的性質(zhì)，所以這個框架特別將其倫理要求納入其中。

國際上也很重視AI標準化工作。現(xiàn)在國際標準組織在這方面非常積極，國際標準化組織（ISO）、國際電工委員會（IEC）、國際電信聯(lián)盟（ITU）等都非常積極。特別是IEEE，早在多年前就開始做這方面的工作。ISO已經(jīng)先后頒布了幾批涉及人工智能的標準，它有一個非常重要的特點，就像它做的ISO 9000系列。它先對研制人工智能產(chǎn)品、提供智能服務(wù)的組織提出要求，包括設(shè)計決策程序、倫理審查機制等。歐洲方面的標準化有一個重要的特點，就是關(guān)注人工智能對社會發(fā)展的影響。比如說歐盟目前在著手創(chuàng)建一個技術(shù)手段以評估人工智能系統(tǒng)對人權(quán)的影響?？梢哉f各國對于人工智能的標準化都很重視，中國在這方面也取得了重要的進展，我們比較早地推出了人工智能標準化建設(shè)導(dǎo)則和框架，對于國際上整個標準化工作應(yīng)該都有一定影響力。

另一方面，中國也在積極參與ISO、ITU、IEC等國際標準組織的工作。中國電子技術(shù)標準化研究院是國內(nèi)標準積極的推動者，同時也是國際標準重要的參與者。

標準化體系考慮倫理與安全隱私

龔克介紹，日前，工業(yè)和信息化部等四部門聯(lián)合發(fā)布《國家人工智能產(chǎn)業(yè)綜合標準化體系建設(shè)指南（2024版）》，指南在標準體系的層次劃分上分為基礎(chǔ)支撐、關(guān)鍵技術(shù)、智能產(chǎn)品與服務(wù)、賦能新型工業(yè)化與行業(yè)應(yīng)用四個大層次，突出了賦能新型工業(yè)化的標準建設(shè)，在貫穿各層次的“共性基礎(chǔ)”中進一步明確了“管理”和“可持續(xù)”兩項內(nèi)容，同時將“安全/倫理”拓展為“安全/治理”，構(gòu)建起一個涵蓋人工智能產(chǎn)業(yè)全生命周期的標準體系。

從倫理的角度來講，我國組建了國家科技倫理委員會，這是前所未有的。國家科技倫理委員會下設(shè)幾個分委員會，其中一個分委員會就是人工智能分委員會，該分委員會做的一項重要工作，就是研究人工智能倫理風險清單。中央明確提出人工智能的治理要倫理先行，就是要引導(dǎo)人工智能向善；同時根據(jù)人工智能對人、對社會可能造成的風險進行分類分級的管控。這些都是很清晰的思路和做法。

在法規(guī)方面，我國已經(jīng)推出了個人信息保護法和數(shù)據(jù)安全法，之前有網(wǎng)絡(luò)安全法，這些都形成了上位法規(guī)的體系。對人工智能技術(shù)的立法也在積極推進之中。

從技術(shù)角度來講，人工智能的基本技術(shù)還在快速發(fā)展變動之中，對標準化工作的挑戰(zhàn)是如何把握技術(shù)快速變動性和標準相對穩(wěn)定性的關(guān)系，既保證安全可靠又為創(chuàng)新發(fā)展留出空間。此外，可能還要注意標準之間的互操作性，特別是與國際上的標準具有互操作性，這些都是現(xiàn)在標準化需要關(guān)注的問題。

人工智能標準研究要促進跨界融合和綠色化發(fā)展

中國標準化研究院（以下簡稱“中標院”）是市場監(jiān)管總局下設(shè)的面向全國、全行業(yè)的國家標準化研究機構(gòu)。標準化工作一方面要為人工智能技術(shù)確定必要的標準，這些標準應(yīng)該是可拓展的，并與國際接軌的，要適應(yīng)技術(shù)發(fā)展并確保安全。這項工作并不是中標院自身能做到的，在技術(shù)方面更多地要由中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟去做；另一方面，就是今年政府工作報告中提出人工智能+，這個“+”，按龔克的理解也包括人工智能+標準化。

那么如何做到將來這些標準是機器可讀、機器可執(zhí)行、機器可檢測、機器可報告呢？龔克認為，這些要求對標準化自身而言，就是人工智能+標準化發(fā)展或者智能的標準化發(fā)展，抑或是標準化智能發(fā)展，在這些方面中標院可以做更多的工作。中標院作為市場監(jiān)管總局直屬研究機構(gòu)，本身具有跨行業(yè)的屬性。人工智能是一個通用技術(shù)，而現(xiàn)在很多標準化工作是按行業(yè)切分的，中標院應(yīng)該能夠在跨行業(yè)的標準研究方面發(fā)揮獨特作用。希望它能形成一個平臺，匯聚不同行業(yè)的技術(shù)，在平臺實現(xiàn)標準的高效互聯(lián)互通，做到標準化可拓展、可互操作，特別在智能化時代，在新的數(shù)據(jù)和AI驅(qū)動發(fā)展的背景下，做好標準化的工作。

現(xiàn)在從國際上來看，面向社會組織、社會服務(wù)、社會管理方面的標準化有了很大發(fā)展，使得標準化工作大大超出了產(chǎn)品和技術(shù)服務(wù)標準的范圍，而我國這方面相對滯后，所以需要加強。比如，很多公共服務(wù)項目，百姓并不知道，從而不能及時接受應(yīng)有的服務(wù)。如何做到廣而告之，應(yīng)該有標準，讓公共服務(wù)達標，是社會治理上的重要的標準化工作。這方面中標院應(yīng)有所作為。

龔克強調(diào)，還有非常重要的一點是標準化要支撐服務(wù)綠色化發(fā)展。綠色化發(fā)展的要求如何嵌入到各種的產(chǎn)品、服務(wù)、樓宇、道路的服務(wù)之中，這也非常重要。綠色化發(fā)展不僅是環(huán)保，還包括社會的平等、包容性、經(jīng)濟的公平與可持續(xù)增長等問題。這些要求也要反映到人工智能技術(shù)及其應(yīng)用的標準之中。

希望千方百計地推進人工智能標準國際合作與相互融合

對于國際人工智能的標準化工作，龔克認為，由于人工智能領(lǐng)域已經(jīng)成為一個關(guān)鍵核心競爭領(lǐng)域，這幾年我們面臨的主要問題是地緣政治沖突的影響。比如美國成立的某些組織就排斥中國企業(yè)。但是事情也有另外一面，比如去年英國召開的人工智能安全峰會，英國當時頂住了很多壓力，邀請中國政府代表參加，但是我們沒有參加會議的所有環(huán)節(jié)，即有些環(huán)節(jié)沒讓我們參加。請我們參加，是因為認識到國際合作治理的重要性；不要我們?nèi)繀⒓?，則又是排斥性。這種兩面性也體現(xiàn)在國際標準研制領(lǐng)域。那么今后在這些方面還會有很多的較量，有很多的工作要做，要努力朝著合作共贏這個歷史正確的大方向走。

現(xiàn)在一般國家都認為美國和中國是人工智能的大國。龔克認為，中國作為人工智能大國，不希望看到今后世界上人工智能的標準是兩套，整個資源配置也是兩套，這不僅妨礙技術(shù)進步，而且妨礙安全管控，造成資源浪費。在人工智能領(lǐng)域要千方百計推進全球合作，因為標準本來就是為了互聯(lián)互通，這方面要發(fā)揮多邊國際組織的作用。

去年11月，習近平主席和拜登總統(tǒng)在舊金山的會晤達成了5點共識，其中4點包括恢復(fù)航班、人文交流、禁毒合作和部分的軍事對話，都是恢復(fù)性的。但是有一條是新建立的，就是建立政府間人工智能對話。這個人工智能對話首先是治理方面，必然涉及安全、標準等。第一次對話2024年5月份在日內(nèi)瓦已經(jīng)舉辦，專家層面的第二次對話也在進展之中，我們希望在人工智能這樣一個重大的技術(shù)變革面前，中美兩國以及世界上其他國家要為全世界的共同利益來共同努力。

對未來風險適當治理

龔克指出，人工智能標準化工作面臨最主要的問題，是技術(shù)的快速發(fā)展變動和它尚未成熟就得到了普遍應(yīng)用這樣的一個矛盾。

如果它沒有得到普遍應(yīng)用，只是在實驗室里發(fā)展，就不需要做標準化工作。但是它現(xiàn)在一方面自身快速發(fā)展、不斷變革突破，另一方面又大量地應(yīng)用到實際工作和生活中，這就使得在標準相對穩(wěn)定性和技術(shù)的變動性之間，出現(xiàn)了一個在其他的技術(shù)標準上很少見的問題。問題就是它在發(fā)展變動過程中同時得到大規(guī)模的應(yīng)用。比如大模型在本身還不可解釋的情況下，就有數(shù)以十億計的人在用，所以這種情況下需要適當?shù)闹卫?，治理的手段之一就是標準。而這個治理的適當性主要是根據(jù)不同的風險來區(qū)別。

從國際層面，各國要對風險達成共識。我們研究過世界幾十個國家的AI政策文件，其實存在大量的共識，現(xiàn)在需要的是一個好的對話機制，把這個共識確定下來，然后進一步判斷為了實現(xiàn)這樣一個共識的風險控制，哪些是需要用社會的規(guī)制，哪些是需要使用技術(shù)的標準，這是一個方面。

另外一個方面，非常急迫的是發(fā)展一些支撐人工智能安全發(fā)展的技術(shù)手段。首先要把這樣的技術(shù)手段建立起來并實現(xiàn)標準化。比如說一個大模型，應(yīng)該是無偏見，對各種人種、對各種民族，各種不同年齡、性別、經(jīng)濟狀況，社會地位應(yīng)該是平等的。那么怎樣測量一個模型是無偏見的呢？有種做法是做兩個數(shù)據(jù)集，一個數(shù)據(jù)集是含有偏見的，再有一個數(shù)據(jù)集沒有偏見，然后用這兩個數(shù)據(jù)集分別去訓(xùn)練同一個模型，然后我們再觀察這個模型的表現(xiàn)。如果這個模型經(jīng)過有偏的數(shù)據(jù)集訓(xùn)練之后是有偏的，無偏的數(shù)據(jù)集訓(xùn)練出來的模型是無偏的，那么這個模型叫作數(shù)據(jù)敏感模型；如果有偏無偏的訓(xùn)練，它都有偏見，那就是算法偏見模型；如果兩個訓(xùn)練都沒有偏見，就是算法去偏見模型。但是，這個數(shù)據(jù)集是不是標準、是不是大家公認這是無偏數(shù)據(jù)集呢？這就需要建立標準化的手段。在支撐安全可靠發(fā)展這方面，建立標準化的檢測、認證方面的技術(shù)手段非常急迫。