對人工智能的信任：如何建立全球信心

9月10日，在ISO大會期間召開了主題為“對人工智能的信任：如何建立全球信心”研討會。會議邀請了ISO和IEC聯(lián)合技術委員會人工智能分委會主席沃爾·迪亞卜（Wael Diab）、美國Venable法律公司網(wǎng)絡安全和保密服務部高級總監(jiān)海瑟·韋斯特（Heather West），以及新加坡信息通信媒體發(fā)展管理局可信人工智能和數(shù)據(jù)部主任李萬喜（音譯，Wan Sie Lee）三位專家，來探討如何防范人工智能技術快速發(fā)展可能帶來的風險，構建人們對其的信任，以及標準在其中如何發(fā)揮關鍵作用。

會議以現(xiàn)場和線上兩種形式同時進行，以下是會議的精選內(nèi)容。

主持人：目前已經(jīng)出臺了很多關于人工智能的法規(guī)，例如歐盟法案和七國集團領導人就人工智能發(fā)布的國際指導原則。你怎么看待這些法規(guī)和指導原則？在這個問題上已經(jīng)達成共識了嗎？

海瑟·韋斯特：關于人工智能技術已經(jīng)有大量的法規(guī)和指導意見，隨著它們進入公眾視野，世界各國政府，像ISO這樣的國際組織以及各類企業(yè)都在試圖快速弄清楚如何更好地使用這些工具。

我認為人工智能可以讓人們更舒適。我們正在努力實現(xiàn)如何以道德和負責任的方式使用人工智能技術。在開幕式上有專家談到，當這些新興技術迅速發(fā)展時，不要采取被動應對的策略，我認為這一點非常重要。

其實，我認為全球已經(jīng)達成了相當大的共識。如果看一下不同國家、組織和標準機構對這些問題的思考，其關鍵都是放在責任、倫理、協(xié)調(diào)、安全和保障上。能相對統(tǒng)一地解決這些主題是非常了不起的。多個利益相關方參與的組織已經(jīng)開始合作制定關于人工智能的指導意見和相關標準，我對此非常樂觀。

這些法律法規(guī)會考慮到問責制、透明度、消費者保護、人工智能的倫理及其對社會的影響。標準如何將這些不同的考量結合起來？

沃爾·迪亞卜：標準是這個問題解決方案的一個重要部分。本質(zhì)上，它是社會試圖通過法規(guī)所傳達的內(nèi)容和關于透明度、倫理等考量之間的橋梁。

新加坡信息通信媒體發(fā)展管理局（IMDA）一直致力于在本國建立一個可信的人工智能生態(tài)系統(tǒng)，這對企業(yè)有什么益處？采用一致的方法很重要嗎？

李萬喜：在通過建立可信且安全的人工智能生態(tài)系統(tǒng)為企業(yè)提供支持方面，一致的方法非常重要。不論法規(guī)還是標準都是我們可以使用的工具，目的是建立一個可信的生態(tài)系統(tǒng)。

企業(yè)擔心會有風險，消費者則想確保人工智能帶來的結果是公平和透明的。我們要確保人們不會因為人工智能而失去工作，還必須解決關于錯誤信息的擔憂。要解決上述問題，不僅需要法規(guī)，還需要標準。

我們必須與標準機構合作，強調(diào)行業(yè)的能力建設。這就是我們開發(fā)AI Verify工具包的原因，目的是幫助提升能力。它是一個供組織機構參考的框架，幫助其檢查是否建成了可信的人工智能測試系統(tǒng)。

我們還與本地認證機構和國際組織合作，它們會使用AI Verify來確保其人工智能系統(tǒng)符合ISO/IEC 42001：2023標準。

私營領域的創(chuàng)新速度比其他領域更快。在引導這場技術競賽的過程中，如何確保聽取所有人的聲音？

海瑟·韋斯特：我認為，這就是像ISO這樣國際組織和其他多方利益相關者構成的組織的作用所在。實際上，能真正推動人工智能技術發(fā)展的公司并不多。

對其他人而言，人工智能就是我們?nèi)绾问褂盟?，以及如何在每天的使用過程中對其建立信任。我在與這些人工智能模型互動時，覺得它們非?？幔路鹗菑目苹脛≈凶叱鰜淼?。但我們應該對其進行理解，并認真思考，確保我們可以信任它。正如李萬喜所說的透明度、倫理和責任，我們不僅要將這些元素融入到系統(tǒng)中，還要向大家有效傳達它是道德、安全的。

支持創(chuàng)新、使人工智能對企業(yè)友好，以及通過對其的治理保護用戶，在這三者之間能否找到平衡？

李萬喜：我們必須找到平衡。我認為，找到平衡就是為企業(yè)和消費者創(chuàng)造利益，讓他們能真正看到人工智能確實改善了他們的生活。我們還應確保設立安全保障措施。這樣，企業(yè)將獲得更多好處，人們會更熟悉并準備好使用人工智能，企業(yè)也會為應對人工智能帶來的風險做足準備。

企業(yè)和組織機構需要指導意見，因為這能為它們提供確定性和方向。因此，我們發(fā)布了指南和框架。例如現(xiàn)代治理框架，為組織機構和政策制定者提供行動指引。我們還與標準機構密切合作，對這些框架進行細化。

盡管在2023年發(fā)布了ISO/IEC 42001：2023人工智能管理系統(tǒng)國際標準，但要應對能在全球范圍內(nèi)改變整個行業(yè)的人工智能技術，難度有多大？

沃爾·迪亞卜：人工智能與傳統(tǒng)的IT系統(tǒng)相比有所不同，但也有很多相似之處。通過ISO/IEC JTC 1的工作，目前已經(jīng)建立了龐大的基礎設施。我們不僅要解決人們對新技術缺乏信心的問題，還要跟蹤正在發(fā)生的變化。ISO/IEC 42001標準是ISO提供的一項獨特標準。我們在SC 42中采用了新的使用方法，基本上解決了這些差異問題，并使合規(guī)評估、可審計性等成為可能。這樣，我們就可以增強消費者和用戶對這些系統(tǒng)的信心。

管理系統(tǒng)標準的一個優(yōu)點是它能擴展到不同行業(yè)。通過使用管理系統(tǒng)標準，我們將SC 42所有的工作結合起來，為標準制定和尋求合規(guī)評估的組織機構提供了一個平臺。我們的目標是制定一套能在垂直領域中使用的標準組合，它們可以從人工智能視角出發(fā)，然后將其引入標準生態(tài)系統(tǒng)。

管理系統(tǒng)標準不僅可以作為垂直領域的工具，還能擴展到特定行業(yè)。值得注意的是，越來越多的中小企業(yè)參與進來。SC 42正在編寫一本手冊，幫助中小企業(yè)了解如何使用ISO 42001，這是一個非常令人振奮的時刻。我們不僅看到技術在迅速發(fā)展，還有許多行業(yè)對使用人工智能很感興趣。

對任何組織機構來說，數(shù)據(jù)保護都非常重要?，F(xiàn)在有越來越多的網(wǎng)絡攻擊，組織機構如何確保有健全的數(shù)據(jù)策略？

海瑟·韋斯特：這是一項基礎性工作，但并不容易。我們要有條不紊地去解決問題，找到足夠好的方法。

李萬喜：大公司中的數(shù)據(jù)保護負責人有很多資源來幫助他們開展工作，但對于小公司來說，他們需要的是簡單的建議或指導，告訴他們?nèi)绾伪Ｗo數(shù)據(jù)。一個方法就是加密數(shù)據(jù)。如果你對數(shù)據(jù)進行了加密，即使有人入侵你的系統(tǒng)，他們也無法理解數(shù)據(jù)。這是一項基礎要求。

沃爾·迪亞卜：在安全方面，我們與JTC 1/SC 27分委會密切合作。實際上，我們在制定管理系統(tǒng)標準時，在很多方面借鑒了ISO/IEC 27001在信息安全、網(wǎng)絡安全和隱私保護方面的做法?，F(xiàn)在已經(jīng)建立了龐大的標準基礎設施。特別是在人工智能領域，我們很早就意識到，不僅從網(wǎng)絡安全和可信度角度看，數(shù)據(jù)非常關鍵，而且在獲得預期結果和避免系統(tǒng)發(fā)生不好的結果方面，它也至關重要。

與政府、消費者協(xié)會和標準制定組織開展合作來確保人工智能始終有益，這有多重要？

李萬喜：我很高興看到在過去的一年里，國際合作活動非常多，政府之間也在積極溝通合作。對像新加坡這樣的國土面積很小的國家來說，和全球組織合作非常重要。通過這些全球平臺，我們的標準不再是孤立的框架，我們要確保融入國際發(fā)展的趨勢中。

人工智能可能帶來巨大好處，但負責任和道德地管理它是關鍵。無論發(fā)生什么，消費者和企業(yè)都必須確信其使用的新系統(tǒng)和新服務依然像以前一樣安全可靠，這也是標準的意義所在吧？

沃爾·迪亞卜：是的。我認為如果我們做好自己的工作，他們就不需要擔心。我們應該制定標準，配合監(jiān)管框架和其他最佳實踐，確保人們充滿信心。

我們要從整個生態(tài)系統(tǒng)的角度來考慮。我們與其他委員會開展密切合作。目前差不多有65個國家參與這方面的標準制定，其中三分之一來自發(fā)展中國家。因此，我們在匯集一個多元化的利益相關者社區(qū)，而非僅限于那些制定標準的人。