奧運(yùn)新項(xiàng)目：算法視頻監(jiān)控

莫莊非/編譯

安全奧運(yùn)的衍生物即將審視你我他。

2024年夏天的巴黎奧運(yùn)會(huì)上，負(fù)責(zé)安全的官員將在這座光之城的中心進(jìn)行一項(xiàng)大規(guī)模的實(shí)驗(yàn)。實(shí)驗(yàn)根據(jù)一項(xiàng)臨時(shí)法律開(kāi)展，覆蓋賽事、整個(gè)奧運(yùn)村以及連接的道路和鐵路，允許自動(dòng)監(jiān)控系統(tǒng)偵察可能導(dǎo)致恐怖襲擊的“預(yù)定事件”。

對(duì)此，隱私保護(hù)活動(dòng)人士提出反對(duì)。該臨時(shí)法律通過(guò)后不久，國(guó)際特赦組織秘書(shū)長(zhǎng)艾格尼絲 · 卡拉馬德（Agnes Callamard）表示：“人工智能驅(qū)動(dòng)的大規(guī)模監(jiān)控是一個(gè)危險(xiǎn)的政治項(xiàng)目，可能導(dǎo)致廣泛侵犯人權(quán)。公共場(chǎng)所的每項(xiàng)行動(dòng)都將被納入監(jiān)視基礎(chǔ)設(shè)施的天羅地網(wǎng)，從而損害基本的公民自由?！?/p>

然而廣大公眾似乎并不關(guān)心。事實(shí)上，當(dāng)巴黎奧運(yùn)會(huì)主辦區(qū)之一塞納-圣但尼省的官員介紹了一個(gè)初步的人工智能視頻監(jiān)控系統(tǒng)，表示它可以檢測(cè)亂扔垃圾等反社會(huì)行為并處以罰款時(shí)，居民們舉手詢問(wèn)為什么系統(tǒng)還沒(méi)出現(xiàn)在街道上。

“監(jiān)控不是一個(gè)單一概念。并非每個(gè)人都反對(duì)?！瘪R修斯 · 維加斯 · 法拉利（Matheus Viegas Ferrari）說(shuō)道。法拉利是巴西巴伊亞聯(lián)邦大學(xué)的國(guó)際關(guān)系博士生和法國(guó)巴黎第八大學(xué)的人類(lèi)學(xué)博士生，曾參加塞納-圣但尼省的社區(qū)會(huì)議，并發(fā)表了關(guān)于2024年奧運(yùn)會(huì)監(jiān)控的研究論文。

如果有鄰居遛狗時(shí)放任寵物排泄而又不收撿狗便，對(duì)該鄰居不滿者就可與塞納-圣但尼省那些歡迎監(jiān)控的居民站在同一戰(zhàn)線。但如果監(jiān)控系統(tǒng)可能因算法偏好某種膚色或服裝風(fēng)格而在罰款時(shí)厚此薄彼，很多人的意見(jiàn)大概就要反轉(zhuǎn)了。

事實(shí)上，歐盟國(guó)家制定《人工智能法案》旨在通過(guò)規(guī)范人工智能的政府和商業(yè)使用以保護(hù)公民的隱私和權(quán)利。與福利政策相關(guān)的人工智能法執(zhí)行不力已經(jīng)導(dǎo)致荷蘭內(nèi)閣垮臺(tái)。

臨時(shí)監(jiān)控法（其中的視頻處理?xiàng)l款將于2025年3月到期）似乎是為避免這種結(jié)果而制定的。它堅(jiān)稱(chēng)其管轄下的算法“不處理任何生物識(shí)別數(shù)據(jù)，也不實(shí)施任何面部識(shí)別技術(shù)，無(wú)法與其他個(gè)人數(shù)據(jù)處理進(jìn)行任何協(xié)調(diào)、互連或自動(dòng)連接”。

藝術(shù)家保羅 · 西里奧（Paolo Cirio）曾在未經(jīng)批準(zhǔn)的眾包面部識(shí)別活動(dòng)中印制了警察臉部海報(bào)并將其張貼于巴黎各地。他認(rèn)為這種表達(dá)是一種進(jìn)步?！笆聦?shí)上，即使在法國(guó)奧運(yùn)會(huì)期間，政府也必須在法律中寫(xiě)入他們不會(huì)使用生物識(shí)別技術(shù)，這對(duì)我來(lái)說(shuō)已經(jīng)是令人難以置信的事情，這是活動(dòng)人士在法國(guó)和歐洲其他地方多年奮斗的結(jié)果?！?/p>

群體分析

官員們可以做的就是使用計(jì)算機(jī)進(jìn)行實(shí)時(shí)人群分析，而非生物識(shí)別和面部識(shí)別分析。這項(xiàng)技術(shù)可追溯至很久以前，人們對(duì)多種群體行為的許多方面進(jìn)行研究，此類(lèi)研究甚至被應(yīng)用于防止母雞自相殘殺。雖然群體可能非理性，但對(duì)群體分析是一門(mén)科學(xué)。

然而，群體中的個(gè)體可能無(wú)法真正獲得隱私保護(hù)。歐洲民間社會(huì)團(tuán)體在一封公開(kāi)信中稱(chēng)，監(jiān)視必然需要隔離并識(shí)別個(gè)人，從而剝奪無(wú)辜者的隱私權(quán)。

這是否屬實(shí)尚不清楚，所涉及技術(shù)的快速發(fā)展使其成為一個(gè)難以回答的問(wèn)題。法國(guó)上阿爾薩斯大學(xué)的數(shù)據(jù)科學(xué)家喬納森 · 韋伯（Jonathan Weber）曾合著一份關(guān)于視頻監(jiān)控的人群分析回顧文章，在他看來(lái)，“你不必識(shí)別這些人，程序員可以用類(lèi)似人形的素材訓(xùn)練神經(jīng)網(wǎng)絡(luò)，直到它能在后續(xù)視頻中可靠識(shí)別出人類(lèi)。然后，他們能訓(xùn)練神經(jīng)網(wǎng)絡(luò)處理更復(fù)雜的模式，例如人們摔倒、奔跑、打架，甚至爭(zhēng)論或攜帶刀具”。

法國(guó)視頻分析公司Videtics聯(lián)合創(chuàng)始人兼首席執(zhí)行官艾倫 · 費(fèi)爾巴赫（Alan Ferbach）表示：“我們發(fā)出的警報(bào)并非基于生物識(shí)別技術(shù)，而是基于體態(tài)，例如一個(gè)人是否躺在地上?！蔽挥诎屠璧腣idetics已提交了2024年奧運(yùn)會(huì)安保合同部分內(nèi)容的投標(biāo)，也開(kāi)始銷(xiāo)售可檢測(cè)建筑物墜落或戶外非法傾倒的軟件——這兩種方法都無(wú)需識(shí)別個(gè)人身份。

但這可能還不足以讓批評(píng)者滿意。歐洲非營(yíng)利法律中心（位于荷蘭海牙的民間社會(huì)組織）的數(shù)字民用空間顧問(wèn)卡羅琳娜 · 伊萬(wàn)斯卡（Karolina Iwańska）表示：“即使只是對(duì)人們的行為進(jìn)行分類(lèi)，那也可能與識(shí)別人們的身份一樣具有侵略性和危險(xiǎn)性，因?yàn)樗赡軐?dǎo)致錯(cuò)誤、歧視以及對(duì)隱私和匿名的侵犯，還可能影響公平審判權(quán)和訴諸司法的機(jī)會(huì)?！睔W洲非營(yíng)利法律中心已向法國(guó)憲法委員會(huì)提交了有關(guān)奧運(yùn)會(huì)監(jiān)控法的非當(dāng)事人意見(jiàn)陳述。

韋伯特別重視訓(xùn)練數(shù)據(jù)的偏差會(huì)如何導(dǎo)致AI群體分析出現(xiàn)問(wèn)題。例如，當(dāng)美國(guó)公民自由聯(lián)盟將美國(guó)國(guó)會(huì)代表的照片與警方拍攝的罪犯的面部照片進(jìn)行比較時(shí)，該軟件錯(cuò)誤地將深色皮膚者識(shí)別為匹配對(duì)象。韋伯表示，這種算法的潛在偏差將取決于軟件開(kāi)發(fā)人員訓(xùn)練它的方式：“你必須非常小心。一個(gè)最大的問(wèn)題在于你或許沒(méi)有大量關(guān)于危險(xiǎn)行為的視頻用以訓(xùn)練算法?！?/p>

費(fèi)爾巴赫說(shuō)道：“我認(rèn)為，我們必須對(duì)訓(xùn)練路徑渠道進(jìn)行認(rèn)證，然后不同公司可以根據(jù)經(jīng)過(guò)認(rèn)證的訓(xùn)練集開(kāi)發(fā)自己的模型。如果需要驗(yàn)證每個(gè)模型，那成本將是巨大的?！睔W盟監(jiān)管機(jī)構(gòu)尚未明確人工智能法案會(huì)如何解決這個(gè)問(wèn)題。

即使軟件開(kāi)發(fā)人員能利用足夠多關(guān)于不良行為的現(xiàn)實(shí)和模擬視頻，毫無(wú)偏見(jiàn)地訓(xùn)練算法，他們也還需要弄清楚怎樣處理他們收集到的所有現(xiàn)實(shí)世界數(shù)據(jù)。西里奧指出：“收集的數(shù)據(jù)越多，這些數(shù)據(jù)最終落入公眾或壞人手中的可能性就越大?！弊鳛榛貞?yīng)，一些公司使用面部模糊工具以減少個(gè)人數(shù)據(jù)泄露的風(fēng)險(xiǎn)。其他研究人員建議從正上方錄制視頻，從而避免錄制人臉。

也許生物識(shí)別技術(shù)是必需的

另一些學(xué)者則在朝相反方向努力——開(kāi)發(fā)識(shí)別個(gè)體的工具，或者至少使用步態(tài)分析將目標(biāo)與視頻中的其他人區(qū)分開(kāi)來(lái)。如果這種技術(shù)被應(yīng)用，那么監(jiān)控視頻就不會(huì)做面部模糊，也不會(huì)以俯視視角拍攝視頻，所謂隱私保護(hù)自然無(wú)從談起，它與法國(guó)奧運(yùn)會(huì)的相關(guān)法律規(guī)定亦背道而馳。伊萬(wàn)斯卡表示，法律禁止生物特征數(shù)據(jù)處理，同時(shí)又允許算法做事件偵測(cè)，這“似乎只能是美好的一廂情愿，我無(wú)法想象如果不處理生物識(shí)別數(shù)據(jù)，系統(tǒng)該如何按照預(yù)期工作”。

監(jiān)控在潛行

困擾奧運(yùn)會(huì)安全觀察者的另一個(gè)問(wèn)題是該系統(tǒng)應(yīng)保留多久。舊金山民間社會(huì)組織電子前沿基金會(huì)的高級(jí)政策分析師馬修 · 瓜里格利亞（Matthew Guariglia）表示：“對(duì)于希望加強(qiáng)監(jiān)控的政府來(lái)說(shuō)，利用一些煽動(dòng)事件（例如襲擊或即將發(fā)生的重大事件）來(lái)證明其正當(dāng)性是很常見(jiàn)的?；A(chǔ)設(shè)施可以保留，易于日后重啟并用于日常警務(wù)?！?/p>

法國(guó)奧運(yùn)會(huì)法律規(guī)定了監(jiān)控系統(tǒng)的有效期限，但伊萬(wàn)斯卡稱(chēng)這是任意而為，官方做出這一決定時(shí)“并未對(duì)它之于為期兩個(gè)月的奧運(yùn)會(huì)和殘奧會(huì)的必要性或恰當(dāng)性進(jìn)行任何評(píng)估”。

另有研究安全技術(shù)和奧運(yùn)會(huì)的歷史學(xué)家指出，各國(guó)經(jīng)常將奧運(yùn)會(huì)視為安全商品展覽會(huì)。而且，即使法國(guó)在奧運(yùn)法到期后停止在公共場(chǎng)所使用其視頻處理算法，其他國(guó)家也可能從法國(guó)公司購(gòu)買(mǎi)技術(shù)并在本國(guó)使用。法國(guó)和其他地方的監(jiān)控行業(yè)將從巴黎奧運(yùn)會(huì)的曝光中獲益匪淺，其他國(guó)家的人權(quán)可能受損。

奧運(yùn)會(huì)也成為推翻惱人安全措施的試驗(yàn)場(chǎng)。1980年，當(dāng)美國(guó)官員們?cè)谄杖R西德湖奧運(yùn)村周?chē)惭b圍欄時(shí)，運(yùn)動(dòng)員們不斷往圍欄上靠，從而觸發(fā)了警報(bào)。一段時(shí)間后，安全官員發(fā)現(xiàn)警報(bào)根本不起作用。原來(lái)有人（甚至可能是官員自己）拔掉了警報(bào)系統(tǒng)的電源。

資料來(lái)源 IEEE Spectrum