AI搜索“感興趣的人”你的隱私可能被侵犯

David

前不久，迫于公眾輿論壓力，美國奧蘭多市政府和警察局發(fā)布正式聲明：停止使用亞馬遜人臉識別AI技術——Rekognition，再一次引發(fā)了人們對于AI可能侵犯隱私的關注。

這項名為“Rekognition”的技術使用AI人工智能來識別物體、人物、場景，以及更多的圖像或視頻，它可以被執(zhí)法部門用來搜索和識別身份不明的嫌疑犯、沒有身份證明的人，以及可能的證人和同謀者。在奧蘭多，這項技術被用來在整個城市中使用監(jiān)控錄像來實時搜索“感興趣的人”。盡管執(zhí)法部門把它定義為更容易抓捕罪犯的方式，但民權組織擔心它可能侵犯隱私權，并被用于針對弱勢群體。

在此之前，包括“美國公民自由聯盟”在內一些機構和人們曾強烈呼吁：亞馬遜應該停止向美國政府提供強大且危險的人臉識別系統(tǒng)-Rekognition，因為這可能會導致美國公民的私人數據被濫用及隱私遭到侵犯。甚至亞馬遜的20個股東團體都致信公司首席執(zhí)行官杰夫·貝佐斯（Jeff Bezos），要求他不要司法部門出售此系統(tǒng)。

雖然目前Rekognition還沒有傳出泄露用戶隱私的消息，但公眾的這種擔心是有根據的。今年年初“Facebook泄露門事件”，超過5，000萬的Facebook用戶個人隱私信息被泄露，更為嚴重的是，這些數據被懷疑干預了政治競選，造成了公眾對于隱私泄露的憂慮與日俱增。前不久，美國媒體又爆出Facebook一件隱私泄露事件。據報道，Facebook會給廣告主提供一項特殊服務——忠誠度預測。這是一項基于AI的服務，即預測用戶的未來行為，作為廣告投放的依據。而“忠誠度預測”依靠的數據有：用戶位置、設備信息、所連接Wi-Fi網絡的情況、觀看的視頻記錄、親朋好友的各種細節(jié)，甚至是和朋友聊天的內容。這些數據，無疑已經觸及到了用戶的底線。

在國內，隱私被侵犯的情況更是屢見不鮮。去年9月浙江紹興警方破獲了全國首例利用AI人工智能技術竊取公民個人信息的案件，截獲了10億余組公民個人信息。被警方查封的平臺叫做「快啊」，曾經是市場上最大的打碼平臺。他們在破解、竊取、販賣和盜用個人信息實施詐騙有著完整的鏈條，其中人工AI技術運用在識別驗證碼這個環(huán)節(jié)。

與歐美國家相比，國內用戶的隱私意識相對薄弱，保護隱私的法律也很匱乏，以至于被侵犯還不知覺。比如不少手機APP，不僅要求訪問手機相冊、獲取信息和聯系人方式，有的還要與銀行卡關聯。AI之所以在中國可以迅速崛起，某些程度上也受益于此。

隱私風險來自三個環(huán)節(jié)

進入AI時代，數據搜集及基于數據的分析和機器學習不可避免，在AI應用中必然存在隱私侵犯的風險。一般來說，這些風險主要來自于三個環(huán)節(jié)：

1.數據采集環(huán)節(jié)：隨著各類AI智能設備的廣泛使用，智能系統(tǒng)不僅能通過指紋、心跳等生理特征來辨別身份，還能根據不同人的行為喜好自動調節(jié)燈光、室內溫度、播放音樂，甚至能通過睡眠時間、鍛煉情況、飲食習慣以及體征變化等來判斷身體是否健康。然而，這些智能技術的使用就意味著智能系統(tǒng)掌握了個人的大量信息，甚至比自己更了解自己。這些數據如果使用得當，可以提升人類的生活質量，但如果出于商業(yè)目的非法使用某些私人信息，就會造成隱私侵犯。

2.云計算環(huán)節(jié)：因為云計算技術使用便捷、成本低廉，提供了基于共享池實現按需式資源使用的模式，許多公司和政府組織開始將AI大數據存儲至云上。將隱私信息存儲至云端后，這些信息就容易遭到各種威脅和攻擊。由于AI系統(tǒng)普遍對計算能力要求較高，目前在許多AI應用中，云計算已經被配置為主要架構，因此在開發(fā)該類智能應用時，云端隱私保護也是人們需要考慮的問題。

3.知識抽取環(huán)節(jié)：由數據到知識的抽取是人工智能的重要能力，知識抽取工具正在變得越來越強大，無數個看似不相關的數據片段可能被整合在一起，識別出個人行為特征甚至性格特征。例如，只要將網站瀏覽記錄、聊天內容、購物過程和其他各類別記錄數據組合在一起，就可以勾勒出某人的行為軌跡，并可分析出個人偏好和行為習慣，從而進一步預測出消費者的潛在需求，商家可提前為消費者提供必要的信息、產品或服務。但是，這些個性化定制過程又伴隨著對個人隱私的發(fā)現和曝光，如何規(guī)范隱私保護是需要與技術應用同步考慮的一個問題。

應對措施

面對著這些隱私風險，面對著日益高漲的公眾訴求，政府和企業(yè)開始做出了一些實際行動。如亞馬遜、微軟、谷歌、IBM、Facebook和蘋果，聯合成立非營利性的人工智能合作組織“Partnership on AI”。該聯盟為開發(fā)AI系統(tǒng)的公司，提供了一個溝通平臺，讓各方在一些有可能對全人類，造成巨大損害的問題上，尋求共同點；微軟成立了AI倫理委員會“AETHER”，把全公司的產品部門、業(yè)務部門，還有更重要的法務部門集合在一起，以討論和解決AI相關問題；今年6月，谷歌CEO桑德爾·皮查伊（Sundar Pichai）發(fā)布了谷歌使用AI的七項原則，提出不會將AI用于監(jiān)視和收集信息，避免AI造成或加劇社會不公等。

在政府層面，5月25日，歐盟出臺了史上最嚴的公民隱私法案GDPR——《通用數據保護條例》，違規(guī)企業(yè)最高可能受到2000萬歐元或全球營業(yè)額4%的罰款；6月底，由公安部牽頭制定的《網絡安全等級保護條例》（以下簡稱“條例”）在網上發(fā)布，向社會征求意見，行業(yè)稱之為信息安全規(guī)范等保2.0版本。相比《信息安全等級保護管理辦法》，“條例”規(guī)范的領域更廣，不僅針對網絡和信息系統(tǒng)，還把云計算、大數據、物聯網、AI人工智能等新業(yè)態(tài)也納入了監(jiān)管。

結語

隨著技術的發(fā)展，AI在人們工作與生活中扮演著越來越多、越來越重要的角色，其所帶來的價值無疑是巨大的。例如，它可以大大提高工作效率，替代人們從事某些領域的重復、繁重或危險的工作，讓生活更輕松美好等。AI的發(fā)展離不開大數據，而數據在獲取分析應用中，就存在著用戶隱私被泄露和被非法使用的風險。如何保證數據不被泄露、如何在獲取數據的同時，利用協議、技術等手段告知和保證用戶的數據和隱私安全，盡量做到獲取和利用數據與安全的平衡才是關鍵。