人工智能的暗黑秘密？對數(shù)據(jù)的需求沒有邊界

Bart Perkins 陳琳華

人工智能革命渴望獲得個人數(shù)據(jù)。在機器智能和監(jiān)視活動出現(xiàn)交集之前，美國政府需要遵守聯(lián)邦隱私立法。

人工智能可能會通過多種方式為人類提供幫助。無人駕駛汽車和智能基礎(chǔ)設(shè)施有望通過讓人們在城市的移動變得更加便捷來減少擁堵;經(jīng)過改進的診斷和治療正在增加人類的壽命;在企業(yè)中，人工智能可以幫助優(yōu)化招聘決策，讓工廠更加安全，實現(xiàn)日常任務(wù)的自動化，生成更為客觀的績效評估，并幫助企業(yè)更好地了解他們的客戶。

新的工具正在不斷涌現(xiàn)。亞馬遜已經(jīng)獲得兩項手環(huán)專利，可以跟蹤工人填寫訂單時和裝箱時的手部動作。手環(huán)使用射頻來精準(zhǔn)地跟蹤手部的運動，當(dāng)檢測到低效運動時，手環(huán)會通過振動指導(dǎo)工人的手部在正確的方向運動。Humanyze研發(fā)了一種社交徽章，可以追蹤員工在辦公室中的活動進而從中分析員工與同事之間的互動交流情況。歐萊雅的UV Sense可追蹤佩戴者暴露在紫外線中的情況，然后將數(shù)據(jù)發(fā)送到她們的手機上。Cogito可以在客服代表接聽電話時監(jiān)測她們是否急客戶之所急。

不幸的是，要想充分實現(xiàn)這些工具的優(yōu)勢需要大量數(shù)據(jù)，這些數(shù)據(jù)也使得對消費者和員工的監(jiān)控變得更加容易。中國的社會信用體系于2014年啟動，預(yù)計到2020年全面投入運行。該系統(tǒng)為創(chuàng)建個人檔案匯總了支付歷史、醫(yī)療信息、法律記錄以及其他數(shù)據(jù)。主要城市也都安裝了大量的攝像頭。

在隱私層面上，We-Vib曾經(jīng)銷售了一款可以通過智能手機控制的藍牙振動器。2017年，We-Vib盡管沒有承認犯有錯誤，但是還是同意支付375萬美元來解決一場集體訴訟，該訴訟認為We-Vib收集了有關(guān)性玩具使用頻率和使用方式的數(shù)據(jù)。

確實，大量數(shù)據(jù)以人們意想不到的方式在讓社會受益。2018年4月，Joseph DeAngelo被指控為金州殺手，涉嫌從20世紀70年代和80年代開始犯下了一系列謀殺與強奸案。在方便個人研究家族族譜的網(wǎng)站上，警方將嫌疑人的遺傳圖譜與網(wǎng)站上的基因圖譜進行了對比。最終，警方確定了一個群體與犯罪分子有著相同的遺傳物質(zhì)，并根據(jù)年齡、性別以及他們居住的地方排除了一些人。在確定了DeAngelo為犯罪嫌疑人之后，警方從其丟棄的垃圾中提取到了他的DNA，發(fā)現(xiàn)與犯罪現(xiàn)場提取的樣本相符。

雖然這些基因數(shù)據(jù)庫幫助警方破了數(shù)十年的陳年舊案，但是該數(shù)據(jù)庫的使用引發(fā)了人們對隱私問題的擔(dān)憂。很少有人會向存儲庫提供遺傳數(shù)據(jù)，并希望執(zhí)法部門對該數(shù)據(jù)文件進行審查。提供者可能沒有意識到自己的行為可能會導(dǎo)致政府掌握那些不同意公開遺傳信息的親屬的相關(guān)信息，有的親屬甚至不知道家族的遺傳信息已經(jīng)存儲在了數(shù)據(jù)庫中。

如今，全球的隱私問題正日益嚴重。2018年5月，歐盟實施了全面的隱私保護規(guī)則，即通用數(shù)據(jù)保護條例（GDPR）。其他國家也正在進行立法。為了保護數(shù)字隱私，加拿大提出了國家網(wǎng)絡(luò)安全戰(zhàn)略。印度的個人數(shù)據(jù)保護法案的重點是人工智能道德、個人隱私、安全和透明度。它們由一個獨立的監(jiān)管機構(gòu)監(jiān)督，并對違法行為進行嚴厲處罰。據(jù)聯(lián)合國統(tǒng)計，目前已經(jīng)有一百多個國家出臺了數(shù)據(jù)保護和隱私法。盡管如此，聯(lián)合國也承認許多立法最近沒有進行更新，并且不夠強大，不足以讓公民相信自己的隱私會得到充分保護。

2016年，許多亞馬遜、蘋果、Facebook、谷歌和微軟的工程師、設(shè)計師和其他員工越來越擔(dān)心他們發(fā)表的名為Never Again（到此為止）公開信的監(jiān)管力。這個名字涉及IBM在第二次世界大戰(zhàn)期間扮演的不光彩角色，其利用穿孔卡片和卡片分類技術(shù)幫助美國政府管理對日裔美國人的拘禁，以及幫助納粹追蹤大屠殺的受害者。Never Again公開信的簽署者承諾拒絕建立任何數(shù)據(jù)庫，以幫助美國政府收集有關(guān)個人宗教信仰的信息，因為他們擔(dān)心此類數(shù)據(jù)庫可能導(dǎo)致大規(guī)模的驅(qū)逐出境行動。

在2018年10月召開的布魯塞爾國際數(shù)據(jù)保護和隱私委員會會議期間，蘋果首席執(zhí)行官蒂姆·庫克表達了他對“數(shù)據(jù)工業(yè)綜合體”的擔(dān)憂。他警告說，對個人數(shù)據(jù)的收集和綜合正在創(chuàng)建一個“永久性的數(shù)字檔案，它們會讓企業(yè)比你更了解自己。”為此，他支持GDPR并呼吁美國出臺相應(yīng)的隱私立法。

隱私監(jiān)管的7項原則

庫克是對的。現(xiàn)在是時候讓美國跟隨其他國家制定數(shù)字隱私法了。新法規(guī)至少應(yīng)包括以下原則。

1.盡量減少對數(shù)據(jù)的收集

數(shù)據(jù)收集應(yīng)限于手頭任務(wù)所需的數(shù)據(jù)?？赡茉谀程鞎缮嫌脠龅念~外數(shù)據(jù)應(yīng)當(dāng)被限制收集。個人身份信息應(yīng)被從用于分析的數(shù)據(jù)存儲中刪除。

2.數(shù)據(jù)收集行為應(yīng)告知用戶

在收集數(shù)據(jù)時應(yīng)告知用戶，同時告知用戶這些數(shù)據(jù)將被如何使用。個人應(yīng)當(dāng)能夠決定是否允許在每個活動期間被采集數(shù)據(jù)。瀏覽器和網(wǎng)站的條款應(yīng)當(dāng)簡單并便于理解，以便消費者能夠快速做出決定。

3.允許個人訪問自己的數(shù)據(jù)

個人應(yīng)該能夠復(fù)制自己的數(shù)據(jù)并糾正或刪除不準(zhǔn)確的個人數(shù)據(jù)。當(dāng)前，在一些企業(yè)中，更正幾乎是不可能的事情。最近一位同事試圖更新自己的信用報告，將住址更改為新的門牌號。因為她發(fā)現(xiàn)開發(fā)商變更了街道地址的最后一位數(shù)，但是信用部門拒絕修改該條目。

4.實現(xiàn)決策透明

人工智能正通過法律、招聘、大學(xué)錄取等決策對個人生活產(chǎn)生越來越大的影響。由于人工智能是通過大量的規(guī)則來使用海量數(shù)據(jù)，因此人們通常無法理解人工智能引擎是如何得出結(jié)論的。雖然在玩游戲時，人類是否理解人工智能引擎的邏輯并不重要，但是在偏見或意外可能會影響最終結(jié)果的情況下，這是不可接受的。

Equivant工具可預(yù)測被告人犯下新罪行的可能性。因此在量刑時，使用該工具的法官通常會對高風(fēng)險評估的被告人更加嚴厲。不幸的是，由于評分機制具有專屬性，因此被告人無法質(zhì)疑自己的風(fēng)險評估分數(shù)。

ProPublica為一家公益新聞?wù){(diào)查機構(gòu)，其在2013年和2014年對佛羅里達州布勞沃德縣的7000名被告人進行了分析。ProPublica將這些被告人在接下來的兩年內(nèi)實際犯下的新罪行為與Equivant的預(yù)測進行了比較。他們得出的結(jié)論是，Equivant的風(fēng)險評分并不可靠。該工具預(yù)測黑人被告未來重新犯罪的可能性是白人被告的兩倍，但是這一預(yù)測并不準(zhǔn)確。不過，Equivant對此并不認同，他們認為ProPublica的方法存在缺陷。毫無疑問，對個人生活具有如此重大潛在影響的量刑工具需要高度的準(zhǔn)確性，并需要有合理的邏輯支撐。

5.確保數(shù)據(jù)安全

每個收集和存儲數(shù)據(jù)的實體都需要確保數(shù)據(jù)安全，防止被不適當(dāng)?shù)卦L問。萬豪酒店和Quora網(wǎng)站最近為一連串的數(shù)據(jù)泄露事件再添兩起，這些事件已導(dǎo)致大量的用戶受到影響。

6.強制合規(guī)

積極執(zhí)法并從重處罰對于新法規(guī)的效力至關(guān)重要。主要的技術(shù)公司賺了很多錢，輕微的處罰對于他們來說可以當(dāng)作業(yè)務(wù)成本被忽略掉。

7.制定國家法律

新的美國隱私法應(yīng)涵蓋所有收集個人數(shù)據(jù)的企業(yè)，而不僅僅是技術(shù)公司。此外，還需要聯(lián)邦立法，否則其他州將遵循加利福尼亞州做法，制定自己的州法律，屆時各個州的法律可能彼此間沖突。

立法對企業(yè)的影響

新的隱私法規(guī)將迫使一些企業(yè)重新考慮自己的商業(yè)模式。今天，許多消費者會提供個人數(shù)據(jù)，以換取免費使用搜索引擎、社交媒體和其他一些工具。關(guān)注隱私的消費者可能更愿意支付少量費用以換取真正的匿名。雖然目前理論上可以實現(xiàn)在瀏覽網(wǎng)頁時不留下任何痕跡，但是大多數(shù)消費者發(fā)現(xiàn)如果沒有熟練的技術(shù)人員的幫助，根本就不可能實現(xiàn)匿名。

辦公室需要進行仔細規(guī)劃并做出一些妥協(xié)，以平衡企業(yè)部署新工具的需求和員工保護個人隱私的愿望。新的法規(guī)可能會造成員工被迫同意數(shù)據(jù)被收集的情況。根據(jù)新法規(guī)中的表述，許多現(xiàn)有工具可能會生成一些被視為個人信息的內(nèi)容，如果員工拒絕跟蹤，那么可能導(dǎo)致工具無法使用。

毫無疑問，遵守新法規(guī)會迫使企業(yè)更加謹慎地處理員工數(shù)據(jù)。主管訪問權(quán)限可能僅限于與個人績效直接相關(guān)的員工數(shù)據(jù)，分析工具僅可使用匿名數(shù)據(jù)。運營良好的企業(yè)可以為希望提高績效的員工提供獨立指導(dǎo)。

人工智能帶來了許多好處，同時還將為我們提供了一些目前無法想象到的其他好處。與所有新技術(shù)一樣，它們可以用來造福人類，也可以被濫用。當(dāng)我們解決了如何確保所收集的數(shù)據(jù)不被用于不適當(dāng)?shù)谋O(jiān)視時，或許Scott McNealy在1999年說過“你沒有隱私，忘掉這件事吧”的斷言才不會變成真的。