智能家居設(shè)備背后的黑洞

李軍

誰都沒想到，亞馬遜會(huì)卷進(jìn)一起謀殺案，還成為案件的焦點(diǎn)。

這是2015年11月的一天，堪薩斯州47歲的前警官Victor Collins在參加朋友James Andrew Bates組織的家庭聚會(huì)時(shí)，死在了Bates家的按摩浴缸中。是意外還是謀殺，這成為警方首先要尋找的答案。如何知道Victor Collins死亡時(shí)家里發(fā)生了什么？警方的目光停在了Bates家的一臺(tái)Amazon Echo上。

Amazon Echo——亞馬遜新一代智能家居控制中心，后臺(tái)連接亞馬遜的人工智能平臺(tái)，支持人機(jī)對話語音控制。人類只要呼叫“Alexa”，就可以喚醒Amazon Echo并下達(dá)控制命令，如開空調(diào)、呼叫出租車、查詢電影院放映時(shí)間，甚至根據(jù)關(guān)鍵字尋找并播報(bào)新聞。

換句話說，Amazon Echo會(huì)全天24小時(shí)處于監(jiān)聽狀態(tài)，隨時(shí)捕捉主人發(fā)出的“Alexa”聲音并執(zhí)行其后跟隨的指令。那么，Bates家的Amazon Echo應(yīng)該也監(jiān)聽到Victor Collins死亡時(shí)家里的所有聲音。而這些聲音，全部都被Amazon Echo上傳到了亞馬遜的云計(jì)算平臺(tái)。

堪薩斯州警方立即向亞馬遜發(fā)出了搜查令，要求亞馬遜提供云端保存的來自Bates家Amazon Echo上傳的聲音數(shù)據(jù)。

案件在Amazon和警方就是否應(yīng)該提供數(shù)據(jù)之間展開拉鋸。結(jié)局是嫌疑人James Bates自愿授權(quán)Amazon提供聲音數(shù)據(jù)給警方。警方最終撤銷對James Bates的謀殺指控。

經(jīng)過這個(gè)案件，大眾才意識(shí)到，原來亞馬遜的Amazon Echo是一臺(tái)不折不扣的家庭隱私信息收集器。無論是夫妻關(guān)于政治、經(jīng)濟(jì)、社會(huì)乃至美食的討論，打孩子屁股教育孩子乃至夫妻間閨房之樂的聲音，都被亞馬遜Amazon Echo忠實(shí)地上傳到云端，成為大數(shù)據(jù)時(shí)代個(gè)人特征拼圖的重要組成部分。最重要的是，亞馬遜從來都沒有向用戶提及這些聲音數(shù)據(jù)將保存多久，以及將用于什么樣的商業(yè)用途。

語音隱私搜集已經(jīng)開始

我們知道，智能語音設(shè)備的標(biāo)準(zhǔn)工作方式是：平時(shí)保持開啟并靜默，當(dāng)用戶呼叫指令關(guān)鍵字時(shí)，智能語音設(shè)備被喚醒，并執(zhí)行指令關(guān)鍵字后面的具體指令。根據(jù)亞馬遜此前提供的信息，智能語音設(shè)備在工作時(shí)，只會(huì)保存緊緊跟隨在指令關(guān)鍵字后面的語音信息。未被喚醒時(shí)，語音信息不會(huì)保存并上傳到云端。

但堪薩斯州的案件說明，亞馬遜并不是完全按照其聲明處理客戶聲音信息的。在案發(fā)的過程中，亞馬遜的智能語音設(shè)備一直沒有被喚醒，但是最終亞馬遜的云端仍然保留了James Bates家里當(dāng)晚部分的語音信息。

為什么亞馬遜會(huì)保留這些非喚醒狀態(tài)下的聲音信息呢？雖然亞馬遜沒有就此做任何說明，我們?nèi)匀豢梢酝ㄟ^一些蛛絲馬跡的信息猜想其未來數(shù)字化拼圖的樣貌。

在2014年亞馬遜申請的語音交互分析與關(guān)聯(lián)個(gè)性化推薦的專利（專利號US14/447487）中，有這樣的內(nèi)容：“我”在和Laura通話時(shí)提到了SantaBarbara市、葡萄酒、Orange郡、海灘和圣迭戈動(dòng)物園。亞馬遜在隨后的個(gè)性化電商平臺(tái)上就會(huì)針對“我”和Laura分別推薦SantaBarbara市的地圖和旅行指南、海灘毛巾和圣迭戈動(dòng)物園的套票。這種通過語音識(shí)別然后獲取傾向信息的方式被稱為“語音嗅探算法”（Voice Sniffer Algorithm）?？蛻舻钠?、厭惡、趣向等信息都會(huì)在語音嗅探中被提取、標(biāo)記和一一歸檔。

其實(shí)，除了個(gè)人偏好信息以外，智能家居設(shè)備通過聲音還可以獲取很多客戶意想不到的隱藏信息。首先是情緒。每個(gè)人在不同的情緒狀態(tài)下的語音語調(diào)是不同的，通過提取語音、語速、呼吸乃至哭叫等信息，系統(tǒng)可以判斷一個(gè)人當(dāng)前的狀態(tài)。如果加上咳嗽、打噴嚏等信息，系統(tǒng)還可以進(jìn)一步判定客戶的健康狀態(tài)。

除了語音信息之外，馬桶的沖水聲、跑步機(jī)的活動(dòng)聲都可以用來判斷客戶的健康狀況。至于電視聲、游戲機(jī)聲和其他的日?；顒?dòng)的聲音同樣有助于系統(tǒng)分析判斷客戶的日常作息習(xí)慣。

看到這里，你是不是覺得亞馬遜和谷歌的這些智能語音設(shè)備已經(jīng)采集豐富的聲音信息，并可以此做出精準(zhǔn)的客戶畫像和分析了？其實(shí)這只是巨大拼圖的一部分。

在谷歌2015年獲得的“隱私分析個(gè)性化內(nèi)容智能家居”專利（專利號US14/447487）中，展現(xiàn)了這樣的應(yīng)用場景：智能家居攝像頭提取到床頭書籍的封面，判別為小說《教父》，然后向客戶推薦觀看當(dāng)晚5頻道播放的同名電影。

你覺得這些個(gè)性化推薦沒什么關(guān)系？事實(shí)上，因?yàn)橐曨l可以獲取的信息遠(yuǎn)比聲音要多得多，所以通過視頻內(nèi)容獲取隱私信息會(huì)更加容易也更加全面豐富。

首先，家庭結(jié)構(gòu)、性別、年齡、時(shí)尚品味、風(fēng)格、情緒、語言、喜愛的活動(dòng)，顯而易見都是非常容易收集的。除此以外，床邊的書、臥室里的吉他或者是籃球，甚至墻上或你穿著的T恤衫上明星的頭像都會(huì)被識(shí)別并記錄。再進(jìn)一步的，家庭成員之間的分工、互動(dòng)、乃至各種大宗采購與旅行計(jì)劃的商定決策過程，都會(huì)被各種智能設(shè)備一一記錄在案。或許你和太太只是閑聊時(shí)談到家里的汽車有什么小毛病，希望明年發(fā)了年終獎(jiǎng)考慮買一輛。背后的智能付費(fèi)廣告系統(tǒng)已經(jīng)向所有汽車廠商明碼標(biāo)價(jià)針對你和你太太的各種網(wǎng)頁、手機(jī)應(yīng)用和電視的廣告位。

無論是夫妻關(guān)于政治、經(jīng)濟(jì)、社會(huì)乃至美食的討論.打孩子屁股教育孩子乃至夫妻間閨房之樂的聲音.都被亞馬遜Amaz。n Ech0忠實(shí)地上傳到云端，成為大數(shù)據(jù)時(shí)代個(gè)1人特征拼雷的重要組成部分。

或許有讀者會(huì)說，亞馬遜和谷歌雖然申請了這些隱私信息收集專利，但這并不能證明它們已經(jīng)開始在后臺(tái)收集并存儲(chǔ)智能設(shè)備在非激活狀態(tài)下的信息。不幸的是，一些蛛絲馬跡的現(xiàn)象顯示這些廠商或許已經(jīng)開始悄悄行動(dòng)。

“巧合”背后的隱私問題

美國波特蘭的一對夫妻晚上聊天，結(jié)果部分對話被家里的Amazon Echo保存下來，并以語音文件的方式轉(zhuǎn)發(fā)給了通訊錄上的某位朋友。事情被媒體披露以后，Amazon給出的解釋如下：

Echo被談話中某個(gè)聽起來非常像喚醒詞“Alexa”的單詞喚醒，然后又“仿佛”聽到了“發(fā)送信息”的指令。Echo詢問“發(fā)給誰”？此時(shí)，某個(gè)單詞聽起來很像通訊錄中A君的名字。Alexa然后再次詢問“發(fā)給A君嗎”？接著Alexa又仿佛聽見單詞“是的”。然后，語音對話就被發(fā)送給A君了。

這一切都太巧合了，巧合得讓人不敢相信。而且就算是這些巧合都發(fā)生了，亞馬遜Echo兩次大聲確認(rèn)輸入指令的時(shí)候（一次是確認(rèn)發(fā)送對象、一次是最終確認(rèn)發(fā)送），客戶全部都沒有聽見，這也實(shí)在是難以解釋。

除了此事，今年媒體報(bào)道多個(gè)客戶家中的亞馬遜智能音箱發(fā)出莫名其妙的笑聲，有時(shí)甚至是在半夜，這都讓大家對智能音箱的后臺(tái)運(yùn)行方式產(chǎn)生了深深的疑問。

如果說公共場合的攝像頭+人臉識(shí)別是公共安全的需要，導(dǎo)致部分個(gè)人隱私權(quán)必須讓位于公眾利益。但你帶入家庭內(nèi)部的智能設(shè)備和后臺(tái)相應(yīng)的視頻/音頻采集識(shí)別分析系統(tǒng)，則是你自覺自愿地把家庭隱私拱手交與第三方家居智能設(shè)備公司。

我們暴露的隱私能換取到什么呢。個(gè)性化服務(wù)？客戶折扣？特殊獎(jiǎng)勵(lì)？僅此而已。和個(gè)人隱私安全相比，這些利益和便利實(shí)在是不值一提。

面對智能家居設(shè)備逐漸開始廣泛走進(jìn)普通居民家庭的現(xiàn)實(shí)，法律法規(guī)和政府監(jiān)管能夠有效保護(hù)個(gè)人隱私嗎？回答可能是否定的。因?yàn)樵谀壳半A段下，政府缺乏隱私數(shù)據(jù)監(jiān)管保護(hù)的有效手段。新華社2018年2月引用的新聞顯示，“目前黑市交易可能是中國數(shù)據(jù)交易的主流。據(jù)不完全統(tǒng)計(jì)，國內(nèi)個(gè)人信息泄露數(shù)達(dá)55.3億條左右，平均每人就有4條相關(guān)的個(gè)人信息被泄露，這些信息在黑市中反復(fù)被倒手?！蔽覀兩磉吤總€(gè)人每天都會(huì)收到垃圾短信，從一個(gè)側(cè)面也反映出目前政府監(jiān)管的無力。

在相對惡劣的個(gè)人隱私保護(hù)環(huán)境下，就算對于已經(jīng)破獲的案例，政府的處罰也普遍偏輕。2017年浙江省一起特大侵犯公民個(gè)人信息案中，超過7億條公民信息遭泄露，8000余萬條公民信息被販賣。涉案人的罰金最高只有區(qū)區(qū)40萬元。

在5月1日剛剛生效的中國第一部快遞業(yè)行政法規(guī)《快遞暫行條例》中，出售、泄露或者非法提供快遞服務(wù)過程中知悉的用戶信息，情節(jié)嚴(yán)重的最高罰款額只有10萬元。不論是從法律法規(guī)，還是從現(xiàn)有的司法實(shí)踐來看，政府對于個(gè)人隱私的保護(hù)力度都還遠(yuǎn)遠(yuǎn)不夠。所以我們在將自己的家門向智能家居設(shè)備企業(yè)打開時(shí)，一定要慎之又慎。

當(dāng)然，相信亞馬遜、谷歌這些大公司是會(huì)按照政府監(jiān)管的原則謹(jǐn)守保護(hù)客戶隱私的義務(wù)。但在現(xiàn)今的智能設(shè)備市場上，玩家早就不只是亞馬遜和谷歌這樣的大公司了。

根據(jù)strategy Analytics的智能語音設(shè)備全球市場數(shù)據(jù)，在2016年四季度，亞馬遜和谷歌占據(jù)了96.7%的市場份額，其他廠家只有區(qū)區(qū)3.3%。到了2018年一季度，亞馬遜和谷歌相加的市場份額只有70%，阿里、蘋果、小米等廠商異軍突起。除此以外，還有其他廠家占據(jù)了近14%的市場份額。

目前中國客戶面臨的智能語音設(shè)備選擇，有以騰訊、百度、阿里巴巴、京東、獵豹為代表的軟件廠商，以小米為代表的硬件廠商，以海爾、蘇寧為代表的家電制造/分銷廠商，以出門問問、喜馬拉雅為代表的初創(chuàng)企業(yè)等等。在激烈競爭下，智能語音設(shè)備甚至出現(xiàn)了100元以下的產(chǎn)品。如此價(jià)位的產(chǎn)品能夠充分滿足個(gè)人隱私保護(hù)的需求，我表示懷疑。

并且，把個(gè)人隱私的保護(hù)寄托于這些大大小小的互聯(lián)網(wǎng)企業(yè)的自覺自愿？在目前中國互聯(lián)網(wǎng)行業(yè)的現(xiàn)狀下，這是不夠的。從百度在醫(yī)療信息服務(wù)的表現(xiàn)，到滴滴在管理客戶標(biāo)簽的輕慢，都說明了現(xiàn)在中國互聯(lián)網(wǎng)產(chǎn)業(yè)對于隱私保護(hù)并不能讓用戶放心。

除了廠商的主動(dòng)行為之外，互聯(lián)網(wǎng)黑產(chǎn)對個(gè)人隱私的威脅也不可小視。最近，某做安全軟件起家的大佬公開宣稱，其公司有能力劫持任何新版本的Tesla汽車的遠(yuǎn)程控制權(quán)。但就是打著這家廠商標(biāo)志的家用攝像頭視頻在黑市上廣泛流傳。一旦技術(shù)缺陷導(dǎo)致黑客批量劫持智能家居設(shè)備并使用AI系統(tǒng)提取隱私信息，那使用這些設(shè)備的家庭的所有隱私信息相當(dāng)于都被暴露于光天化日之下。

但是很遺憾，目前中國用戶在選購智能語音設(shè)備的時(shí)候，主要的依據(jù)還是功能和價(jià)格，對于背后的個(gè)人隱私風(fēng)險(xiǎn)往往一無所知。甚至目前在媒體上有關(guān)智能家居設(shè)備隱私風(fēng)險(xiǎn)的提示都非常少。

理性評估信任和透明機(jī)制

作為一個(gè)理智的消費(fèi)者，應(yīng)該如何從隱私保護(hù)的角度選擇智能家居廠商呢？核心就是兩點(diǎn)：信任、透明。

所謂信任，是基于過往良好的商業(yè)記錄，讓客戶對于企業(yè)承擔(dān)隱私數(shù)據(jù)保護(hù)的態(tài)度和能力，有充分的信任感。這完全依賴于企業(yè)對自身品牌建設(shè)的能力。

所謂透明，是企業(yè)充分披露隱私數(shù)據(jù)使用和保護(hù)的原則與目的。簡單說，就是企業(yè)明確提取什么樣的客戶數(shù)據(jù)，為什么要提取，如何使用這些數(shù)據(jù)，與哪些第三方共享這些數(shù)據(jù)，并如何共享等等。甚至進(jìn)一步明確如果發(fā)生隱私數(shù)據(jù)泄露后如何進(jìn)行賠償?shù)鹊取?/p>

對于智能家居設(shè)備企業(yè)，可以參照美國的非營利組織EPIC（Electronic Privacy Information Center）向美國聯(lián)邦貿(mào)易委員會(huì)（FTC）提交的物聯(lián)網(wǎng)設(shè)備隱私保護(hù)原則：

*使用公平的信息管理實(shí)踐

*使用增強(qiáng)的隱私保護(hù)技術(shù)

*要求企業(yè)尊重客戶選擇不被跟蹤、畫像和監(jiān)控的權(quán)利

*要求企業(yè)只收集必要數(shù)據(jù)

*確保企業(yè)在物聯(lián)網(wǎng)設(shè)備的設(shè)計(jì)和運(yùn)營過程中都遵循透明原則

智能家居設(shè)備對于人類社會(huì)本身就是一個(gè)新鮮事物。在盡可能制定詳盡的隱私保護(hù)與監(jiān)管規(guī)則時(shí)，仍然還會(huì)面臨非常復(fù)雜的問題。

我們面臨的這些復(fù)雜問題往往不是來自于技術(shù)層面的，而是規(guī)則本身，以及用戶對于規(guī)則的接受程度。我們想象這樣一個(gè)場景：一個(gè)暴怒的丈夫持兇器對著妻子威脅說要?dú)⒘怂?，這時(shí)房內(nèi)的智能音箱/攝像頭應(yīng)該自動(dòng)報(bào)警嗎？

對于丈夫來說，他當(dāng)然不愿讓智能音箱/攝像頭自動(dòng)報(bào)警。對于妻子呢？回答可能是肯定的，也可能是否定的。這取決于妻子對丈夫威脅真實(shí)性的認(rèn)識(shí)。但不管怎么說，這都是非常困難的判斷，對于當(dāng)事人是，對后臺(tái)AI系統(tǒng)更是。

我們暫時(shí)可以放寬心，因?yàn)槟壳笆忻嫔纤械闹悄芤粝?攝像頭和后臺(tái)的AI系統(tǒng)都還不提供這樣的功能，不論是亞馬遜的、谷歌的還是國產(chǎn)品牌的。但如果有一天政府出于對犯罪監(jiān)管的需要，要求智能家居設(shè)備提供類似的功能，你覺得能夠接受嗎？

或許在那個(gè)2016年的春季，一個(gè)死亡發(fā)生的現(xiàn)場，不管人類是否愿意，他們都已經(jīng)掉入數(shù)字化時(shí)代的大網(wǎng)中，無可逃避。

（編輯：謝麗容）