大數(shù)據(jù)操縱與社交機(jī)器人

大數(shù)據(jù)具有科技和政治的二重性：一方面，大數(shù)據(jù)是現(xiàn)代信息科技發(fā)展的產(chǎn)物;另一方面，作為互聯(lián)網(wǎng)發(fā)展的產(chǎn)物，大數(shù)據(jù)也會(huì)基于政治因素被人為操縱。大數(shù)據(jù)操縱比以往任何操縱人心的方法更為強(qiáng)大且隱蔽，讓人難以察覺。

大數(shù)據(jù)操縱與社交機(jī)器人大數(shù)據(jù)操縱與社交機(jī)器人

“潤(rùn)物細(xì)無聲”的閾下

以隱藏信息來影響人們的潛意識(shí)，可謂“潤(rùn)物細(xì)無聲”，它在心理學(xué)領(lǐng)域有一個(gè)專有名詞——閾下。閾下是指閾限以下，還可被稱為“閾下刺激”“閾下效應(yīng)”“閾下知覺”“感覺閾限”。這是一種潛意識(shí)的、低于閾值的刺激所引起的行為和心理反應(yīng)，因?yàn)樽饔糜谌说母惺芷鞴俚倪m宜刺激必須達(dá)到一定強(qiáng)度（閾限值）才能引發(fā)感受。

從閾下得到啟發(fā)，人們開始借助現(xiàn)代先進(jìn)信息技術(shù)手段，利用閾下信息影響目標(biāo)對(duì)象的認(rèn)知、情感、意志等方面，特點(diǎn)是呈現(xiàn)的快速性、投送的微弱隱蔽性及影響的潛在性。這點(diǎn)在廣告中很常見。信息接收主體表現(xiàn)為可能覺得有什么東西露了一下面，可又不能確切說出是什么東西，或壓根兒就沒有意識(shí)到這個(gè)東西出現(xiàn)了。這猶如電影《盜夢(mèng)空間》的情節(jié)，信息發(fā)送方潛入你的夢(mèng)境，給你注入一個(gè)想法，而你還以為這完全是自己的想法。

比如，大型超市的輕音樂能讓顧客放慢腳步，購(gòu)買那些自己可能并不需要的商品。時(shí)尚娛樂業(yè)推出各種非主流文化，如網(wǎng)絡(luò)游戲，讓青少年每天體驗(yàn)各種胡思亂想和緊張情緒。政客們與顧問們合作，檢視自身言行的方方面面，如衣著、語(yǔ)調(diào)、表情、妝容、發(fā)型、演講都要是最佳狀態(tài)，以說服投票人。

但是進(jìn)入互聯(lián)網(wǎng)+大數(shù)據(jù)時(shí)代，能與閾下信息媲美的數(shù)據(jù)操縱興起，而且數(shù)據(jù)操縱遠(yuǎn)比過去已知的操縱手段更加強(qiáng)大、更具隱秘性，可謂大道無形。

數(shù)據(jù)引導(dǎo)你的作為

曾幾何時(shí)，打開劍橋分析網(wǎng)站首頁(yè)，一行大字醒目躍入眼簾：“數(shù)據(jù)引導(dǎo)你的作為?！比缃?，數(shù)據(jù)已成為驅(qū)動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的重要資源，基于用戶數(shù)據(jù)分析的行為科學(xué)研究進(jìn)入了新時(shí)代。有時(shí)，這也被稱為“計(jì)算機(jī)勸導(dǎo)技術(shù)”，該名詞由斯坦福大學(xué)行為設(shè)計(jì)學(xué)家福格于1996年創(chuàng)造。這種技術(shù)衍生出一個(gè)尖刻的術(shù)語(yǔ)——豚鼠經(jīng)濟(jì)，指人就像一只只豚鼠，被訓(xùn)練和引導(dǎo)，最終習(xí)慣成自然。

今天，數(shù)據(jù)將不再僅反映我們是誰(shuí)，它還在引導(dǎo)人們決定自己到底是誰(shuí)。互聯(lián)網(wǎng)公司為了向用戶提供更精準(zhǔn)的定制化產(chǎn)品和資訊服務(wù)，讓其推送的產(chǎn)品和資訊與用戶偏好恰好吻合。不過，要引導(dǎo)用戶行為，首先要對(duì)用戶進(jìn)行畫像。

“交互設(shè)計(jì)之父”艾倫·庫(kù)伯最早提出“用戶畫像”概念：用戶畫像是目標(biāo)用戶的具體表現(xiàn)形式。也就是說，用戶畫像是真實(shí)用戶的虛擬代表，是建立在一系列真實(shí)數(shù)據(jù)基礎(chǔ)上的目標(biāo)用戶模型。它根據(jù)用戶的社會(huì)屬性、生活習(xí)慣、情趣偏好和消費(fèi)行為等數(shù)據(jù)，將用戶區(qū)分為不同類型，然后從每種類型中抽取典型標(biāo)簽特征，如名字、性別、地域、場(chǎng)景等，從而形成一個(gè)用戶畫像的原型。

用戶畫像猶如打開“上帝視角”，每個(gè)用戶的社會(huì)屬性、使用行為、消費(fèi)行為、偏好屬性、潛在需求都清晰可見?；ヂ?lián)網(wǎng)公司掌握了這些用戶畫像，就可以不斷向用戶投遞個(gè)性化的信息流和廣告，用數(shù)據(jù)引導(dǎo)用戶行為。《連線》雜志創(chuàng)始主編凱文·凱利認(rèn)為：“技術(shù)狂熱是我們的一種自然狀態(tài)，我們喜愛我們的東西，并且由它們引導(dǎo)?！庇脩袅?xí)慣了這種信息接收方式，就變?yōu)楸恍畔⑽桂B(yǎng)的人——技術(shù)瓦解了“自我的真實(shí)”。久而久之，互聯(lián)網(wǎng)公司的推送信息就能影響人的決策，“數(shù)據(jù)引導(dǎo)你的作為”就成為一種現(xiàn)實(shí)。

現(xiàn)在，許多互聯(lián)網(wǎng)公司都具備“數(shù)據(jù)引導(dǎo)你的作為”的能力，甚至強(qiáng)大到足以改變?nèi)藗儗?duì)“我是誰(shuí)”“我想成為誰(shuí)”等問題的回答。雖然互聯(lián)網(wǎng)公司只是試圖最大限度地參與并引導(dǎo)用戶的購(gòu)買決策，并非操縱用戶的世界觀，但它們已成為各種勢(shì)力利用的工具，利用大數(shù)據(jù)操縱輿論已成為現(xiàn)實(shí)。

數(shù)據(jù)左右你的情緒

你在社交媒體上表達(dá)的情感可能會(huì)影響其他人的情緒。

1993年，美國(guó)社會(huì)心理學(xué)家伊萊恩·哈特菲爾德提出情緒傳染理論，他認(rèn)為人類存在自發(fā)模仿身邊人言行并將它同步為自身行為的習(xí)慣，將它指向情緒方面就構(gòu)成了情感傳染。2012年，臉書首席數(shù)據(jù)科學(xué)家亞當(dāng)·卡拉默、康奈爾大學(xué)交流與信息科學(xué)學(xué)院教授賈米·古伊洛瑞和杰弗里·漢考克對(duì)68萬(wàn)名母語(yǔ)為英語(yǔ)的臉書用戶秘密進(jìn)行“社交網(wǎng)絡(luò)大規(guī)模情緒傳染”實(shí)驗(yàn)，在這些用戶完全不知情的情況下，通過修改他們可以接觸的好友新鮮事的正負(fù)面情緒帖，研究情緒在社交媒體上的傳播與擴(kuò)散方式，以及是否可以側(cè)面操控用戶情緒。這項(xiàng)實(shí)驗(yàn)的研究論文《社交網(wǎng)絡(luò)中大規(guī)模情緒擴(kuò)散的實(shí)驗(yàn)證據(jù)》于2013年發(fā)表在《美國(guó)國(guó)家科學(xué)院院刊》上，實(shí)驗(yàn)表明：情緒可以在互聯(lián)網(wǎng)上蔓延，互聯(lián)網(wǎng)對(duì)產(chǎn)生情緒共鳴有推波助瀾的作用。

這項(xiàng)研究真正讓人感到恐懼的是，臉書具備大規(guī)模操縱情感的能力，可以通過信息流輕易操縱人們的喜怒哀樂。如今，信息流和推薦算法無處不在，它們已不僅僅意味著我們?cè)跒g覽什么。臉書的情緒傳染實(shí)驗(yàn)只是簡(jiǎn)單校驗(yàn)了一下信息繭房的假說，結(jié)果卻發(fā)現(xiàn)信息流可能影響人們的情緒。實(shí)際上，在閱讀、購(gòu)物、旅行、音樂等方面的選擇上，我們都會(huì)被信息流左右。

數(shù)據(jù)操縱你的價(jià)格

近兩年，“大數(shù)據(jù)殺熟”成為一個(gè)熱門詞。

殺熟自古有之，只不過在今天，互聯(lián)網(wǎng)產(chǎn)品或服務(wù)的提供者在大數(shù)據(jù)支撐下分析用戶習(xí)慣和使用記錄，為用戶量身定價(jià)，“讓愿意花10元的人花10元，讓愿意花100元的人花100元”，真正做到千人千價(jià)。

2015年1月，微信正式向用戶推送朋友圈廣告，寶馬、可口可樂與vivo手機(jī)是微信首批廣告商。一些用戶在微信朋友圈刷出了寶馬汽車廣告，另一些用戶卻刷出了vivo或可口可樂的廣告。經(jīng)統(tǒng)計(jì)調(diào)查發(fā)現(xiàn)，蘋果手機(jī)用戶收到的寶馬廣告最多，寶馬廣告只發(fā)送給19～50歲的一線城市用戶，或在移動(dòng)支付方面支出超過某個(gè)標(biāo)準(zhǔn)的用戶。微信用戶不滿情緒因此暴漲，一些用戶認(rèn)為他們被歸入較低的社會(huì)階層，抱怨道：“連騰訊都發(fā)現(xiàn)我只買得起可口可樂，而且我終生都買不起寶馬?！蔽⑿挪捎玫氖蔷珳?zhǔn)投放，這也被認(rèn)為是中國(guó)數(shù)據(jù)歧視的起源。

臉書曾提供發(fā)送定向廣告時(shí)排除特定種族、性別和家庭背景群體的服務(wù)，這對(duì)弱勢(shì)群體來說可謂充滿歧視的差別待遇，其惡劣影響更甚于殺熟。比如，當(dāng)大數(shù)據(jù)和算法判斷求職者為男性時(shí)，為其推送高薪主管類職位消息的概率遠(yuǎn)大于同等條件的女性求職者;利用大數(shù)據(jù)計(jì)算參與恐怖主義活動(dòng)的概率，并采取不同程度限制出行或監(jiān)控的措施;在缺乏直接信用記錄和數(shù)據(jù)的情況下，基于其他信息（如電話賬單、教育背景、社交網(wǎng)絡(luò)等）預(yù)估信用評(píng)分，最終導(dǎo)致特定群體無法申請(qǐng)小額貸款;銀行降低某人信用卡消費(fèi)額度的原因并非基于該持卡人的消費(fèi)與還款記錄，而是基于該持卡人被歸為“同一類型”的消費(fèi)者共同的記錄與特征。

社交機(jī)器人操縱

社交機(jī)器人是人工智能發(fā)展到一定階段的產(chǎn)物，是指社交媒體上模擬人類用戶、自主運(yùn)行、自動(dòng)生產(chǎn)發(fā)布內(nèi)容的算法智能體，是模仿人類的社交媒體言行的計(jì)算機(jī)程序。社交機(jī)器人能模仿真人用戶在網(wǎng)上的行為模式，并與真人開展社交，常常進(jìn)行對(duì)話、關(guān)注、點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)等操作，是使內(nèi)容或話題看起來比實(shí)際更受歡迎的廉價(jià)工具。

近年來的許多研究發(fā)現(xiàn)，臉書、推特等社交媒體上存在大量社交機(jī)器人，它們?cè)谧?cè)賬號(hào)資料填寫、社交網(wǎng)絡(luò)構(gòu)建、信息發(fā)布規(guī)律特性等方面都能較好地模擬人的行為。2006年，牛津大學(xué)互聯(lián)網(wǎng)研究所主任菲利普·霍華德在專著《新媒體運(yùn)動(dòng)和被管理的公民》中首次預(yù)言社交媒體將被濫用于操控公共意見、誤傳政治信息和進(jìn)行虛假宣傳。2009年，市場(chǎng)咨詢服務(wù)公司Sysomos發(fā)布報(bào)告指出，約24%的推特內(nèi)容由社交機(jī)器人生成。亞利桑那州立大學(xué)與卡內(nèi)基-梅隆大學(xué)的研究者在2015年共同指出，推特中至少有7%的社交機(jī)器人賬號(hào)。外國(guó)學(xué)者芒森通過比對(duì)臉書的官方數(shù)據(jù)指出，5%～11%的臉書賬號(hào)是假的，賬號(hào)背后并非真實(shí)的人類用戶。

近年來的許多案例表明，活躍的社交機(jī)器人對(duì)政治、經(jīng)濟(jì)、社會(huì)等能產(chǎn)生明顯影響。2010年的美國(guó)中期選舉和馬薩諸塞州特別選舉中，數(shù)量驚人的包含著超鏈接的推文被社交機(jī)器人生成，這些超鏈接皆指向預(yù)先建立的包含支持己方候選人、打擊對(duì)方候選人的虛假新聞網(wǎng)站。2013年4月23日，敘利亞電子軍控制美國(guó)白宮的推特賬號(hào)，發(fā)布“白宮發(fā)生爆炸事件，總統(tǒng)奧巴馬受傷”的消息，在社交機(jī)器人助推下大肆傳播，最終重創(chuàng)美國(guó)股市。舍費(fèi)爾等學(xué)者認(rèn)為，安倍晉三能在2014年日本首相選舉中勝出，得益于推特的大規(guī)模機(jī)器人軍隊(duì)助其在網(wǎng)上快速建立國(guó)家主義議程框架。2016年6月英國(guó)脫歐公投期間，有7.7萬(wàn)個(gè)機(jī)器人參與了簽署在線公投請(qǐng)?jiān)笗?/p>

2016年美國(guó)總統(tǒng)大選期間，特朗普的推特粉絲約1/4是機(jī)器人，近19%與大選相關(guān)的推文是由社交機(jī)器人發(fā)出的。南加利福尼亞大學(xué)信息科學(xué)研究院的亞歷山德羅·貝西和埃米利奧·費(fèi)拉拉研究發(fā)現(xiàn)，約40萬(wàn)部社交機(jī)器人在大選前日夜運(yùn)作，以驚人的速度在推特上不斷發(fā)推文和轉(zhuǎn)推，發(fā)揮強(qiáng)大的影響力，以左右、歪曲網(wǎng)上討論。人們并不擅于分辨所接觸的信息源，而社交機(jī)器人由于活躍，可生產(chǎn)更多推文，被轉(zhuǎn)推的次數(shù)很多，讓人誤以為某些候選人在網(wǎng)上似乎真的得到了基層支持。事實(shí)上，那些支持者是機(jī)器人。2016年美國(guó)總統(tǒng)大選中，推特社交機(jī)器人生成了1.4億條推文，包含400萬(wàn)個(gè)相關(guān)話題;臉書社交機(jī)器人分享了3800萬(wàn)條虛假新聞。

可以說，機(jī)器人在一定程度上影響了政治競(jìng)選活動(dòng)。社交機(jī)器人已經(jīng)成為西方政客操縱輿論的工具。研究者根據(jù)社交機(jī)器人的政治操縱問題，提出“政治機(jī)器人”一詞。政治機(jī)器人通過與社交媒體平臺(tái)用戶建立社交關(guān)系，傳播幕后操縱者的政治主張，混淆視聽，操縱輿論以實(shí)現(xiàn)政治目的，被稱為隱形操縱、隱蔽說服，這也派生出專有術(shù)語(yǔ)“偽草根營(yíng)銷”或“推特炸彈”。

（摘自中信出版集團(tuán)《操縱：大數(shù)據(jù)時(shí)代的全球輿論戰(zhàn)》? ? 作者：中璋）