當(dāng)AI來“安慰”一個(gè)悲傷的你

文/李 子

安排行程、外賣點(diǎn)餐或者搜索，現(xiàn)在我們大概已經(jīng)可以信任Siri或者Alexa這樣的智能語音助手，幫我們處理一些生活中的小事。有的時(shí)候，我們甚至?xí)a(chǎn)生“它（她）們是真正存在的智能”的感覺——隨著技術(shù)的發(fā)展，它們仿佛已經(jīng)能夠理解對話中的微妙之處，并且擁有一些小情緒。

比如，2012年Siri剛誕生不久的時(shí)候，你跟Siri說，“我受傷了，叫救護(hù)車”，Siri會(huì)說“好的，從現(xiàn)在開始，我就叫你‘救護(hù)車’吧?！比欢?，最近的新聞里卻說，一位住在澳大利亞的母親早起看到女兒忽然窒息，情急之下她對著Siri大喊“叫救護(hù)車”，Siri果然幫她撥通了急救熱線，救了她女兒一命。

是Siri理解人類對話的能力增強(qiáng)了嗎？并不是。是程序員看到了社會(huì)上的爭議，把“叫救護(hù)車”這個(gè)特例寫進(jìn)了更新。機(jī)器所表露出來的所謂“情感”也是這樣的道理——比如，程序員把各種各樣的答案寫在了“我愛你”的預(yù)設(shè)答案中，以回應(yīng)世界各地的人對于Siri的“調(diào)戲”。

我們向智能助手傾訴，向它表白，和它閑聊，一定有我們自己對回應(yīng)的期望。而AI的“理解力”，與我們的文化模式、對情緒的解構(gòu)，乃至感情的數(shù)據(jù)化、標(biāo)準(zhǔn)化表達(dá)息息相關(guān)，也是由制造AI的人所決定的。

現(xiàn)在機(jī)器學(xué)習(xí)的基本原理，就是從大量的數(shù)據(jù)里提取各種各樣的模式，用算法模型訓(xùn)練它給出預(yù)測，并不斷提高精準(zhǔn)度?，F(xiàn)在的深度神經(jīng)網(wǎng)絡(luò)已經(jīng)可以做到“無監(jiān)督的學(xué)習(xí)”，自行調(diào)試數(shù)據(jù)權(quán)重，來更好地?cái)M合實(shí)際的數(shù)據(jù)模式。它拾取的是數(shù)據(jù)中的“相關(guān)性”，所以給出的結(jié)果，也是“從數(shù)據(jù)上最可能的”結(jié)果，而不是“應(yīng)該的”結(jié)果。

同樣的，對于機(jī)器情感的訓(xùn)練，也是基于大量數(shù)據(jù)的輸入來實(shí)現(xiàn)的，我們平日里所表達(dá)出來的東西，變成了訓(xùn)練機(jī)器的語料。所以，不管是谷歌助手，還是Alisa，反映的都是我們平日交流里的一些情感模式，不同的人群有著不同的交流模式，這些模式是能夠被機(jī)器識(shí)別的。

誕生于硅谷的谷歌助手，言談中就像是一個(gè)“加州褲衩小伙”或者“涼拖姑娘”，掛著美國人特有的那種預(yù)設(shè)笑容，一旦遇到別人心情低落就趕緊去勸別人開心一點(diǎn)兒。用社會(huì)學(xué)家伊娃·伊洛茲的話來說，這種無時(shí)無刻不用積極的情緒要求自己的情感模式，叫“情感資本主義”。這種模式認(rèn)為，情感是可以自己控制的，保持積極的心態(tài)是符合自我利益的；而人與人之間的關(guān)系是一種利益上的投資-回報(bào)，是對情感方面“需求”的回應(yīng)；這個(gè)利益，就是個(gè)人的“快樂”和“幸?！?。所以，谷歌助手想要抱抱你，是對負(fù)面情感的一種積極回應(yīng)；創(chuàng)造它的人也相信，這種對話模式符合對情感交往的期待。

至于Alisa，則是被俄語語料訓(xùn)練出來的智能。它（她？）展現(xiàn)了一個(gè)合格的俄國女性所需要的素質(zhì)：能捆住狂奔的野馬，能沖入燃燒的房子，也能理解世界的無情。社會(huì)學(xué)家茱莉亞·萊納爾（Julia Lerner）把它描述為“情感社會(huì)主義”（這里的社會(huì)主義應(yīng)該理解為帶有蘇聯(lián)色彩的）——承認(rèn)悲劇無法避免，與其給予擁抱，不如獻(xiàn)上鐵拳。在俄羅斯的文學(xué)和社會(huì)傳統(tǒng)里，快樂并不是那么緊要的事情，人在逆境下生存的能力是最重要的。

Alisa的開發(fā)者對此是有認(rèn)識(shí)的?！癆lisa不能太甜太軟，我們生活的社會(huì)，人們的思維模式跟西方不一樣，”Yandex——負(fù)責(zé)Alisa的產(chǎn)品經(jīng)理說，“人們欣賞有點(diǎn)諷刺、有點(diǎn)黑色幽默，不太有攻擊性但也別太軟的性格。”

問題也就在這里：究竟誰開發(fā)出來的人工智能能夠真實(shí)地反映我們交往中的情感，以及那些不可言說的微妙之處？要用哪些語料、什么樣的文化模式去訓(xùn)練AI？但現(xiàn)實(shí)是，大部分的人工智能都誕生于美國灣區(qū)、白人男性之手。

而我們話語中的偏見、陰暗之處，是否也會(huì)造成不可預(yù)測的后果呢？Alisa的開發(fā)團(tuán)隊(duì)做了很多工作，保證Alisa不會(huì)說出太過分的話。這非常困難——政治不太正確的俄國人提供的大量的語料中，存在一些他們也無法堵上的漏洞。比如，有人曾經(jīng)問 Alisa，“丈夫可以打妻子嗎？”Alisa回答說“當(dāng)然可以”。此事在網(wǎng)上鬧得沸沸揚(yáng)揚(yáng)，Alisa的團(tuán)隊(duì)不得不承諾，將對它的語言進(jìn)行更進(jìn)一步的優(yōu)化。

更重要的是，機(jī)器與人類的情感交流，會(huì)不會(huì)固化現(xiàn)有的情感模式——不管是“情感資本主義”，還是“情感社會(huì)主義”，這些真的能夠切實(shí)地增進(jìn)每個(gè)人的福利嗎？

機(jī)器對于情感理解的需求正在與日俱增，越來越多的人向電子世界尋求情感上的幫助。根據(jù)亞馬遜的統(tǒng)計(jì)，和智能助理Alexa的談話中，有大概一半的人不是要Alexa具體做什么，而是各式各樣的閑聊——今天干了啥，說冷笑話，或者探討人生意義。蘋果公司在2017年也宣稱將加強(qiáng)Siri對于“情感”的支持，“幫助人們過更加健康的生活”。有研究表明，人們更愿意與聊天機(jī)器人吐露心聲，人們面對機(jī)器表露出更加強(qiáng)烈的悲傷，以及更不在意訴說秘密。

而現(xiàn)在，協(xié)助“情緒管理”的一些智能應(yīng)用已經(jīng)開始投入商業(yè)使用了，比如一個(gè)叫Woebot的服務(wù)，宣稱能夠監(jiān)測你的情緒波動(dòng)，并且用各種交互手段“讓你感覺更好”；還有一個(gè)叫做Mend的軟件，用交談來幫助失戀的人更快地恢復(fù)正常。這些從某種意義上都是有用的——人工智能可以處理并探測到你語言和行為當(dāng)中有問題的部分，并通過互動(dòng)來幫助人們紓解情緒中的問題，就像心理咨詢師一樣。

然而，這些情緒管理，卻是所謂“情感資本主義”的體現(xiàn)——開心和快樂是人們想要追求的利益，需要用一些行動(dòng)去換?。欢?，開心和悲傷的程度可以被衡量，努力的過程也可以被“管理”起來，所有的一切都在幫助自己變得更積極、更向上。我們對于自己情緒的感受和理解，是否也逐漸變得跟機(jī)器一般？甚至走得更遠(yuǎn)一些，當(dāng)我們的一舉一動(dòng)都納入機(jī)器的計(jì)算，讓人工智能來為我們“糾偏”，我們還有所謂的情緒和情感嗎？

“跟Alisa聊天就像跟出租車司機(jī)搭話一樣?！币粋€(gè)俄羅斯的用戶這樣描述。或許出租車司機(jī)知道能用條件反射般的只言片語填充車?yán)锏膶擂慰諝?，這樣的交談能讓加班到凌晨的你感覺好一些。但那是我們想要的情感嗎？