人工智能商業(yè)環(huán)境下消費(fèi)者信任研究綜述

李丹丹

[摘 要]伴隨著人工智能的快速發(fā)展，消費(fèi)者信任成為人工智能商業(yè)應(yīng)用的主要障礙。文章在對國內(nèi)外關(guān)于人工智能消費(fèi)者信任相關(guān)研究文獻(xiàn)梳理的基礎(chǔ)上，分別從消費(fèi)者信任與人工智能商業(yè)應(yīng)用的關(guān)系研究、消費(fèi)者信任與人工智能風(fēng)險(xiǎn)因素研究、消費(fèi)者信任與透明化人工智能發(fā)展研究三個(gè)方面進(jìn)行了綜述，并對我國人工智能環(huán)境下消費(fèi)者信任研究提出建議。

[關(guān)鍵詞]人工智能;消費(fèi)者信任;風(fēng)險(xiǎn);透明化

2019年10月23日英國《自然》雜志刊登了谷歌關(guān)于實(shí)現(xiàn)“量子霸權(quán)”的論文，文中說谷歌公司量子計(jì)算機(jī)200秒的計(jì)算量，當(dāng)前最先進(jìn)的傳統(tǒng)超級計(jì)算機(jī)需要花費(fèi)1萬年時(shí)間[1]。與此同時(shí)，一批來自谷歌及加拿大高校、研究所的專家正在通過圖神經(jīng)網(wǎng)絡(luò)來“訓(xùn)練”人工智能的嗅覺，同時(shí)研究人員還嘗試讓機(jī)械臂獲得觸覺。人工智能的各個(gè)方面都在飛速發(fā)展，而人工智能基于算法的自主決策系統(tǒng)早已被廣泛應(yīng)用于數(shù)據(jù)挖掘、搜索引擎、自然語言處理、生物特征識別、醫(yī)學(xué)診斷、新聞、教育、就業(yè)、保險(xiǎn)、投資、廣告、治安和機(jī)器人等領(lǐng)域[2]。據(jù)2016年美國自由職業(yè)者網(wǎng)站Time ETC研究顯示，盡管人工智能為人類生活帶來很多便利，人們與人工智能的互動(dòng)也變得越來越頻繁，但許多美國人并不信任它們，54%的美國人甚至稱從未與人工智能接觸過[3]。雖然我國“互聯(lián)網(wǎng)+”、數(shù)字經(jīng)濟(jì)已經(jīng)處于世界領(lǐng)先地位，但人們對“貼心”推送廣告的擔(dān)憂，以及人工智能可能的風(fēng)險(xiǎn)甚至對超人工智能“奇點(diǎn)”來臨的恐懼[4]，使得許多消費(fèi)者不信任人工智能或者對人工智能保持警惕。因此，如何讓消費(fèi)者信任人工智能已經(jīng)成為人工智能商業(yè)應(yīng)用的關(guān)鍵核心問題。

1 消費(fèi)者信任及其與人工智能商業(yè)應(yīng)用的關(guān)系研究

如果將消費(fèi)實(shí)踐簡化為消費(fèi)者與商家之間的交換行為，那么消費(fèi)者信任是交易行為得以成功的前提[5]，只有有了信任人們才可能去實(shí)施某一行為[6]。經(jīng)濟(jì)學(xué)家認(rèn)為消費(fèi)者信任是經(jīng)濟(jì)交換的潤滑劑。傳統(tǒng)現(xiàn)實(shí)消費(fèi)中，消費(fèi)者信任會通過感官系統(tǒng)等方式對交易雙方真實(shí)信息不斷地掌握、驗(yàn)證、鞏固，但人工智能環(huán)境下，原有的消費(fèi)者信任模式被打破，消費(fèi)者信任不僅變?yōu)榛诜柡托畔⒌呐袛嘈越煌訌?fù)雜的是交往對象也由傳統(tǒng)消費(fèi)單一的交易主客體關(guān)系演進(jìn)為既包含傳統(tǒng)主客體關(guān)系又包含消費(fèi)者與人工智能環(huán)境關(guān)系的兩種關(guān)系，且在消費(fèi)者信任建立過程中這兩種關(guān)系不是獨(dú)立的，而是相互關(guān)聯(lián)影響的。

消費(fèi)實(shí)踐中產(chǎn)生的不確定性和風(fēng)險(xiǎn)是消費(fèi)者信任產(chǎn)生的根本原因，在完善的契約關(guān)系中消費(fèi)者信任是沒有必要存在的，消費(fèi)者信任可以降低交易過程中的不確定性和風(fēng)險(xiǎn)。在人工智能商業(yè)環(huán)境下，存在著較高的不確定性和風(fēng)險(xiǎn)，許多的研究發(fā)現(xiàn)消費(fèi)者信任是消費(fèi)者智能網(wǎng)購意愿的決定因素[7]。由此可知，人工智能商業(yè)應(yīng)用的核心是消費(fèi)者信任建設(shè)，消費(fèi)者信任是人工智能商業(yè)應(yīng)用發(fā)展的當(dāng)務(wù)之急。

2 消費(fèi)者信任與人工智能風(fēng)險(xiǎn)因素研究

2.1 消費(fèi)者感知風(fēng)險(xiǎn)

感知風(fēng)險(xiǎn)概念是由哈佛大學(xué)的鮑爾從心理學(xué)引入營銷學(xué)的，他將感知風(fēng)險(xiǎn)定義為：由消費(fèi)者的行為產(chǎn)生的、而他自己不能明確預(yù)期的后果[8]。感知風(fēng)險(xiǎn)的后果有兩種類型：一種是產(chǎn)品本身性能屬性的不確定性;另一種是購買產(chǎn)品后帶來的時(shí)間、貨幣、心理等損失的不利后果。人工智能既是產(chǎn)品又是環(huán)境的雙重屬性，使消費(fèi)者能夠同時(shí)感知到兩者。隨著人工智能由弱人工智能走向強(qiáng)人工智能直到超人工智能，以及人工智能不透明的“思考決策”過程，消費(fèi)者首先感知到人工智能環(huán)境可能帶來“被控制”的不利后果;同時(shí)人工智能產(chǎn)品可能產(chǎn)生的隱私侵權(quán)甚至人身傷害權(quán)責(zé)混亂風(fēng)險(xiǎn)，也使得消費(fèi)者同時(shí)感知到人工智能產(chǎn)品“不安全”的不確定性?；诟兄L(fēng)險(xiǎn)對消費(fèi)者信任有負(fù)向影響作用，[9]因此，消費(fèi)者會因?yàn)槿斯ぶ悄芨兄L(fēng)險(xiǎn)大而降低對人工智能的信任度。

2.2 消費(fèi)者被控制風(fēng)險(xiǎn)

現(xiàn)代人已經(jīng)生活在人工智能算法時(shí)代，隨著人工智能算法的不斷演進(jìn)，算法代替人類做決策越來越多，全球經(jīng)濟(jì)政治的運(yùn)行模式正在發(fā)生改變。人工智能算法不僅是一項(xiàng)新技術(shù)，它已經(jīng)是新的生產(chǎn)要素，更可能是新的權(quán)力形態(tài)，財(cái)富和權(quán)力可能會逐步集中在“數(shù)字精英”手中。Google（谷歌）、Facebook（臉書）、阿里巴巴、百度等科技企業(yè)都是短時(shí)間積累了千億、萬億資產(chǎn)的科技型企業(yè)，它們無一例外的在人工智能領(lǐng)域投入巨額資金并已經(jīng)擁有了較大的技術(shù)領(lǐng)先優(yōu)勢。目前，消費(fèi)者被人工智能算法控制的主要體現(xiàn)是隱私被記錄、意識被誘導(dǎo)，即所謂的“懂你的人傷你最深”[10]。如果未來人工智能算法不透明問題沒有完全解決，消費(fèi)者被控制風(fēng)險(xiǎn)有可能上升到消費(fèi)者階級被控制，造成前所未有的社會及政治不平等[11]。再往后甚至有可能演變?yōu)橄M(fèi)者種群被控制。因此，消費(fèi)者普遍對被控制風(fēng)險(xiǎn)表現(xiàn)出擔(dān)憂甚至恐懼[3]，所以現(xiàn)階段消費(fèi)者對人工智能的信任度較低。

2.3 消費(fèi)者責(zé)任風(fēng)險(xiǎn)

人工智能的快速發(fā)展，在商業(yè)應(yīng)用中必然會逐步替代人類勞動(dòng)。目前，人工智能自動(dòng)駕駛交通事故、無人機(jī)錯(cuò)判誤殺平民等現(xiàn)象就遇到了權(quán)責(zé)混亂、無法追究的問題，人工智能“給我們帶來無盡欣喜與期望的同時(shí)，也逐漸挑戰(zhàn)著我們既有的法律、倫理與秩序”[12]。 即使將人工智能的錯(cuò)誤或不當(dāng)行為都?xì)w咎到設(shè)計(jì)師、程序員，然而“程序有可能是由眾多的人共同開發(fā)的，程序的產(chǎn)生可能無法追蹤到某個(gè)具體的個(gè)人或組織”[13]。因此，消費(fèi)者使用人工智能產(chǎn)品的責(zé)任風(fēng)險(xiǎn)較大，使得消費(fèi)者對人工智能產(chǎn)品的信任度偏低。

科研人員發(fā)現(xiàn)，人們對人工智能的錯(cuò)誤很“敏感”[14]，人們會帶著各種“偏見”放大人工智能的風(fēng)險(xiǎn)因素。在消費(fèi)者的意識里人工智能的各種風(fēng)險(xiǎn)會成倍增長，這種狀態(tài)困擾著消費(fèi)者并始終揮之不去，其結(jié)果是許多消費(fèi)者選擇不信任人工智能或者對人工智能保持警惕。

3 消費(fèi)者信任與透明化人工智能發(fā)展研究

人工智能崛起，要么是人類歷史上最好的事，要么是最糟糕的[15]。人類如何“引導(dǎo)”人工智能決定了其未來的發(fā)展方向，現(xiàn)有人工智能風(fēng)險(xiǎn)并非它的天然屬性，而是技術(shù)發(fā)展不確定性因素導(dǎo)致負(fù)面效應(yīng)的體現(xiàn)[16]。理論上來講人工智能的問題都可以通過新的技術(shù)發(fā)展得到解決，難點(diǎn)在于如何影響技術(shù)向某個(gè)方向發(fā)展。透明化人工智能就是在人工智能消費(fèi)者不信任的背景驅(qū)動(dòng)下，通過新技術(shù)發(fā)展讓人工智能全部的“思考、判斷”過程都能被消費(fèi)者看到、聽到、感覺到，讓消費(fèi)者對人工智能“知人知面又知心”。

3.1 人工智能軟件透明化

人工智能環(huán)境以及智能產(chǎn)品都由智能軟件實(shí)際管理運(yùn)作著。人工智能軟件又被稱為“算法黑箱”，這是因?yàn)橄M(fèi)者既看不到它的思考邏輯，也看不出它什么時(shí)候思考、思考什么內(nèi)容，只有完全打開“算法黑箱”才能實(shí)現(xiàn)人工智能軟件透明。加利福尼亞大學(xué)伯克利分校和馬克斯普朗克信息學(xué)研究所的研究提出了一種能夠自我解釋的算法，有助于人類理解人工智能的決策過程。人工智能軟件技術(shù)發(fā)展不僅要能實(shí)現(xiàn)100%透明運(yùn)行，還要能讓消費(fèi)者自由的參與，比如允許消費(fèi)者對軟件算法進(jìn)行適當(dāng)?shù)男薷摹?/p>

3.2 人工智能硬件透明化

人工智能產(chǎn)品硬件透明化更多的是為了配合軟件透明技術(shù)進(jìn)行的硬件選材。比如智能產(chǎn)品硬件可以采用全透明材料制作，內(nèi)部選裝光、聲、溫度、煙等感應(yīng)設(shè)備，這樣既可以將軟件反饋信息的字符直接顯示在透明機(jī)體上，又可以將軟件運(yùn)算狀態(tài)、反饋信息通過光、溫度、聲音等方法直接、準(zhǔn)確地“表達(dá)”出來。同時(shí)，透明的智能產(chǎn)品材質(zhì)可以使消費(fèi)者直觀的看到系統(tǒng)“思考區(qū)域”，有效地避免了人工智能產(chǎn)品去中心化衍生的責(zé)任安全問題。

百度創(chuàng)始人李彥宏說，“‘悶頭憋軟件的移動(dòng)互聯(lián)網(wǎng)時(shí)代已經(jīng)結(jié)束，軟硬件結(jié)合的人工智能時(shí)代已經(jīng)來臨”[17]。透明化人工智能通過強(qiáng)大開放的軟件和先進(jìn)透亮的硬件的結(jié)合，真正實(shí)現(xiàn)了人工智能既擁有超強(qiáng)能力又獲得消費(fèi)者信任的設(shè)計(jì)目標(biāo)。

4 總結(jié)

目前國內(nèi)外對人工智能的研究主要集中在技術(shù)研究、倫理建設(shè)等角度，從消費(fèi)者視角探析人工智能商業(yè)應(yīng)用中消費(fèi)者信任問題的研究比較少。本文從消費(fèi)者信任與人工智能商業(yè)應(yīng)用的關(guān)系入手，重點(diǎn)分析了消費(fèi)者視角下人工智能的風(fēng)險(xiǎn)因素以及透明化人工智能發(fā)展的必要性。雖然影響人工智能發(fā)展方向的因素有很多，但是上述研究論述無疑證明了透明化人工智能發(fā)展對消費(fèi)者信任以及對人工智能商業(yè)應(yīng)用的重大意義。

我國人工智能的研究幾乎與世界同步，但人工智能商業(yè)應(yīng)用卻走在了世界的前列，在智能支付、智能共享等經(jīng)濟(jì)領(lǐng)域，科技創(chuàng)新結(jié)合巨量市場已經(jīng)打造出了世界第一的人工智能市場經(jīng)濟(jì)。筆者在國內(nèi)外已有研究基礎(chǔ)上，結(jié)合我國人工智能發(fā)展現(xiàn)狀來研究人工智能環(huán)境下消費(fèi)者信任情況，構(gòu)建中國基于消費(fèi)者信任的人工智能發(fā)展理論，這對正確引導(dǎo)我國國民和企業(yè)制訂科學(xué)合理的發(fā)展計(jì)劃具有重要的理論意義和現(xiàn)實(shí)意義。

參考文獻(xiàn)：

[1] 王露露.新的計(jì)算機(jī)時(shí)代已到來？英媒：谷歌宣稱實(shí)現(xiàn)量子霸權(quán)[EB/OL].（2019-10-25）[2020-08-07].http：//www.cankaoxiaoxi.com/science/20191025/2393802.shtml.

[2] 汝緒華.算法政治：風(fēng)險(xiǎn)、發(fā)生邏輯與治理[J].廈門大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2018（6）：27-38.

[3] 郭浩.研究顯示美國人不信任人工智能系統(tǒng)[EB/OL].（2016-05-31）[2020-08-07].http：//tech.163.com/16/0531/18/BODOG9NC00097U7R.html.

[4] 瑪格麗特·博登.AI：人工智能的本質(zhì)與未來[M].孫詩惠，譯.北京：中國人民大學(xué)出版社，2017：175.

[5] BRANN PETER，F(xiàn)ODDY MARGARET.Trust and the consumption of a deteriorating common resource[J].Journal of Conflict Resolution，1987，31（4）：615-630.

[6] NIKLAS LUHMANN.Trust and power [M].London：Polity，2017：101-105.

[7] JARVENPAA S，TRACTINSKY N，VITALE M.Consumer trust in an internet store [J].Information Technology Management，2000，1（1）：45-71.

[8] 馮建英，穆維松，傅則田.消費(fèi)者的購買意愿研究綜述[J].現(xiàn)代管理科學(xué)，2006（11）：7-9.

[9] 江若塵，徐冬莉，嚴(yán)帆.網(wǎng)絡(luò)團(tuán)購中感知風(fēng)險(xiǎn)對信任及購買意愿的影響[J].現(xiàn)代財(cái)經(jīng)：天津財(cái)經(jīng)大學(xué)學(xué)報(bào)，2013，33（1）：87-96.

[10] 翟冬冬.大數(shù)據(jù)殺熟：最懂你的人傷你最深[N].科技日報(bào)，2018-02-28.

[11] 尤瓦爾·赫拉利.未來簡史[M].林俊宏，譯.北京：電子工業(yè)出版社，2017：290.

[12] 騰訊研究院.人工智能：國家人工智能戰(zhàn)略行動(dòng)抓手[M].北京：中國人民大學(xué)出版社，2017：322.

[13] 王利明.人工智能對民法的挑戰(zhàn)[N].中國城市報(bào)，2017-09-11（22）.

[14] 倪偉波.人工智能的信任危機(jī)[J].科學(xué)新聞，2018（2）：51-53.

[15] 李醒民.人工智能技性科學(xué)與倫理[J].社會科學(xué)論壇，2019（4）：179-203.

[16] 張衛(wèi)良，何秋娟.人工智能時(shí)代異化勞動(dòng)的技術(shù)形態(tài)及其揚(yáng)棄路徑[J].理論探索，2019（3）：28-35.

[17] 余來文，封智勇，劉夢菲，等.智能革命[M].北京：經(jīng)濟(jì)管理出版社，2017.