人工智能背景下交互設計倫理研究

宗威 徐安妮

關(guān)鍵詞：人工智能;交互;設計;倫理;原則

如今交互無處不在，人們在聊天、游戲、駕車、旅行、工作、學習、醫(yī)院看病等一切生活活動中都需要與不同的對象、以不同的方式進行交互。隨著人工智能不斷地拓寬交互的視野和維度，交互設計也為人們帶來了更加便利和良好的體驗。但是，面對快速發(fā)展的交互設計，不應只看到其益處，也應時刻審視其被掩蓋的弊端，讓具有社會視野的設計肩負起社會責任。

1 人工智能概述

人工智能最早是在1956 年的Dartmouth 會議上首次被提出的概念。雖然始終沒有統(tǒng)一的定義，但其中的技術(shù)和內(nèi)容并無差異。目前的人工智能是與人類智能相對應的機器智能，可以直接繼承和模仿整個人類群體的智慧成果，并將智慧成果集中在一個載體上，如手機、工具、機器人等。它是一種能夠感知環(huán)境，最大限度地完成任務的設備。人工智能通過機器主動感知，刪減和優(yōu)化用戶的非必要任務路徑，提供最優(yōu)方案來幫助用戶高效地完成任務[1]。利用人工智能可以完成同質(zhì)性、重復性和模仿性的工作。

現(xiàn)階段，人工智能的內(nèi)容大致有四個部分，即機器學習、圖像識別、自然語言處理和人機交互。機器學習是人工智能的關(guān)鍵技術(shù)，其核心是算法，如深度學習是使人工智能其他技術(shù)得以發(fā)展的基礎。圖像處理技術(shù)可以讓機器識別人類眼中的圖片，對圖片做出分析和提取，從而識別目標對象。自然語言處理是指計算機模擬人類的邏輯思維理解分析，可建立人與機器之間的語言轉(zhuǎn)換，也可用于文本轉(zhuǎn)換、分類識別和語音轉(zhuǎn)換。人工智能也促進了交互技術(shù)的發(fā)展，如語音、人臉識別、手勢識別等。在智能時代背景下，交互無處不在，人類感知現(xiàn)實世界、與機器互動的能力得到加強和延伸。運用語音、文字、圖像、手勢、動作等進行交互，成為生活中隨時發(fā)生的一種自然交互現(xiàn)象。

2 交互設計概述

交互設計最早是針對各類軟件或程序的顯示選擇界面的設計，依靠顯示器、鍵盤和鼠標等設備達到通過人類的輸入與計算機的輸出完成交流的目的。隨著交互技術(shù)的發(fā)展，不斷拓寬交互設計的視野和維度?；谟|摸、語音、體感、眼動和生理信號等形式的自然交互不斷發(fā)展完善;交互流程與模型也不斷優(yōu)化，打破了從感知到認知再到交互行為的解構(gòu)與重構(gòu)的交互設計過程，從傳統(tǒng)“輸入—反饋”的單向從屬關(guān)系過渡到“推薦—選擇”的雙向訓練關(guān)系[2]。目前，只要是通過互動來實現(xiàn)功能、滿足人們需求的設計，都可以被稱之為交互設計[3]。其目標可分為“可用性”和“用戶體驗”兩個層面，關(guān)注以人為本的用戶需求。設計重點由實體層面轉(zhuǎn)向信息層面，設計師不僅創(chuàng)造產(chǎn)品，更創(chuàng)造信息交流方式，包括定義產(chǎn)品的行為和使用密切相關(guān)的產(chǎn)品形式、預測產(chǎn)品的使用如何影響產(chǎn)品與用戶的關(guān)系，以及用戶對產(chǎn)品的理解。

3 設計倫理概述

設計倫理一方面建立在社會思想發(fā)展的基礎之上，另一方面建立在科學技術(shù)的發(fā)展之上。早期中國古代的造物思想就受中國哲學思想的影響，如道家的“道法自然”是關(guān)于設計中人與自然和諧相處的真知灼見;墨子提出的“兼相愛，交相利”要求設計不僅要“利己”，還要利于他人、利于社會、共謀福利等[4]。最早從西方國家誕生的設計倫理這一概念，則是工業(yè)時代設計發(fā)展的必然結(jié)果。20 世紀60 年代，美國設計家維克多· 帕帕奈克反思自工業(yè)革命以來的設計，在《為真實的世界設計》中首次提出了設計倫理的概念，使設計師們逐漸意識到設計的社會責任。我國的設計倫理研究從近二十年開始，多數(shù)是圍繞設計價值屬性的研究和拓展，整體論述我國早年設計中存在的問題。但隨著時代技術(shù)的發(fā)展，設計的研究對象已經(jīng)從有形產(chǎn)品發(fā)展到無形產(chǎn)品，工業(yè)時代背景下的設計倫理已經(jīng)不能適應人工智能時代的快速變化，受技術(shù)發(fā)展影響的設計倫理亟需更新，尤其是對于受時代影響較大的設計細分領域，如有關(guān)交互設計的倫理研究則是當前所缺少的。

4 人工智能背景下交互設計倫理現(xiàn)存問題分析

4.1 微觀倫理問題

4.1.1 交互設施對生理的影響

早期的人機交互設施是鍵盤和顯示器。操作員通過鍵盤輸入命令，操作系統(tǒng)收到命令后通過顯示器顯示結(jié)果。鍵盤與顯示器一直是人機交互的主要媒介之一，在帶來交互便利的同時也潛移默化地對使用者造成了危害。2008 年福布斯評選出的給用戶造成傷害的七大技術(shù)之一就是計算機鍵盤設計的不合理性。由于使用者操作時需要長時間保持同樣的姿勢，不符合人機工程學的交互設施很容易造成頸椎病、鼠標手、局部肌肉發(fā)達、頭痛等生理問題。

互聯(lián)網(wǎng)教育時代迎來了新的教學考試方式，即通過點擊鼠標、敲擊鍵盤進行答題互動，且大部分交互信息通過視覺進行傳達。不僅導致越來越多的人提筆忘字，書寫能力喪失，而且隨著人們接觸電子設備的時間頻率不斷增加，出現(xiàn)視力問題的人數(shù)也隨之增加。如果在使用不當?shù)那榫诚?，如睡前在黑暗中長時間對著發(fā)光的屏幕，會抑制褪黑素的生成，從而導致人處于淺睡眠狀態(tài)，造成慢性勞損;橫躺時給眼睛的壓迫力還會造成視力偏差、干眼病等問題。

4.1.2 交互反饋機制對心理的影響

《連線》前主編凱文· 凱利曾說道：“人類在信息網(wǎng)絡里的注意力不斷分散，生活完全碎片化?！?000 年，微軟加拿大公司報告說，普通人的注意力跨度是12 秒。2013 年，隨著智能手機和社交網(wǎng)絡的興起，這一數(shù)字降至8 秒。應用的各種消息通知、社交應用的無限下拉刷新消息源、視頻網(wǎng)站下一集的自動播放、資訊應用總有熱門的話題標簽...... 這些現(xiàn)象不斷占用用戶的時間和注意力，造成用戶的行為上癮，生活娛樂發(fā)生變化，逐漸都走向“單向度的人”。心理學博士亞當· 奧爾特在《欲罷不能》一書中總結(jié)了上癮行為的六個要素分別是誘人的目標;不可抗拒的積極反饋;毫不費力的進步;不斷升級的挑戰(zhàn);未完成的緊張感;令人癡迷的社會互動。而這些令人上癮的因素在游戲、娛樂視頻及社交軟件的交互設計上都有體現(xiàn)。

1） 游戲交互的影響。近幾年火爆的單機小游戲幾乎都有這樣的特征，首先，操作簡單，玩家可以擁有發(fā)現(xiàn)游戲秘密的快感和幾乎毫不費力的進步。如“跳一跳”只有一個點按屏幕的動作，通過幾次嘗試反饋就可以掌握規(guī)則，并能越跳越遠不斷刷新自己的記錄。其次，有簡單明確的目標且能得到及時反饋，形成心流體驗。如“消消樂”的目標是要在規(guī)定步數(shù)內(nèi)將三個以上相同形狀連線，就能累積積分解鎖下一關(guān)。每次動作都能帶來視覺上的障礙消除、聽覺上的愉悅贊賞以及可視化積分累加的激勵，即使沒有過關(guān)，得到的反饋也是在溫和地告訴玩家“距離過關(guān)就差一步”，鼓勵再次嘗試。最后，玩家在游戲體驗中能夠獲得減輕日常生活壓力的輕松感。如“合成大西瓜”的核心體驗就在于連鎖反應合成時釋放了前期積攢的壓力，仿佛隨著音效“砰”的一聲變小的不是大西瓜而是自己身上的壓力?？傊?，這類休閑游戲從視聽元素的設計到簡單規(guī)律化的規(guī)則設置都會使玩家一旦開始就很難停下來。

一些移動、PC 端聯(lián)網(wǎng)游戲如“王者榮耀”“英雄聯(lián)盟”的交互設計中，引發(fā)上癮的原理也是相似的。在這種游戲中任何預期行為都時刻被施加一種正向強化反饋。如操作某一按鍵就能看到相應的技能被釋放，且絢麗多變的技能與技能屬性的語義表達相匹配;擊打敵人造成的傷害會通過數(shù)字顯示和血量的變化構(gòu)成更加細致的圖文動態(tài)反饋;擊殺敵人后還會有金幣數(shù)量、經(jīng)驗數(shù)值等可視化的獎勵提升，這些反饋體驗都會帶給玩家足夠強大的正向刺激。另外，這類游戲還會通過段位積分等排名機制的變動激發(fā)人們競爭的本能。邀請好友組隊的設置不僅可以拉近人們關(guān)系還可以賦予一種不同于現(xiàn)實世界的社會認同感。無論是何種游戲都是通過這些甚至玩家都意識不到的交互細節(jié)及背后的心理刺激并控制著玩家的行為。

2） 視頻軟件交互的影響。以“抖音”為例，在“抖音”的推薦頁面，在每次手指上滑出現(xiàn)新頁面前，永遠都不能準確猜到下個視頻是什么內(nèi)容，這種不可預測的內(nèi)容反饋就充分調(diào)動了人們的好奇心，不斷產(chǎn)生想要知道下一個視頻是什么的循環(huán)。另外，人工智能算法可以在交互設計中搭建智能推薦系統(tǒng)，創(chuàng)建不同需求的用戶模型。隨著推薦系統(tǒng)的完善，交互形式從傳統(tǒng)的“輸入—反饋”單項反饋過渡到“推薦—選擇”雙向反饋，用戶刷到的視頻多與自己喜歡的內(nèi)容相關(guān)，加上背景音樂，在視覺與聽覺的雙重刺激下不僅會帶來沉浸式體驗，而且增加了視頻整體的容錯率，即便視頻內(nèi)容或背景音樂不受觀眾喜愛，也不會產(chǎn)生過多的負面情緒。“抖音”里一個重要的交互就是自動循環(huán)播放。手指剛一上劃，大腦的底層感官就會第一時間接收到聽覺和視覺的刺激，全屏顯示并配有個性化背景音樂的視頻撲面而來，而負責理性思考的大腦前額皮質(zhì)則會慢上半拍。因此，人們總會先接收到視頻的圖像和音樂，接著才會去思考這個視頻表達的內(nèi)容及需要對其作出的反應是點贊或是滑走。另外，“抖音”里的“點贊”被放在了一個最方便手指接觸到的位置，點擊“點贊”按鈕后，一顆紅心會跳出來填滿按鈕。無論是反饋形式中的動態(tài)表現(xiàn)、愛心形式或是明亮的紅色，都可以及時給到點贊者一個積極的反饋。

3） 社交軟件交互的影響。點贊功能自出現(xiàn)起一直被國內(nèi)外各大社交平臺沿用至今，但這個設計也不斷影響著用戶的情緒。他們在自己的新動態(tài)被贊后會產(chǎn)生暫時的滿足感，也會期待更多的點贊，隨著期待值的增加會更加關(guān)注點贊數(shù)量，不斷刷新界面期待著更多人的點贊反饋，而一旦沒達到期望則會產(chǎn)生更大的焦慮，人們的情緒變得愈發(fā)脆弱。

社交軟件增加了人們遠距離的交流體驗，但也減少了與真人面對面溝通的時間和經(jīng)驗，成為如今社交恐懼癥群體增加的社會背景。早年的社交軟件只通過文字進行交流，內(nèi)容可以在發(fā)送前多次刪改，也可以很好地隱藏情緒。隨著語音識別技術(shù)的發(fā)展，出現(xiàn)了語音交流，雖然語音中可以流露一些情緒，但及時取消發(fā)送的功能卻給了用戶整理情緒與梳理邏輯的機會。語音通話與傳統(tǒng)打電話并無區(qū)別，視頻通話與面對面交流相比，隔著屏幕會給用戶更多的安全感。文字、語音交流是目前人們的主要交流方式，其可延時回復的特性給了表達者更多準備的時間。這也導致越來越多的人喜歡隱藏自己，能夠視頻就不見面、能語音通話就不視頻、能逐條發(fā)語音就不實時語音通話、能發(fā)文字就不發(fā)語音，人們更愿意隱藏自己的情感和深思熟慮的表達。

4.2 宏觀倫理問題

4.2.1 交互過程對老年群體的影響

在2021 年全國人民代表大會、中國人民政治協(xié)商會議上政協(xié)委員就適老化提案指出“很多數(shù)字產(chǎn)品在設計之初，忽視了老年人的用戶體驗”問題。智能時代的產(chǎn)品外形日益簡化，內(nèi)容卻越來越復雜，不僅不符合老年用戶的認知，還會造成記憶負擔，他們很容易在界面層級和交互動作中不知所措;在年輕人中流行的語音、手勢交互也并不符合老年群體的生活習慣;缺少物理反饋的觸屏操作只有視覺反饋，這對視力惡化的老年人而言也是糟糕的體驗[5]。目前，市場上多數(shù)智能產(chǎn)品或是各領域中的服務設備，其交互系統(tǒng)很少以老年群體為測試標準，這些與老年人生理特征、認知特點、生活習慣等方面不符的交互設計使老年群在這個時代的生活舉步維艱。

4.2.2 交互過程中的責任風險問題

在醫(yī)療健康領域，隨著醫(yī)療系統(tǒng)的智能發(fā)展，提前探討其中的倫理風險是必要的。如果醫(yī)療過程中因機器功能障礙隱患導致病患受到影響，該如何避免又或是在什么程度上被允許。再如，一個提醒病人吃藥的智能產(chǎn)品，在病人拒絕服藥時他應該如何處理？順從病人會影響病人的身體康復;堅持讓病人服藥則會損害病人的自主權(quán)。在一些特殊的兩難選擇時，交互設計倫理應該從哪種維度進行道德價值評估、可以下達怎樣的指令才算合理，這些懸而未決的問題都應該被提前探討，以降低交互過程中的危害及爭議。

在交通出行領域，自動駕駛輔助系統(tǒng)是汽車人工智能領域最熱門的方向。它利用計算機視覺和語音識別技術(shù)感知行車環(huán)境，識別車內(nèi)人員，了解乘客需求，顛覆了傳統(tǒng)的人與汽車之間的交互關(guān)系。但由于物體的種類具有多樣性和復雜化，所以機器對于人與物的體貌特征的識別并不具備較高的準確性，因此目前自動駕駛輔助系統(tǒng)還難以處理隨著全息交互而不斷變化的人與自然環(huán)境的關(guān)系。在未來，駕駛者與汽車該呈現(xiàn)怎樣的交互關(guān)系、在遇到極端的困境時自駕系統(tǒng)該做出怎樣的反應，都需要在設計時提前考量。

5 人工智能背景下交互設計倫理原則

5.1 以延續(xù)基本交互設計原理為原則

針對工業(yè)產(chǎn)品：首先，要確保其安全性，預計可能發(fā)生的安全問題，避免因設計造成安全隱患;其次，要符合人機工程學，確保工作效率。針對生活產(chǎn)品：首先，要達到可用性，便于記憶、理解和使用;其次，要保障良好的用戶體驗，即生理上，盡量保證身體和感官的舒適度;心理上，提升感知美學體驗，提供情感正反饋，具有一定自我價值的體現(xiàn)，提高使用滿意度。

5.2 以給予老年群體更多關(guān)懷為原則

給出更具有針對性的交互策略，刪減無用交互步驟、適當隱藏一些非核心功能，避免增加他們的使用負擔;盡量保證交互時的語義傳達與交互方式符合他們的認知習慣;以他們的身心特征為基礎，恰當?shù)乩酶鞲泄偻ǖ乐g的補償機制，以達到最適合的交互效果，給予他們更多的關(guān)懷。

5.3 以防止用戶沉迷上癮為原則

設計者應從產(chǎn)生有益價值，而不是制造上癮的出發(fā)點去設計產(chǎn)品。將這些容易致癮的交互方式多用在學習類產(chǎn)品的交互設計中，使用戶從沉迷娛樂轉(zhuǎn)向愛上學習。具體講，可以為不斷地下拉刷新和沒有盡頭自動循環(huán)的推薦視頻設置一個“暫停頁”，給用戶一個察覺自己深陷其中應及時抽身的機會，適當控制用戶的使用時間。減少不重要信息的推送，弱化不重要信息的推送提醒，減少對用戶注意力的吸引頻率。由于通過色彩進行視覺刺激是屏幕上吸引注意力的簡單方式，如紅色的未讀消息提醒，因此在一些不重要的交互色彩中可以用冷色或是適當將色彩抽離用灰度降低對用戶的強制吸引。

5.4 以增加設計中的情感交流為原則

通過交互式體驗，依托產(chǎn)品功能和使用方式，對使用者的情緒進行接納吸收，引導、鼓勵使用者的情感宣泄和釋放。通過參與式設計， 給用戶自己DIY 的機會或適當增加用戶可以自定義的功能，以滿足用戶群的個性化需求，增加用戶與產(chǎn)品間的專屬情感。通過共享服務設計，促進人與人之間的交流。由于共享設計所服務的群體具有多樣化的特點，可以使擁有不同年齡、生活經(jīng)歷的人有機會接觸彼此，用設計將人們連接起來，人人參與，強化自身的社會認同感。

5.5 以提高設計責任為原則

在協(xié)同發(fā)展的時代，人與智能機器和諧的前提是要不斷對其進行道德約束，從機器的內(nèi)在機制考慮如何讓其學會人的評判標準，產(chǎn)生合理結(jié)果。盡量對道德標準量化評估，提前考慮一切可能出現(xiàn)的風險，并公開責任倫理指標。另外，要提升設計師的社會責任感，因為就目前而言，解決人工智能產(chǎn)品的設計倫理問題，只能建立在產(chǎn)品設計者的倫理自覺上[6]。這就需要設計者在設計時普遍提高對設計責任的認知，著眼于長遠利益，平衡人、環(huán)境、社會的三者關(guān)系，發(fā)揚人性中的真善美。

6 結(jié)語

在人工智能背景下，交互設計已經(jīng)成為一把懸在每個人頭頂?shù)碾p刃劍，在帶來便利體驗的同時也帶來危害，作為執(zhí)劍的設計者不應一味地設計而不進行道德反思。交互設計的發(fā)展不是為了滿足人們的貪嗔癡念，而應該是通過機器更好地將人們與世界連接，讓機器更好地為人們服務，形成符合人類價值的交互設計。因此，通過交互設計倫理研究期望培養(yǎng)設計者自省力與責任感，促使人機交互和諧發(fā)展、社會向善發(fā)展。