人工智能技術中的道德與人性探討

張涵宇

【摘要】 關于人工智能技術中的道德與倫理，更多時候，人們討論的是人工智能的一大分支——強人工智能和超級人工智能——對人類的傷害。但也可以改變思路，思考是否是對技術的高傲和缺乏人性關懷，令使用者忽略技術使用中的道德，導致施加在“沒有感情的機器”上的無情舉措反噬己身。人類可以用一種“溫柔的情懷”對待類人技術并獲益，而了解與超級人工智能領域相關的“人-機”關系所面臨的危機后，則可以從傳播學的視角出發(fā)，探討應對風險的輿論引導方式，從而在面對倫理問題時更多地站在人性的角度思考。

【關鍵詞】“人-機”關系;倫理 ;引導

中圖分類號：G212? ? ? ? ? ? ? ? 文獻標識碼：A? ? ? ? ? ? ? ? ? ? ?DOI：10.12246/j.issn.1673-0348.2021.13.090

1. 人工智能技術

人工智能技術（Artificial Intelligence）作為一門將人類生理機能向外延伸的技術，發(fā)展到今天在機器人、語言圖像識別、自然語言處理等領域業(yè)已卓有成效，靈活性也遠超獨立個體的人。但事實上人工智能并不具備人類本質屬性和人的社會關系屬性。雖則人工智能技術擁有類人思維并反噬人類聽起來天方夜譚，但技術不斷發(fā)展帶來的倫理問題從來就不局限于人類對技術的應用，而更應探討技術尊重，即遵守人性底線，尊重為人類創(chuàng)造利益和價值的“物”。

2. “人-機”關系

“人-機”關系作為人工智能技術中的重要一環(huán)，由于其 “智能”的特性，導致了具有深度學習能力的超級人工智能的“工具理性”，并借由設定程序對各類情況做出判斷、采取措施，這就帶來了新的“人-機”關系。

人工智能技術中的“人-機”關系問題，具體導向兩個方面：人與人之間關系在其中的體現(xiàn);人類實際預測的與“機器”的關系。

人與控制人工智能技術操作人員的關系，實際上是技術使用者與技術擁有者之間的關系，二者之間的關系更傾向于權力的爭奪，這種爭奪關系屬于政治學的范疇。人與機器的關系又可以細分為人與處于有序控制的機器與技術的關系，人與失控的機器與技術的關系。

2.1“人-機”關系面臨的問題

人與“機器”的關系取決于人類對于技術的態(tài)度，由于其在人類社會發(fā)展進步中的不可替代性，在技術的應用中，就更要有取謙和的、寬容的態(tài)度。

處于有序控制的技術所面臨的最大問題，即控制和掌握技術的人由于生理和心理的不斷變化，其對技術的控制力度和方式也會改變，這種變化的不確定性增加了技術濫用的可能，從而導致使用者在技術應用中受到莫測變化的影響和掣肘。

失控的技術則既存在上述人的變化所帶來的失控的可能，同時也存在由于技術發(fā)展平臺的限制，如人工智能的深度學習，其習得內容的正確與否和道德倫理衡量標準都存在不可控性，這種不可控將導致“人-機”關系失調進而帶來利益損失。

2.2 倫理討論

“人-機”關系倫理討論觀點主要有三：認為人工智能不能超越人類智慧的傳統(tǒng)派;認為人工智能發(fā)展會威脅人類生存的謹慎派;以及認為人工智能最終能夠達到甚至超越人類智能，提出“奇點理論”、“人機共存”的樂觀派。謹慎派和樂觀派的觀點均基于人工智能技術超越人類智能的假設，而這一假設不僅強調要警惕人工智能對人類生存的威脅，也應著重于對技術的敬畏，以及對存在物的謹慎對待的態(tài)度。

人工智能技術發(fā)展至今進入瓶頸期，停滯正可以給人類以未雨綢繆的時機，在“人-機”關系問題上提前規(guī)劃，防止出現(xiàn)科幻作品中的反噬危機，同時重新確立人類對非人存在物給予尊重和合理使用的觀點。

3. 倫理和道德

人類社會的倫理道德涉及各方面，對于“人-機”關系而言則包含在人與自然界中其他存在物的關系之中。

3.1 人與非人存在物的關系

人類對非人存在物的態(tài)度將直接影響生存環(huán)境。諸如機器人，作為由人類創(chuàng)造的、自然界中新生的非人存在物，人類對其的態(tài)度不應僅局限于控制和為所欲為，而應更多地將其作為一個新的不同于人類的存在個體，對待的態(tài)度和方式也應與對待生物和自然環(huán)境、資源相近，理性、克制、尊重。

哈羅德·英尼斯和麥克盧漢的弱技術決定論認為，技術由人產生又反作用于人，技術與人類社會相互影響相互制約，從而推動歷史進步。若持技術積極態(tài)度，自然可以利用人工智能為工作和生活帶來便利，但這就使機器成為工作責任的承擔者。如果不能協(xié)調“人-機”關系，合理利用技術便利，工作過載就會帶來失誤：人類過勞會出錯和死亡，資源過度開發(fā)導致環(huán)境惡化，人工智能過載會程序崩潰，過猶不及。

3.2 無限權力與無限責任

相較于自然界中其他存在物，人類對技術產物擁有絕對的無限權力，而這種使用和控制的無限性，必然對應無限責任，即不論人工智能技術發(fā)展到何種階段，人類都應全盤接受其后果。這就使協(xié)調“人-機”關系更加重要，任何非理性的技術使用和“人-機”關系處理都可能導致人類生存危機。人類不僅有發(fā)明和升級換代人工智能技術的責任，同時也具有合理使用和對待相關技術的責任，并通過塑造、傳播、強調正確使用技術的觀念促進相關意識培養(yǎng)。

4. 控制的潛在危機

人工智能技術中機器人的道德地位問題仍存在爭論，機器人是否應該被列為具有承擔責任和義務的價值主體屬于哲學范疇，雖然從唯物主義的觀點出發(fā)，人工智能無法理解人類社會情境，因不具有自主意識不能被稱為“類人”，但模仿人類智慧和思維的行為也存在風險。其“智能”并非來源于思考，而是基于足夠數(shù)量的樣本，這就導致其處理問題時只能依賴事先編程而非自主判斷。

人工智能技術在應用倫理上所面臨的困境可以分為兩個方向：一是技術的使用者未必能夠造福人類，存在濫用和作惡的可能，如何預控這種傾向;二是智能習得的經驗和演算能力，如果沒有有效規(guī)劃和限制，是否會導致威脅人類生存的“思路”和行為。

5. 普及“尊重”意識

普通受眾對當下人工智能發(fā)展狀況的了解僅限于新聞與娛樂內容，乃至于生活中的智能家居產品，這就使普及信息、引導觀念態(tài)度變得十分重要，不僅媒體和學者要推動知識的普及和信息擴散，普通人也要以更加積極、好奇的心態(tài)主動學習。

5.1 大眾傳播引導

機器產生自發(fā)智能行為仿如杞人憂天，但在教育和宣傳上仍要未雨綢繆，學術上的哲學和技術討論要合情合理，而面向公眾的介紹和傳播上就要考慮影響范圍和效果，強調技術便捷以及技術失控的危害，強調合理使用，克制可能具有道德爭議的使用行為，從而達到教育和引導目的。

在宣傳上，既要科普，又要有一定震懾力。賈尼斯的警鐘效果正適合這種情況，以強烈的恐懼訴求獲得一般的“預防針”達不到的狀態(tài)。由于不同程度的恐懼訴求喚起的緊張效果不同，反復強調不合理使用智能產品將導致失控，不失為最立竿見影的方法。諸如谷歌智能音響勸人自殺的新聞，可以作為恐嚇式信息推廣，從而令受眾提高警惕，理性使用智能產品。同時由于第三人效果，成年人傾向于對青少年和老年人反復強調生產生活工具使用規(guī)范，這就完成了一個從大眾傳播到人際交互再到群體傳播的過程，其中人際傳播的恐怖渲染能力最強，從而達到警鐘效果。

另一方面，不僅要做足宣傳，也要增加信息量多角度傳播。大眾傳播往往是全方位覆蓋的，網絡用語表達即“刷屏”，基于社會行為示范、價值塑造和環(huán)境認知上的效果，在各類媒體反復強調技術發(fā)展的不足，強調合理使用智能工具，強調尊重技術和非人存在物以及目前技術的缺陷，以期達到教育目的。

5.2 人際傳播中的話語權

大眾傳播覆蓋面廣，但限于載體和技術，需要人際與群體傳播的補充。在日常生活中具有話語權的受眾就成為二級傳播起點，不僅是意見領袖，在生活、社交網絡中接觸相關信息最多的人同樣會成為具有影響力的傳播者：既能帶來認知和態(tài)度的變化，也體現(xiàn)在行動層面，潛移默化的長期行為，即合理使用智能產品的行為，其感染效果比信息傳播更強。

5.3 主動習得

人類具有學習新知和自我糾正的能力，在主動學習相關知識時，會自發(fā)糾錯，選擇對自己有利的信息消化吸收。當信息源反復強調某些認知與行為可能損害利益時，人的思維也將基于趨利避害的本能自我修正，這個自我修正、自主習得的過程就使了解和使用人工智能技術，以及接受尊重技術的觀點變得順利，從而實現(xiàn)了自我勸服和自我意識觀點重塑。這種自內而外的觀點重塑將比自外部強力輸入更柔和，減輕認知不協(xié)調導致的心理不適。

5.4 強調人的重要性

唯物主義強調以人為本，在宣傳效果上強調以“人”為中心，與強調“尊重”人工智能的技術中心觀點并不矛盾，技術的發(fā)展終究圍繞造福人類行進。社會與技術的相互作用決定了只有強調人的需求，科學研究才能夠在合理有效的框架之內進行;而人類尊重技術的客觀存在性，尊重自然界中的客觀規(guī)律，將使技術的應用更加符合道德和倫理要求，避免技術失控和“人造”智能的反噬。

而同時，也只有通過強調人類的利益得失，才能夠從心理上減少道德距離感，帶著同理心思考可能的結果，產生心理貼近感，達到勸服目的。

參考文獻：

[1]陳一鳴，周杰，陳旭.“人與機器”的爭論[J].中共四川省委黨校學報，2020（04）：11-16.

[2]葉娟麗，徐琴.去中心化與集中化：人工智能時代的權力悖論[J].上海大學學報（社會科學版），2019，36（06）：1-12.

[3]謝洪明，陳亮，楊英楠.如何認識人工智能的倫理沖突？——研究回顧與展望[J].外國經濟與管理，2019，41（10）：109-124.

[4]沈國松.對傳播技術決定論的解讀與思考——兼論從新技術LBS到新媒體LBC[J].中國報業(yè)，2016（10）：22-23.

[5]趙晶旭，舒成利，王堯，高山行.人工智能風險的契約觀及契約化治理機制研究[J/OL].科學學研究：1-17[2021-02-25].https：//doi.org/10.16192/j.cnki.1003-2053.20210201.001