人工智能時代下科技倫理問題研究
——基于馬克思主義哲學觀點

丁金濤

（浙江大學城市學院，浙江杭州 310015）

伴隨著人類步入智能化、 數(shù)據(jù)化社會以及技術的更迭，科技倫理問題也不斷出現(xiàn)，造成新的生存困境。因此，我們需要重新思考人與科技的關系。該文結合馬克思主義哲學觀點，探討人工智能時代下出現(xiàn)的一些科技倫理問題，及如何應對處理上做了些思考。

1 馬克思主義科技哲學觀

馬克思主義科技觀指出了科學技術是生產(chǎn)力，揭示了科學技術的內涵及其社會功能。其核心就是“科技就是生產(chǎn)力”，科技是推動歷史發(fā)展的有力杠桿。 準確理解馬克思主義科技觀，對于人工智能、機器深度學習不斷發(fā)展的當下具有重要的現(xiàn)實意義。

馬克思主義的科技哲學觀形成有其歷史因素，馬克思、 恩格斯所生活的時代適逢第一次工業(yè)革命的興起與發(fā)展，作為近現(xiàn)代工業(yè)文明發(fā)展的起點，其導致的生產(chǎn)方式、 生產(chǎn)關系的變革創(chuàng)新與發(fā)展促進了全球生產(chǎn)力的大幅度進步，揭示了近代西歐國家社會變革的內在機制。馬克思認為，機器生產(chǎn)的發(fā)展要求人們自覺地應用自然科學，勞動生產(chǎn)力是隨著科學和技術的不斷進步而不斷發(fā)展的。同時，恩格斯在《自然辯證法》里講到，科技是具有革命性的，新的生產(chǎn)工具的創(chuàng)造和發(fā)展，使人們的生活發(fā)生巨大變化，并為人類的解放做準備。 以此來奠定科學技術是推動社會發(fā)展的革命力量的動力元素之一。

如今，科學技術已經(jīng)向著數(shù)據(jù)處理、深度學習、人工智能等方向深度發(fā)展，其技術變革與突破的速度比歷史上任何一個時期更甚，從悲觀主義的角度看，隨著某個奇點時刻的來臨，以人工智能為代表的科技技術會替代和消滅人類。但從樂觀主義者的角度來看，人工智能能夠提升人的幸福感，甚至加快實現(xiàn)共產(chǎn)主義，我們所面臨的由技術變革所帶來的科技倫理的挑戰(zhàn)和困境越來越明顯。馬克思主義哲學是辯證的，我們一方面警惕人工智能的倫理風險時，另一方面也要積極看待其中蘊涵的歷史機遇。

2 人工智能時代下人們所面臨的科技倫理問題

2.1 過度追求工具理性的逐利思維

盡管今天的機器深度學習和人工智能的極速發(fā)展，相比過去的蒸汽革命、工業(yè)革命時代有諸多不同，但馬克思主義關于科技發(fā)展對人的異化影響理論在今天這樣的情境下仍然適用。

現(xiàn)代科技是推動社會生產(chǎn)力得以迅速發(fā)展的強大引擎，但不應該成為工具理性完勝價值理性的誘因，應堅持工具理性和價值理性的統(tǒng)一，而不是工具理性所奴役。 缺少價值理性的人，必然追求更為單一的價值，比如一味趨利而忽視利益之外的價值追求。

比如前一段時間，賀建奎副教授的“人類胚胎基因編輯嬰兒”事件廣受國內外學術界和社會關注，其不負責任行為嚴重違反中國現(xiàn)行法律法規(guī)和科學倫理，給人類可能造成難以預估的惡劣后果。 國家自然科學基金委員會在關于這一事件的公開信中說道：“科學倫理永遠是科學研究不容觸碰和挑戰(zhàn)的底線。 隨著科學技術的進步，科學倫理建設面臨著越來越多的新情況和新挑戰(zhàn)，我們要以對人類和生命高度負責的態(tài)度踐行科學研究中的倫理規(guī)范。 ”

2.2 人工智能挑戰(zhàn)著傳統(tǒng)行業(yè)

人工智能發(fā)展到現(xiàn)在的程度并不能完全替代人類做出選擇，人類在300 多萬年的漫長時間里進化成現(xiàn)代人類，歷史上數(shù)次科學革命的爆發(fā)成為推動歷史發(fā)展進程的助推器，至今日已然進入到一個高速時期，人類作為生物的種種構造是自然選擇的結果，而人工智能則是建立在通信技術、 算法技術、 數(shù)字技術等基礎上，發(fā)展不過幾十年，未來還有很長的路要走。

但是目前隨著技術的升級和創(chuàng)新，人工智能和深度學習技術是一片藍海，它已經(jīng)不僅僅停留在機械生產(chǎn)制造給人以便捷的自動化層面上，而是擁有科技“智能芯”，其數(shù)據(jù)庫的技術支持能夠為非專業(yè)人士提供信息服務和技術指導，比如，網(wǎng)絡AI 醫(yī)生可以根據(jù)關鍵詞來診斷病情，這是基于病例數(shù)據(jù)庫的診斷信息，通過算法合成與病情匹配的診斷報告； 再比如AI 新聞，對于數(shù)據(jù)性的常規(guī)報道，人工智能撰寫的新聞稿會比人工撰寫更精確，很多不需要人工潤色的文章根據(jù)樣式模板就可以很快生產(chǎn)出來，可以說，就目前而言，隨著產(chǎn)業(yè)更替合并，很多低端、低腦力的工作已經(jīng)被人工智能替代。

2.3 數(shù)據(jù)時代侵犯私人隱私

人工智能技術能夠根據(jù)數(shù)據(jù)庫的信息頻率、 數(shù)量等來建立趨勢模型，在大數(shù)據(jù)中發(fā)現(xiàn)并總結出人們行為的規(guī)律，根據(jù)人們行為規(guī)律來預測其喜好，需求。 比如，根據(jù)消費者購物習慣和瀏覽電商網(wǎng)站的風格來判斷其喜好，從而通過數(shù)據(jù)預測推薦給其所需要的商品，人工智能就是想消費者所想，為消費者提供更為便捷的消費模式，在此基礎上，人工智能技術會引導人們作出相應的干預策略。但同時，由于人工智能技術是基于大數(shù)據(jù)基礎之上的，其受數(shù)據(jù)庫體量，動態(tài)分布情況、來預測模型，而大數(shù)據(jù)是建立在人們行為數(shù)據(jù)基礎上的，常常由于操作和保管不規(guī)范導致信息外露。

如臉書最近的泄露事件，導致5 000 多萬用戶的個人數(shù)據(jù)被泄露，連“臉書”首席執(zhí)行官扎克伯格也不能幸免。一方面，臉書這類社交媒體構成了一派繁榮的信息烏托邦，另一方面，這種烏托邦有著很大的脆弱性。技術沒有原罪，但它沒有預先的價值立場，其使用后果有著極大不確定性。 人類隱私的存在，既是權利的表征，也是技術維護的結果。

3 人工智能時代下科技倫理困境改善策略

3.1 加強建設，完善倫理協(xié)會制度

組織高端研討會和論壇對科技管理中存在的問題，探討和提出具有可操作性的政策建議，建立應對突發(fā)性重大科技倫理事件的長效機制和應對機制。 以國際社會和科學共同體關注的科技領域科技倫理問題進行研討，秉承開放、平等、理性、負責的精神，鼓勵自由交流，匯集倫理政策建議，傳遞負責任創(chuàng)新理念。

在國際上，科技倫理問題早已被探討。部分高校計算機實驗室協(xié)同微軟、谷歌等互聯(lián)網(wǎng)巨頭成立了AI 倫理委員會，以應對人工智能可能導致的倫理風險。 同樣，國務院在《新一代人工智能發(fā)展規(guī)劃》中提出，“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。 在不久的將來，通過對人工智能相關法律、倫理和社會問題的深入探討，以期能夠解決劃清科技與倫理道德邊界的問題，人工智能能夠更好地推動社會科技發(fā)展，真正地去踐行人類自由解放的道路。

3.2 達成共識，助推科技向上更要向善的社會理念

2019年兩會，騰訊馬化騰提出“科技向善”的概念。 引導科技向善，我們必須弄清科技是如何“作惡”的。 技術本身是中性的，不存在“原罪”一說，如今顯現(xiàn)的種種問題歸根結底是人的問題。當一種新技術、新業(yè)態(tài)萌芽時，本身自然存在不完善之處，但各路人馬在利益的驅使下一味地搶占先機，甚至亂加利用，勢必催生一系列亂象。 而監(jiān)管舉措的出臺、法律法規(guī)的制定、社會共識的達成等，往往帶有一定的滯后性。這在無形中加劇著技術的野蠻生長。 一旦“韁繩”套得太晚，這匹“野馬”就要橫沖直撞，甚至造成不可逆的負面影響。要在全社會范圍內形成廣泛共識，讓科技向善、責任創(chuàng)新意識深入到每一位公民心中，只有當人們內心深處真正產(chǎn)生信仰，才會對制度、規(guī)范有敬畏。

3.3 借助法律，對新技術進行引導和規(guī)范

科技倫理規(guī)范應該在全社會形成廣泛共識，這就需要相關領域進行科學的引導和規(guī)范。 業(yè)界應該制定人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力，從產(chǎn)品的設計研發(fā)、 投入生產(chǎn)、銷售終端、用戶使用等各個環(huán)節(jié)能夠具備獨立的倫理安全評估。

在產(chǎn)品構思和申請專利之初就應該向科技部門和地方科技倫理協(xié)會提交產(chǎn)品倫理報告書。同樣，倫理安全評估機構則應該建立一套完善的評估項目和流程，在銷售環(huán)節(jié)，應明確將產(chǎn)品可能涉及的倫理問題告知于消費者，有些款項應向消費者做充分的解釋，告知其可能發(fā)生的不良后果，既然產(chǎn)品終端是面向市場的，那么消費方就有權利知曉其產(chǎn)品涉及的倫理問題。

在制定關于新興科技的創(chuàng)新、研發(fā)、應用政策和戰(zhàn)略時，要制定好新興科技倫理風險的相關政策和約定。對科技的管理不能只在乎眼前利益，科技成果是否能轉化為先進生產(chǎn)力，促進人民的健康、能否保護環(huán)境以及維護社會安全等。

所幸的是，全國人大常委會已將一些與人工智能密切相關的立法項目，如數(shù)據(jù)安全法、個人信息保護法和修改科學技術進步法等，列入該屆五年立法規(guī)劃。同時，把人工智能方面立法列入抓緊研究項目，圍繞相關法律問題，進行深入調查論證，努力為人工智能創(chuàng)新發(fā)展提供有力法治保障。

3.4 加強教育，開設科技倫理公共課程

加強教育，開設科技倫理公共課程，并不僅局限于高校內開展，要貫穿整個職業(yè)生涯，包括研發(fā)人員入職教育，在職教育。 強調負責任創(chuàng)新，既強調科技創(chuàng)新對于社會發(fā)展的推動作用，也要強調科技對社會各方面建設的有益建構，政府部門和科研院所應是科技倫理引導與教育的主導機構。

對于學校，可以開展形式多樣的科技倫理課程，比如中小學階段科技課堂上引用科學故事來讓學生分析判斷，要將德育課和科技課程有機結合，發(fā)揮協(xié)同效應，集約教學資源。在高等教育階段，可以開設公共課、通識課供學生選擇，對于科技方向的專業(yè)應開設科技倫理專業(yè)課程，正如同醫(yī)學院開設醫(yī)學倫理、新聞學院開設新聞倫理課程那樣。

4 結語

科技是把雙刃劍，正確利用可以造福人類，不當利用會給人類帶來災難，當下我們正行駛在科技發(fā)展的高速路上，科技發(fā)展中所面臨的一系列困境最終要展示在人們面前，如何突破困境，讓科技真正以人為本為人謀利，始終是需要我們不斷思考的問題，我們要借助馬克思主義哲學的利器，妥善處理好人工智能時代的科技倫理問題。