科技向善，善從何來？

陳茜

騰訊在21歲之際，宣布對外“迭代”使命愿景：用戶為本，科技向善。這是2018年“930架構(gòu)”調(diào)整后，騰訊在價值觀體系的一次升級，這也引發(fā)了來自各界學者的討論。

為什么在科技如此深刻影響人們生活的今天，要著重提出“向善”？數(shù)字經(jīng)濟在給中國帶來彎道超車機會的同時，也帶來一些問題。諸如“攜程們”屢禁不止的大數(shù)據(jù)殺熟、滴滴順風車“不作為”帶來的安全風險、考拉征信涉嫌非法緩存公民個人信息、百合佳緣斬不斷的婚戀黑產(chǎn)……科技在推動數(shù)字經(jīng)濟發(fā)展的同時，也露出它“惡”的那一面。今天商業(yè)洪流裹挾著來勢兇猛的科技浪潮，如何有邊界地創(chuàng)新，成為人們所關(guān)注的問題。這時，正向而善意的價值觀力量正是我們需要呼吁的。這是面對未知世界的一種不得不做的選擇。

科技到底出了什么問題必須要巨頭呼吁“向善”？具體到商業(yè)行為中又將如何向善？《商學院》記者分別采訪了中國社會科學院科學技術(shù)和社會研究中心主任段偉文教授以及斯道資本執(zhí)行董事張矩，后者曾在Google從事多年技術(shù)工作，也是中國云計算發(fā)展的早期參與者。

科技向善：為創(chuàng)新搭建“倫理軟著陸機制”

關(guān)于為什么要在這時提出“科技向善”，段偉文指出，數(shù)字化時代技術(shù)迭代加快，很多應用場景和結(jié)果無法預知，這種不確定性與工業(yè)時代相對緩慢而確定的變革相比，讓“技術(shù)是否向善”這一問題變得更加重要。

客觀來看，一項創(chuàng)新技術(shù)的應用，如果在一開始就從倫理角度去審度，減少危害和風險，這是比較理想的狀態(tài)。但是，科技發(fā)展速度加快，一項創(chuàng)新技術(shù)究竟會帶來什么問題和弊端，一開始是不太明確。在這種不確定性面前，公眾會有一種倫理恐慌，比如人工智能、人臉識別等領(lǐng)域。問題的關(guān)鍵不是創(chuàng)新做先手，還是倫理是先手，更重要的是建立一個不斷反饋、修正、迭代、更新的機制。

現(xiàn)代大量技術(shù)具有媒介性，既是社交網(wǎng)絡(luò)同時又是社交媒介。這比以往的技術(shù)會更直接地涉及到人的精神生活，比如尊嚴、隱私、安全等。所以，對“向善”問題的重視，也與數(shù)字技術(shù)、網(wǎng)絡(luò)技術(shù)的傳播性有很大關(guān)系。企業(yè)面對這種不確定性也會有一定壓力。由于技術(shù)迭代速度快，如果缺乏前期的倫理介入，在運行過程中出現(xiàn)問題，導致社會輿論的壓力，甚至監(jiān)管層的介入，會導致產(chǎn)品服務難以運行。這對于企業(yè)來說是更大的損失，也是焦慮所在。他總結(jié)，現(xiàn)在強調(diào)“向善”的倫理維度，實際上是給新技術(shù)、產(chǎn)品和服務提供一個“倫理軟著陸機制”，避免引發(fā)隱性的、剛性的價值沖突。

“向善”需要內(nèi)部平衡和外部監(jiān)督

段偉文認為，企業(yè)以科技向善為使命，意味著“善”成為評估技術(shù)、產(chǎn)品、服務的重要價值和維度。這意味著在進行創(chuàng)新時，需要做利益權(quán)衡，要綜合技術(shù)和倫理的復合性。有一些產(chǎn)品在設(shè)計時也會通過AB測試等方法，來尋求商業(yè)價值的最大化，追求流量、點擊轉(zhuǎn)化率等，甚至為了這一目的而不惜犧牲用戶的相關(guān)權(quán)利。

這時，政府、公眾，以及媒體應該有更強的權(quán)利意識，以及倫理道德上的價值敏感性。每一個人在使用新技術(shù)、新產(chǎn)品、新服務時，也要學會反思，權(quán)利是否被侵犯或者自己的行為侵犯了別人的權(quán)利。這需要公眾的覺悟，也需要媒體和社會的監(jiān)督和探討。

“跟做人一樣，向善是一種修為?！倍蝹ノ恼f到。人在面臨抉擇時，也需要做價值權(quán)衡，在各種利益漩渦中糾結(jié)，甚至是“天人之戰(zhàn)”式的沖突。所以，在他看來，相對于人的向善，對于面向公眾的企業(yè)來說，提出追求“向善”是相對簡單的。雖然具體實踐會面臨困難，需要一步一步去實踐，一旦有這樣的使命感，會驅(qū)動企業(yè)向這一方面努力。所以，從長遠來看，選擇這樣一個價值觀反而是最容易的一條路。

警惕以“善”為前提的隱性之惡

在斯道資本執(zhí)行董事張矩看來，從工業(yè)社會發(fā)展到信息社會，傳統(tǒng)物質(zhì)生產(chǎn)資料變?yōu)閿?shù)據(jù)，對于掌握上億用戶行為數(shù)據(jù)的互聯(lián)網(wǎng)巨頭，它們擁有巨量資產(chǎn)，同時也要肩負更大責任。同時，當企業(yè)上市成為公眾企業(yè)后，接受更嚴格的監(jiān)管也是一種必然。無論是在信息披露上，還是在業(yè)務發(fā)展過程中，都應該對公眾利益負責。

不過，張矩認為，與以前不同的是，當數(shù)據(jù)變?yōu)橘Y產(chǎn)，法律法規(guī)的框架也需要更新。因為，新技術(shù)帶來的風險模糊，甚至未知，法律無法清晰明確給予定論。比如，美國Facebook侵犯隱私案件必須要不停舉辦聽證會來審議。

互聯(lián)網(wǎng)本身是一個中性詞

張矩強調(diào)，科技，包括互聯(lián)網(wǎng)本身是一個中性詞，本質(zhì)上是通過信息傳播加速提升效率。目前信息過載的情況下，必然會對社會結(jié)構(gòu)產(chǎn)生影響。在出現(xiàn)問題時，法律法規(guī)的滯后，導致我們需要以應激性質(zhì)的道德審判充當前鋒，采取一些臨時性方案加以遏制，缺乏系統(tǒng)性對策。這一問題在全世界都存在。

他認為，與Google當年提出“不作惡”一樣，騰訊提出“科技向善”也是表達立場。這其中重要的意義，首先承認了科技是中性的，并非是普遍意義上的褒義，科技需要用規(guī)則和價值判斷來規(guī)范。但是，如果僅僅從道德角度敦促一個企業(yè)做“向善”選擇，就會陷入一種模糊狀態(tài)。張矩指出，數(shù)字化時代與工業(yè)文明時代，技術(shù)的雙刃劍影響其實是類似的。

中國的飛速發(fā)展，讓人們剛剛享受到技術(shù)革命的紅利，擁有了現(xiàn)代化生活。大家對技術(shù)帶來的負面影響缺乏深刻體會，或者已經(jīng)忘記。在工業(yè)技術(shù)成熟期和普及期之前，維護勞動者權(quán)益、保護環(huán)境、約束商業(yè)行為的法律法規(guī)不完善，諸如對工人的剝削、倫敦霧霾等社會問題都曾經(jīng)發(fā)生過，不過我們現(xiàn)在已經(jīng)忘記。

與工業(yè)時代不同的是，這次信息技術(shù)革命發(fā)展速度更快。生產(chǎn)資料從物質(zhì)變?yōu)閿?shù)據(jù)后，在馬太效應影響下，會形成巨大的數(shù)據(jù)壟斷企業(yè)，而技術(shù)普及也改變不了生產(chǎn)資料的擁有狀態(tài)。

“向善”責任無法推給用戶自覺

在張矩看來，數(shù)字化時代商業(yè)的一大特點是用戶大規(guī)模參與，共同構(gòu)成產(chǎn)品本身。而企業(yè)寄希望于用戶行為“向善”來確保安全發(fā)展，基本是無法實現(xiàn)的。同時，從經(jīng)濟學角度講，把責任推給終端用戶，而不是約束企業(yè)經(jīng)營行為，這帶來的社會成本會非常高。試想，如果每個人在吃穿住用行時，都需要審核一下這些產(chǎn)品和服務是不是資質(zhì)齊全、合規(guī)，成本會非常高。只有企業(yè)去維護可信的環(huán)境，這樣成本才會最低。而當企業(yè)承擔起這一責任，才能贏得更多用戶信賴，從而實現(xiàn)更大發(fā)展。這也是經(jīng)濟利益驅(qū)動的結(jié)果，僅僅從道德上約束很難。

當企業(yè)只是從道德上約束員工行為，一旦出現(xiàn)信息不對稱和利差，很容易滋生腐敗。越從道德上約束企業(yè)，尋租空間和利差就會越多。所以，還需要建立透明機制和競爭環(huán)境，以及完善法律法規(guī)，這樣才能減少“做惡”的可能。

比起看得見的惡，隱性之惡更值得警惕

張矩強調(diào)，“科技向善”并非僅僅是利用科技來直接解決社會問題，比如利用互聯(lián)網(wǎng)平臺籌資做公益，利用人臉識別技術(shù)尋找失蹤兒童，或者利用數(shù)字化技術(shù)保護文化遺產(chǎn)，更關(guān)鍵在于要從現(xiàn)有的產(chǎn)業(yè)體系和商業(yè)模式中，反思產(chǎn)品和服務帶來的廣泛社會影響。

游戲造成的沉迷問題，短視頻內(nèi)容減弱人的專注力，電商、外賣平臺帶來的包裝污染問題等。雖然，游戲、短視頻平臺都對用戶提醒可以設(shè)置“青少年模式”，但是，這種希望用戶主動設(shè)置的選項引導效果有限，只是為了規(guī)避風險和責任。

對于平臺來說，收集了用戶這么多數(shù)據(jù)，是有能力精準判斷用戶是不是青少年。同時，游戲背后是大量心理學專家設(shè)計出引人入勝的沉浸感，普通用戶很難抗拒。作為負責任的企業(yè)，應該設(shè)計讓出現(xiàn)沉迷的用戶走出來的強制機制，而不是讓用戶自主去做選擇。同時，外賣企業(yè)應該減少塑料垃圾，甚至投資可回收材料，這是應該承擔的責任。

在強調(diào)“科技向善”中，最被常提起的維度就是數(shù)據(jù)安全。張矩認為，比保護數(shù)據(jù)和隱私更重要的問題是，技術(shù)對人行為習慣的塑造，這將會帶來怎樣的影響是不可預估的。在他看來，技術(shù)更深遠的影響，是對人和社會行為的影響，如果人不能與之適應或者嘗試控制，就會變成很大潛在的問題?！爸饔^作惡都是小惡，更大的惡，往往是在‘善的前提下，不知不覺而造成的不可挽回的后果。”張矩說。不過，人們對技術(shù)會有一種天然樂觀，會相信等出現(xiàn)問題后，各種制度會慢慢迭代、適應，最終風險被化解。

張矩認為，因為現(xiàn)在技術(shù)發(fā)展太快，制度、法律、倫理、心智等都跟不上，只有這段時間很痛苦，等一系列配套措施逐漸完善，這種焦慮和恐懼就會淡弱。就如工業(yè)革命導致生產(chǎn)大發(fā)展后，羅斯福推行福利政策來解決勞資矛盾一樣。

以用戶需求為中心不能走偏

不可否認，以用戶需求為導向，需求本身存在導向性問題。張矩認為，根據(jù)馬斯洛理論，用戶的需求是分層次的，精英們希望商業(yè)環(huán)境可以提高人的層次，而不是引誘人們下降一個層次，但是從商業(yè)化角度看，這件事不可避免。越低的需求層次就越容易控制和滿足。

以美容整形為例，如果以道德為標準來限制企業(yè)經(jīng)營，就會產(chǎn)生黑市。張矩直言，一些問題不是技術(shù)能解決，需要人們升級自我管理和修養(yǎng)，把一些需求漏洞給堵上，不然永遠都會被人利用。即使不是正常利用，也可能是偷偷摸摸利用。在精英社會體系，高低層次的需求會呈現(xiàn)一個平衡態(tài)。但是以美國為例，隨著特朗普的上臺會產(chǎn)生一個逆轉(zhuǎn)。他所呼吁的訴求，層次越來越低，并且通過互聯(lián)網(wǎng)的傳播效應，引發(fā)巨大影響和追隨。這也是很多美國人非常痛苦和悲觀的原因。

在張矩看來，呼吁人或者呼吁公司向善是營造美好社會的途徑之一，但是絕對不會是解決問題的辦法?！皬钠髽I(yè)與個人成長角度看，企業(yè)要承擔社會責任，個體要講究誠信、正直、尊重他人，這需要回歸到教育和社會治理體系的完善。當人們開始不僅僅在乎個人利益，而是主動關(guān)照其他利益相關(guān)者利益時，才能實現(xiàn)從內(nèi)到外的向善?！?p>