用技術做正確的事

董見

從數(shù)百萬美元的勒索軟件賠款，到數(shù)億用戶私人信息的數(shù)據(jù)泄露，圍繞惡意技術的頭條新聞一直很吸引眼球，但它們并不能說明全部問題。真實情況是，惡意技術遠不止蓄意的、有針對性的破壞系統(tǒng)或竊取用戶數(shù)據(jù)。盡管黑客攻擊、勒索軟件攻擊、數(shù)據(jù)泄露和DDoS攻擊在這類新聞敘述中占據(jù)著主導地位，也的確造成了嚴重損害，但實際上它們只是滄海一粟。

首先要擺正心態(tài)，不要對“惡意技術”一詞感到過于恐慌。這里談論的不僅是技術攻擊本身，需要更廣泛地思考。

惡意技術并不單純指非法行為，例如，有些人完全樂于接受在線監(jiān)控，因為這可以幫助他們獲得更精準、更具個性化的推薦。也有另外一些人會不遺余力地躲避任何數(shù)字監(jiān)控的追蹤，因為這在他們看來是不道德的。

有些技術看似惡意，其出發(fā)點卻并不如此。例如，圖像識別軟件的開發(fā)者不會刻意讓軟件在識別到黑人面孔時提供不一致的結果，只是由于軟件現(xiàn)階段有一個糟糕的數(shù)據(jù)集，才會呈現(xiàn)出看似有偏見的結果，而這些并非開發(fā)者的本意。這些都不是惡意的項目，當然也不歸屬于惡意的品牌，在許多情況下，它們甚至不是設計或規(guī)劃上的失敗，而是團隊沒有充分考慮到一項技術決定會對所有潛在的利益相關者群體產(chǎn)生怎樣不同的影響。

這是一個關鍵點。在設計之初，軟件通常有一個特定的利益相關者群體，設計者試圖直接服務或滿足這一群體的需求，卻常常忽視了該產(chǎn)品對其他利益相關者的影響。比如訓練一個自然語言處理模型所產(chǎn)生的二氧化碳排放足跡，與紐約和北京之間往返125次航班相同———很少有人考慮到這種環(huán)境上的影響。除此之外還有很多人忽視的公平、公正問題。疫情期間很多教育轉入線上，一些家庭沒有良好的網(wǎng)絡情況，根本無法同時支撐幾個孩子共同參與線上課程，更不用說父母也要同時在家辦公。許多人看到的是數(shù)字教育的精彩革命，但他們沒有看到那些因數(shù)字不平等而被落下的人。

疫情所暴露的數(shù)字不平等和正在發(fā)生的氣候危機只是原因之二。現(xiàn)如今，技術幾乎深深扎根于我們生活的各個方面———醫(yī)療決定、信貸決定、緩刑或判刑決定，所有這些對個人生活有巨大影響的事情，都受到技術選擇的巨大影響。這其中的利害關系是非常真實的，而技術決策者在做這些決定時卻很少做到全面考慮。這就是為什么對各種組織來說，樹立負責任的技術思維是如此重要。

負責任技術，有時也被稱為道德技術或公平技術，是一個總括性的術語，包含了多種概念，總之就是用技術做正確的事情。這可能意味著任何事情，從采取措施更容易獲得一個應用程序，到實施政策以幫助持續(xù)提供公平的技術體驗。

從字面上看，這是一個相對簡單的概念，但仍然被誤解所籠罩。最近讀到一些信息說：“責任在土木工程等領域很容易定義，你的責任是確保建筑物穩(wěn)定，不倒塌、不對相關居民的生活產(chǎn)生負面影響?！逼潆[藏的含義是，在軟件或技術領域，這一點很難定義。我們并不像醫(yī)療行業(yè)那樣受到任何形式的“希波克拉底誓言”的約束。但是，當涉及到用技術做出道德以及負責任的決定時，我們常常給自己留了過多的余地。

為了減少技術所附帶的無意傷害并做出負責任的決定，企業(yè)需要著重關注的是，識別可能受到特定技術決定影響的潛在利益相關者。這意味著需要關注：

受測群體———他們是否真正代表了預期中將使用該產(chǎn)品的終端用戶群體？這個過程是否涵蓋了所有利益相關群體，他們是否有發(fā)聲渠道？

服務所需數(shù)據(jù)集的質量和準確性———是否沒有偏見，是否能夠提供真實、全面的反饋和包容性體驗？

設計中是否考慮到了平等和易用性———以及復雜的特征或功能是否以整體可用性和可及性為代價？

這一決策是否會對人類社會產(chǎn)生更廣義的負面影響？例如，它是否與我們的可持續(xù)發(fā)展目標相一致，是否有可能破壞環(huán)境？

希望鼓勵組織做的另一件事是，明確聲明組織關心什么，以及希望所采用的技術能幫助實現(xiàn)什么。正如《數(shù)學毀滅武器》的作者Cathy O’Neil所說，有些時候，你必須在公平和利潤之間進行交易。

這取決于你想在這個光譜上處于什么位置，但重要的是要明確目標和意圖。本人曾與一個組織合作，該組織制定了一個框架，表達了他們在使用客戶數(shù)據(jù)方面的價值觀和原則，清楚地闡述了他們打算如何操作這些數(shù)據(jù)，以及為什么會做出這個決定。這花了幾個月的時間，但這使他們的意圖和道德立場十分清晰，并且容易保持一致。

技術所產(chǎn)生的無意識傷害有多種形式，可能潛伏在任何技術決策中。作為技術管理者，我們有責任提出正確的問題，并考慮這些技術將如何被每個人使用，以及可能對使用者的生活和經(jīng)歷產(chǎn)生怎樣的影響。

轉向這種負責任的方法和心態(tài)在理論上相對簡單，但在看到有意義的結果之前，整個行業(yè)的組織和專業(yè)人士需要做出真正的奉獻。正如我們有責任保護客戶數(shù)據(jù)免受惡意威脅一樣，我們也有道德責任盡我們所能減少技術所產(chǎn)生的負面影響，并為所有人建立一個平等、可訪問的數(shù)字世界。