人工智能治理：收獲回報并降低風(fēng)險

Maria Korolov Charles

人工智能治理涉及企業(yè)內(nèi)的許多功能領(lǐng)域——數(shù)據(jù)隱私、算法偏差、合規(guī)性、道德規(guī)范等等。因此，要做好人工智能技術(shù)使用的治理工作需要在多個層面上采取行動。

塔塔咨詢服務(wù)公司數(shù)據(jù)和分析業(yè)務(wù)主管Kamlesh Mhashilkar認(rèn)為：“這不僅僅涉及IT層面或者項目層面。”他說，人工智能治理也發(fā)生在政府、董事會和首席安全官等層面。

例如，在醫(yī)療健康領(lǐng)域，人工智能模型必須通過嚴(yán)格的審核和檢查。許多其他行業(yè)也有適用的法規(guī)。Mhashilkar說：“在董事會層面，這關(guān)乎到經(jīng)濟(jì)行為。引入人工智能時，會面臨哪些風(fēng)險？”

至于高管，人工智能議程是有目的的。例如，首席財務(wù)官要考慮股東價值和盈利能力。首席信息官和首席數(shù)據(jù)官也是關(guān)鍵的相關(guān)方，營銷與合規(guī)主管當(dāng)然也是。更不用說客戶和供應(yīng)商了。

構(gòu)建人工智能治理戰(zhàn)略時，并非所有企業(yè)都需要在各個方面采取行動。盡管如此，所有企業(yè)都在或者很快將要使用人工智能和相關(guān)技術(shù)，即使這些技術(shù)只是嵌入到他們使用的第三方工具和服務(wù)中。

在沒有適當(dāng)監(jiān)督的情況下使用人工智能時，它有可能犯錯，導(dǎo)致?lián)p害企業(yè)運營、侵犯隱私權(quán)、違反行業(yè)法規(guī)，或者會對企業(yè)造成不良聲譽(yù)。

以下介紹有遠(yuǎn)見的企業(yè)將人工智能項目從試點擴(kuò)展到實際使用時，怎樣開始解決人工智能治理問題，重點關(guān)注數(shù)據(jù)質(zhì)量、算法性能、合規(guī)性和倫理道德等。

人工智能的倫理道德問題

如今，很少有哪個領(lǐng)域比面部識別更充斥著倫理道德問題。濫用面部識別的可能性很大，提供面部識別技術(shù)的企業(yè)受到了公眾的抵制，有時還受到自己員工的抵制。

Patriot One科技公司的子公司Xtract AI就是這種情況，該公司使用圖像識別來發(fā)現(xiàn)攜帶武器的人。

Xtract的運營副總裁Justin Granek說，這項技術(shù)還可以用于其他場合，比如識別那些不戴口罩，不遵守社交距離準(zhǔn)則的人。

他說：“倫理道德是一個主要話題。對我們來說，很多事情都是自下而上的。我們的員工在說，‘我們在做什么？，并強(qiáng)烈要求領(lǐng)導(dǎo)層制定我們的治理政策?！?/p>

他說：“客戶有自己的一套要求，我們得找到平衡點。我們的一家客戶是加拿大國防部，還有些客戶來自醫(yī)療健康行業(yè)。他們會從不同的角度看待這個問題?！?/p>

他說，最大的問題是為哪些客戶工作，以及這項技術(shù)應(yīng)該做什么樣的工作。這涉及到關(guān)乎企業(yè)使命的重大決策。還要解決一些技術(shù)問題，這些問題都是從數(shù)據(jù)開始的。

正確獲取數(shù)據(jù)

算法偏差的最大來源是數(shù)據(jù)集。例如，對于面部識別，數(shù)據(jù)集一直沒能很好地代表一般人群。Xtract AI運營副總裁Justin Granek說：“它們偏向于白人男性。我們正在糾正，但還有很多工作要做?！?/p>

專家可以幫助解決數(shù)據(jù)偏差問題，商業(yè)數(shù)據(jù)提供商正在努力填補(bǔ)他們提供的數(shù)據(jù)中的空白。Granek說，也有創(chuàng)建合成數(shù)據(jù)集的方法，但解決辦法往往歸結(jié)為去獲得更好的數(shù)據(jù)。

Kamlesh Mhashilkar，塔塔咨詢服務(wù)公司數(shù)據(jù)和分析業(yè)務(wù)主管

Justin Granek，Xtract AI 運營副總裁

對于Xtract的檢測算法來說，這意味著建立實驗室，放上各種各樣的退役槍支，讓很多人帶著槍以不同的方式，在不同的地方走來走去。

他說：“一種天真的做法是，就在好萊塢大片里尋找人們持槍行走的畫面，但這并不能代表全部?！?/p>

相反，Xtract盡力收集大量的個人信息作為訓(xùn)練數(shù)據(jù)。Granek說：“沒有規(guī)定誰可以攜帶武器。有一些學(xué)生。還有更年長的個體;我們有很多不同的個體?！?/p>

對于一些人工智能應(yīng)用程序，準(zhǔn)確、有代表性的數(shù)據(jù)集決定了生存與否，具有重大的道德和倫理意義。但即使不良數(shù)據(jù)集的影響不會導(dǎo)致問題，它們?nèi)钥赡芙o企業(yè)帶來運營或者財務(wù)損害，或者導(dǎo)致監(jiān)管與合規(guī)問題。

世界上最大的建筑材料分銷商、總部位于墨西哥的Cemex公司便非常關(guān)注后一個問題。這家公司已有100多年的歷史，正通過在供應(yīng)鏈管理和運營中使用人工智能來重塑自我。

大約三年前，Cemex公司開始研究人工智能及其相關(guān)技術(shù)，以擴(kuò)大市場份額，改善客戶服務(wù)，提高利潤。

該公司首席人工智能官Nir Kaldero介紹說：“去年和今年，我們實際上看到了人工智能在全球范圍內(nèi)的價值——而不僅僅是某個地方的小規(guī)模試點。”

他說，隨著人工智能已經(jīng)牢固地融入企業(yè)基因中，Cemex意識到有必要圍繞人工智能建立治理結(jié)構(gòu)。

一切都從數(shù)據(jù)開始。Kaldero說：“沒有好的信息架構(gòu)，就沒有好的、可靠的人工智能。沒有好的信息，就不可能有好的、可靠的模型?！?/p>

在Cemex公司，數(shù)據(jù)治理涉及安全、監(jiān)控、隱私、合規(guī)和倫理道德規(guī)范。公司需要知道數(shù)據(jù)的位置，在哪里以及怎樣使用，是否符合監(jiān)管要求以及有沒有偏見。

Kaldero說，Cemex依靠Snowflake數(shù)據(jù)平臺來管理數(shù)據(jù)，利用Satori來管理訪問，還有一位高管專門負(fù)責(zé)數(shù)據(jù)，領(lǐng)導(dǎo)治理團(tuán)隊的另一位高管則負(fù)責(zé)治理工作。

建立正確的模型

除了數(shù)據(jù)治理之外，Cemex公司還開始圍繞人工智能模型和結(jié)果進(jìn)行治理。Kaldero說：“這是新生事物。不僅僅是為了Cemex，也是為了全世界?！?/p>