對“腦機接口”應(yīng)該潑一點冷水

美逸君

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數(shù)據(jù)公式，任何人不過是無數(shù)代碼里的1和0而已?！澳X機接口”在豬身上實驗成功了，如果有一天，用在人身上呢？

日前，Elon Musk發(fā)布了Neu-ralink“腦機接口”研發(fā)的最新進展：在豬身上實驗成功，下一步將植入人腦。

看完后，想到：科技發(fā)展從來都是雙刃劍……上古進入鐵器時代，人類開始了王國戰(zhàn)爭、帝國爭霸；近代，火藥發(fā)明，戰(zhàn)亂的破壞力指數(shù)級上升；而現(xiàn)代，隨著人類分裂原子核，終于擁有了能毀滅人類文明與人類物種自身的手段……那么，AI發(fā)展，是否沒有任何副作用、反作用？不需付出任何代價？如果存在副作用、反作用，會作用在哪里，代價由誰來承擔(dān)？

沒想到，僅僅一天之后，AI的副作用就砸到我自己頭上……社交軟件的紅包功能被凍結(jié)了。原因是：在單位時間內(nèi)接收紅包數(shù)量超過了限額。

這種限制，主要是為防止洗錢，譬如：銀行對每個賬戶、每張銀行卡每日取現(xiàn)額度有限制，且多筆小額分拆取現(xiàn)，會引發(fā)報警。社交軟件的AI設(shè)計，效仿銀行限定了“每日收取紅包限額”，卻不顧紅包總金額：幾十筆十幾元的紅包，總共千把元錢，就觸碰了它的預(yù)警參數(shù)……“咔”把你的功能鎖定了。

在網(wǎng)上查解決辦法，怎么試都不成。打客服電話，接聽的是AI語音，電腦錄音播放了很久，主要是新業(yè)務(wù)推薦，忽悠在他們那里投資理財?shù)鹊?，關(guān)于問題的解答就幾秒時間，還沒聽明白就掛了。只好鍥而不舍反反復(fù)復(fù)打，非要擠進人工服務(wù)不可。在活人引導(dǎo)下，提交了申請和驗證文件，最終問題得以解決。

類似案例，僅在朋友身上就發(fā)生過多起，因數(shù)額較少，進行司法訴訟劃不來，絕大多數(shù)人都自認(rèn)倒霉。

事實證明，至少現(xiàn)價段大部分所謂“AI”不但沒有人性，而且真的不夠聰明。到目前為止，所有大規(guī)模應(yīng)用的AI，是通過天量統(tǒng)計數(shù)據(jù)（“大數(shù)據(jù)”）來編織監(jiān)控網(wǎng)絡(luò)，來測算人們行為的概率。

而問題是：這些天量統(tǒng)計數(shù)據(jù)的獲得途徑，是否合法？“科技巨擘”們根本不予解釋，我們的生活信息成了他們的“商業(yè)機密”，但誰授權(quán)他們隨時監(jiān)控我們的生活呢？

譬如：人們想去吃湘菜，僅僅因為想吃，不需其它理由，這是人的欲望與自由選擇；而AI很可能會猜到你今晚有6成概率去吃湘菜，然后對你進行廣告推送。

這并非因電腦具有人類的性靈，而是因其偷偷監(jiān)控了你的生活規(guī)律、消費習(xí)慣、支付情況。甚至偷偷入侵了你的手機、銀行賬戶、各種支付手段……長時間的監(jiān)控和數(shù)據(jù)收集，描繪出你的生活圖譜，因此AI對你的行為進行概率推測。

這不但不智能，反而存在道德隱患，甚至可能涉嫌違法犯罪：公民隱私受到法律保護是通例，是誰給了那些社交軟件、購物軟件，甚至輸入法等等窺探、收集、監(jiān)控、利用公民隱私進行牟利的權(quán)利？

而“科技巨擘”們，在利用我們的信息和隱私、獲取超額利潤同時，所提供的“AI”服務(wù)，往往是即無人工，也不智能，它只是極復(fù)雜的程序，大量的數(shù)據(jù)收集。編程者設(shè)定其“一定時限轉(zhuǎn)賬超過限額就凍結(jié)賬號”，AI就執(zhí)行指令，編程者未設(shè)定轉(zhuǎn)賬金額多少，AI當(dāng)然不會思考為何要執(zhí)行指令。

如果有人每天轉(zhuǎn)賬30筆，每筆50萬，確有洗錢嫌疑，當(dāng)然應(yīng)介入調(diào)查。但社交軟件的編程者就給AI設(shè)置數(shù)據(jù)：每天收賬若干紅包，也不管總金額多少，就觸及警報線、凍結(jié)賬號……于是，升斗小民做個小本生意、一天收了幾十個紅包，每個十幾元，“咔”被凍結(jié)。

而升斗小民的投訴過程，是何其艱辛！　面對一道一道又一道機器墻，冰冷的電腦界面、手機界面、AI錄音，而且這些所謂“AI”都被做成“不是專家不會用”的程度，每個問題每拖延一天解決，那些資金的一天利潤，就都進入“科技巨擘”的豪賬，積少成多、聚沙成塔！

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數(shù)據(jù)公式，任何人不過是無數(shù)代碼里的1和0而已。在“科技巨擘”眼中，只有自己的錢，才是真實的、具象的、不可侵犯的；為自己的利益，任何其它事物，甚至他人的生命都可以被犧牲……減少真人客服，而用“AI”將非專家級用戶投訴屏蔽在外，甚至迫使維權(quán)者“知難而退”放棄小額資金追討，這些錢就成了他們的錢了。

如今，Elon Musk又打開了另一個潘多拉魔盒，“腦機接口”在豬身上實驗成功了，如果有一天，用在人身上呢？

如果能向人類大腦寫入程序，也就可以刪除某些記憶、盜取某些信息。那么，掌控人的大腦，就等于掌控了一切。未來世界，會不會發(fā)展到：社會管理權(quán)+執(zhí)法權(quán)+財產(chǎn)權(quán)=AI=“科技巨擘”的意志？　當(dāng)普通公民的權(quán)益受到侵害后，甚至連投訴的意愿都沒有，因為AI通過“腦機接口”刪除或修改了大腦某個扇區(qū)的記憶信息與功能。

這聽起來似乎科幻，但回想過去幾十年：手機、網(wǎng)購、面對“AI”進行投訴、投訴被“AI”拒之門外、腦機接口……不都是聽起來挺科幻的？　不都實現(xiàn)了嗎？

毫無疑問，科技當(dāng)然要發(fā)展，大集團當(dāng)然要獲取超額利潤，“科技巨擘”們當(dāng)然是大象，那么我們怎樣避免成為螞蟻的命運呢？

AI發(fā)展，是標(biāo)志性的，其代表著科技發(fā)展與法治的博弈?？萍及l(fā)展意味著進步和利潤，而法治代表著公正。利益與公正，是人類文明幾千年博弈不休的主題，如今，輪到AI在前臺、“科技巨擘”在其身后唱雙簧演出這場戲，而我們每個人都應(yīng)該好好想想這一命題。

（作者系歷史、軍事學(xué)者）