科幻對(duì)人工智能發(fā)展的影響與未來(lái)策略

陸 金

（上海啄一智能科技有限公司，上海226000）

1 科幻對(duì)人工智能發(fā)展的影響

1．1 科幻促進(jìn)人工智能發(fā)展

在人類文明的發(fā)展過(guò)程中，許多新時(shí)代都是由異想天開的思想開啟的，瓦特的想象力造就了蒸汽機(jī)，諾依曼的想象力使計(jì)算機(jī)成為現(xiàn)實(shí)，在一些領(lǐng)域，想象力引導(dǎo)了人類的發(fā)展?？苹檬腔谌祟悓?duì)未來(lái)社會(huì)生活和科技的想象，給人豐富的想象力和對(duì)未來(lái)的憧憬，科幻電影中勾勒出了很多關(guān)于人類科技的未來(lái)發(fā)展和生活場(chǎng)景，在想象與愿景共同驅(qū)動(dòng)下，許多原本以為不可能的事情正在成為可能?？苹秒娪半m然以科學(xué)為基礎(chǔ)，但完全不受現(xiàn)實(shí)世界的限制，其中，人工智能是大多數(shù)科幻電影中最典型、最常見(jiàn)的表現(xiàn)形式之一。通過(guò)一些超現(xiàn)實(shí)的夢(mèng)境和人們對(duì)未來(lái)社會(huì)美好生活的愿景，對(duì)科技時(shí)代提出最大膽、最具創(chuàng)新性的想法，許多現(xiàn)實(shí)世界的技術(shù)都是受到科幻電影的啟發(fā)，麥卡賽、明斯基等科學(xué)家最先開始探究機(jī)器智能，從而提出“人工智能”概念，經(jīng)過(guò)科技工作者們不斷創(chuàng)新實(shí)踐，將科幻成為可能，從而促進(jìn)人工智能發(fā)展。

1.2 人工智能的未來(lái)屬性

人工智能是科幻電影最重要的元素之一，從1927年第一部科幻電影《大都會(huì)》開始，科幻電影中人工智能的未來(lái)屬性一直在不斷演繹。科幻電影從技術(shù)創(chuàng)新、生活方式和人文價(jià)值三個(gè)屬性來(lái)刻畫未來(lái)人工智能?！缎乔虼髴?zhàn)5》中的技術(shù)創(chuàng)新成為主要特征，典型案例是通過(guò)意念控制機(jī)械假肢，最初是為電影戰(zhàn)爭(zhēng)場(chǎng)面中致殘軍人使用，后來(lái)發(fā)展成用于治療手臂喪失病人的健康醫(yī)療產(chǎn)品?！痘氐轿磥?lái)第二部》中呈現(xiàn)了許多技術(shù)變革的未來(lái)生活方式，人們可以通過(guò)視頻傳輸遠(yuǎn)程交流，電子支付在商業(yè)活動(dòng)中應(yīng)用、智能出行等，這些場(chǎng)景在現(xiàn)今生活中得到廣泛應(yīng)用?！稒C(jī)器管家》通過(guò)一個(gè)名叫安德魯?shù)臋C(jī)器人的故事，關(guān)注人與機(jī)器人之間的情感交流，表現(xiàn)未來(lái)社會(huì)的人文價(jià)值與倫理道德特征。

1.3 人工智能的應(yīng)用場(chǎng)景

科幻對(duì)人工智能的發(fā)展起了推動(dòng)作用，人工智能對(duì)生產(chǎn)結(jié)構(gòu)和生產(chǎn)關(guān)系產(chǎn)生了顛覆性的變化和影響。受科幻啟發(fā)，人工智能工程師和工業(yè)產(chǎn)品設(shè)計(jì)師進(jìn)行了大量實(shí)驗(yàn)和技術(shù)創(chuàng)新，發(fā)展了人工智能技術(shù)，使過(guò)去科幻電影中的愿景得以實(shí)現(xiàn)。[1]如今，科幻電影中展現(xiàn)的人機(jī)對(duì)話、機(jī)器大腦程序行為控制都得到了實(shí)現(xiàn)和廣泛應(yīng)用。在人工智能技術(shù)發(fā)展的背景下，工業(yè)產(chǎn)品設(shè)計(jì)與人工智能技術(shù)的有機(jī)結(jié)合，將算法、信息處理、語(yǔ)言控制應(yīng)用、圖像識(shí)別、視頻與行為分析等技術(shù)融合發(fā)展，通過(guò)工業(yè)產(chǎn)品設(shè)計(jì)，將人工智能技術(shù)更好的轉(zhuǎn)化應(yīng)用，使產(chǎn)品在功能、外觀、人機(jī)交互等方面更加貼合用戶需求。機(jī)器能夠感知、理解、學(xué)習(xí)和行動(dòng)，并參與人類活動(dòng)，人工智能作為一種新的生產(chǎn)要素，推動(dòng)社會(huì)發(fā)展，改變?nèi)藗兊纳罘绞絒2]。

2 人工智能所引發(fā)的負(fù)面問(wèn)題

人工智能將改變?nèi)祟惖墓ぷ髋c生活環(huán)境，對(duì)人類社會(huì)產(chǎn)生十分重大影響。人工智能可以把人類從繁重的勞動(dòng)中解放出來(lái)，形成新的社會(huì)生產(chǎn)力，推動(dòng)社會(huì)發(fā)展，增進(jìn)人類幸福，促進(jìn)社會(huì)進(jìn)步，但也可以產(chǎn)生負(fù)面影響，給人類帶來(lái)諸多風(fēng)險(xiǎn)和嚴(yán)峻挑戰(zhàn)，人們開始對(duì)未來(lái)人工智能與人類關(guān)系產(chǎn)生憂慮。

2.1 人工智能引發(fā)的社會(huì)問(wèn)題

人工智能提供各種專業(yè)服務(wù)，修復(fù)受傷人類的肢體，甚至給人們帶來(lái)“永生”。未來(lái)的某一天，當(dāng)人工智能已經(jīng)足夠強(qiáng)大，完全可以勝任人類工作時(shí)，人類就可以解放雙手了，航天機(jī)器人用于空間科學(xué)實(shí)驗(yàn)，海天探測(cè)機(jī)器人用于完成深海救援，工業(yè)機(jī)器人代替工人進(jìn)行重型裝配等，這看起來(lái)是一個(gè)很棒的畫面。機(jī)器大規(guī)模替代人類生產(chǎn)的同時(shí)，隨之可能引發(fā)一系列社會(huì)問(wèn)題，導(dǎo)致人的行為與生產(chǎn)能力下降，出現(xiàn)勞務(wù)就業(yè)、社會(huì)結(jié)構(gòu)變化、思維方式與觀念的變化、法律、倫理道德、心理威脅和技術(shù)失控危險(xiǎn)等問(wèn)題。導(dǎo)致人類社會(huì)責(zé)任感缺失，人機(jī)共生的環(huán)境資源再分配，人反受于機(jī)器控制，社會(huì)秩序混亂，社會(huì)平衡被打破。

2.2 技術(shù)安全與控制

高科技發(fā)展到一定階段，面臨著人對(duì)機(jī)器的失控，機(jī)器的智慧可能超過(guò)人類而威脅人類安全的風(fēng)險(xiǎn)。技術(shù)一旦失去控制，機(jī)器利用技術(shù)手段實(shí)施反人類犯罪，將對(duì)人類社會(huì)的安全造成巨大影響。目前還沒(méi)有創(chuàng)造出能夠讓機(jī)器完全識(shí)別與遵循服務(wù)人類的可控制軟件，使機(jī)器有足夠的可控保障，確保長(zhǎng)期遵守人所期望的規(guī)則。

2.3 算法識(shí)別與歧視

算法是客觀的數(shù)學(xué)表達(dá)式，但算法也有判別執(zhí)行力問(wèn)題，數(shù)據(jù)的完整性和精度會(huì)影響整個(gè)算法的有效性。需要人工智能程序設(shè)計(jì)者通過(guò)算法決策，找到造成歧視的根本原因，在技術(shù)領(lǐng)域盡量避免算法歧視。通過(guò)算法模型，預(yù)測(cè)未來(lái)的趨勢(shì)，讓算法歧視可以通過(guò)自我學(xué)習(xí)、適應(yīng)和進(jìn)步來(lái)改進(jìn)，糾正歧視[3]。

2.4 數(shù)據(jù)隱私與保護(hù)

AI系統(tǒng)需要數(shù)據(jù)為算法服務(wù)，數(shù)據(jù)用來(lái)消費(fèi)，服務(wù)器和存儲(chǔ)設(shè)備之間的數(shù)據(jù)交互過(guò)程中可能會(huì)導(dǎo)致個(gè)人數(shù)據(jù)的控制、管理和隱私保護(hù)問(wèn)題。電話號(hào)碼、身份信息、家庭住址、身體健康、個(gè)人財(cái)產(chǎn)等數(shù)據(jù)可能會(huì)被惡意使用，對(duì)個(gè)人隱私造成嚴(yán)重影響。未來(lái)的人工智能時(shí)代，必須建立產(chǎn)品設(shè)計(jì)數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)，如計(jì)劃隱私、默認(rèn)隱私、個(gè)人數(shù)據(jù)管理工具、匿名化、差異化隱私、決策矩陣等[4]。

3 降低未來(lái)社會(huì)風(fēng)險(xiǎn)點(diǎn)的策略

人工智能技術(shù)的發(fā)展給人類帶來(lái)便利，但需要謹(jǐn)慎地對(duì)待智能機(jī)器發(fā)展過(guò)程中可能出現(xiàn)的問(wèn)題，政府部門、技術(shù)研發(fā)和產(chǎn)品設(shè)計(jì)人員都要把人工智能出現(xiàn)的負(fù)面效應(yīng)問(wèn)題納入研究計(jì)劃，采取科學(xué)的解決對(duì)策與辦法，有條件的限制人工智能技術(shù)的發(fā)展，重新建立法律制度、社會(huì)行為規(guī)范，讓人工智能真正有序地服務(wù)于人類社會(huì)，降低未來(lái)社會(huì)風(fēng)險(xiǎn)點(diǎn)。

3.1 政府部門界定未來(lái)社會(huì)生態(tài)治理標(biāo)準(zhǔn)

人工智能工程師和工業(yè)產(chǎn)品設(shè)計(jì)師以科幻場(chǎng)景為靈感，開發(fā)人工智能技術(shù)，使AI技術(shù)造福于人。當(dāng)人工智能技術(shù)發(fā)展到一定階段時(shí)，可能會(huì)帶來(lái)新的問(wèn)題，如倫理原則缺失、政策法規(guī)混亂、社會(huì)文化變遷等。從哲學(xué)、倫理學(xué)、法律學(xué)、社會(huì)學(xué)的角度去思考未來(lái)人工智能場(chǎng)景的新情況，政府應(yīng)重新規(guī)劃和修改法律法規(guī)，建立人工智能技術(shù)標(biāo)準(zhǔn)審查制度，設(shè)立專門的人工智能產(chǎn)品審批技術(shù)監(jiān)督部門，規(guī)范人機(jī)共存社會(huì)生活環(huán)境下的行為體系，維護(hù)社會(huì)公共秩序。通過(guò)建立社會(huì)新的制度體系，重新界定社會(huì)公共道德標(biāo)準(zhǔn)，以新的人權(quán)、責(zé)任、倫理標(biāo)準(zhǔn)來(lái)保證人與機(jī)器友好相處。

3.2 工程技術(shù)人員優(yōu)化算法安全解決方案

在科幻電影中，因計(jì)算機(jī)程序故障或錯(cuò)誤命令而失去對(duì)機(jī)器的控制，發(fā)生毀滅性災(zāi)難的場(chǎng)景給了人們警示。為了讓人類開發(fā)的人工智能技術(shù)更好地服務(wù)于未來(lái)的生活環(huán)境，防止機(jī)器思維和行為失控，威脅到人類安全，程序員需要實(shí)現(xiàn)對(duì)算法的控制和保護(hù)，研究如何有效控制機(jī)器設(shè)備的思維，讓機(jī)器服從人的指令，從根本上解決衍生問(wèn)題，避免人工智能的叛逆和風(fēng)險(xiǎn)。

建立技術(shù)風(fēng)險(xiǎn)評(píng)估體系，嚴(yán)格遵守技術(shù)標(biāo)準(zhǔn)和倫理原則，預(yù)測(cè)設(shè)計(jì)目標(biāo)的可行性。程序算法經(jīng)過(guò)全真模擬實(shí)驗(yàn)測(cè)試和風(fēng)險(xiǎn)評(píng)估。執(zhí)行數(shù)據(jù)控制和管理有效性原則，以防止風(fēng)險(xiǎn)事件的發(fā)生。建立隱性風(fēng)險(xiǎn)事件預(yù)警處理閉環(huán)響應(yīng)機(jī)制，延遲或阻止風(fēng)險(xiǎn)事件的發(fā)生。

3.3 產(chǎn)品設(shè)計(jì)人員提供友好人機(jī)交互策略

產(chǎn)品設(shè)計(jì)人員使用模型技術(shù)來(lái)縮短產(chǎn)品開發(fā)周期，面對(duì)未來(lái)社會(huì)、經(jīng)濟(jì)、倫理和文化發(fā)展的需求，產(chǎn)品設(shè)計(jì)需要更友好的人機(jī)交互策略，將技術(shù)、材料、工藝、性能和人機(jī)交互界面高度融合，讓機(jī)器產(chǎn)品更多的模仿人的特征。以人類活動(dòng)參數(shù)的特性為標(biāo)準(zhǔn)，產(chǎn)品的行為設(shè)計(jì)應(yīng)符合人類視覺(jué)、聽覺(jué)、觸覺(jué)和皮膚感覺(jué)的功能特性，優(yōu)化產(chǎn)品的人機(jī)界面，通過(guò)反復(fù)修正目標(biāo)參數(shù)來(lái)改善設(shè)計(jì)缺陷，使機(jī)器產(chǎn)品更適應(yīng)人的生理和心理習(xí)慣，交互界面必須保證道德、數(shù)據(jù)、信息控制等安全可靠，尤其要考慮如何編制友好的智能行為標(biāo)準(zhǔn)來(lái)保證機(jī)器按照倫理道德標(biāo)準(zhǔn)行事，提高產(chǎn)品的人機(jī)交互效果。

4 人機(jī)友好共生場(chǎng)景展望

4．1 人工智能廣泛應(yīng)用

未來(lái)，人工智能將廣泛應(yīng)用于制造、家居、金融、零售、交通、安防、醫(yī)療、物流、教育等領(lǐng)域。在未來(lái)的場(chǎng)景中，無(wú)人駕駛汽車和無(wú)人機(jī)可以在日常交通中看到，機(jī)器人在專用道路上行走，機(jī)器警察巡邏可以監(jiān)控潛在的犯罪行為，商場(chǎng)、醫(yī)院等公共場(chǎng)所用機(jī)器代替人的工作。家中所有的生活用品都能智能互聯(lián)，人們通過(guò)機(jī)器人的語(yǔ)音控制實(shí)現(xiàn)各種功能。

4.2 人與機(jī)器和諧共處

在未來(lái)的人工智能時(shí)代，法律責(zé)任的對(duì)象不僅限于人，還包括人與機(jī)器共存的社會(huì)關(guān)系。重新修正社會(huì)屬性規(guī)則，AI人員在設(shè)計(jì)時(shí)要考慮“黑匣子”的存在，確保機(jī)器人的權(quán)利與義務(wù)。機(jī)器人是人工智能高度發(fā)展的產(chǎn)物，其價(jià)值越來(lái)越強(qiáng)大。機(jī)器人具有人類的一些特征，但與自然人不同，又不同于動(dòng)物，它可以創(chuàng)造價(jià)值，是人類賴以生存的朋友。人類必須讓機(jī)器享有與人類同等的權(quán)利和待遇，賦予智能機(jī)器人“電子人”等法人資格，讓其擁有行為權(quán)利和義務(wù)，保護(hù)機(jī)器的生命和權(quán)利，在社會(huì)倫理的框架下，人與機(jī)器可以和諧共處[5]。

4.3 智能時(shí)代文明發(fā)展

未來(lái)，機(jī)器人、無(wú)人機(jī)、人機(jī)對(duì)話、行為控制、機(jī)器大腦等高度智能的機(jī)器代替人類日?，嵤?，許多人的勞動(dòng)被機(jī)器取代，社會(huì)財(cái)富和閑暇時(shí)間大幅增加，人們將大量時(shí)間花在健身、娛樂(lè)和購(gòu)物上。正如科幻電影中所見(jiàn)，在未來(lái)的人工智能時(shí)代，機(jī)器擁有自主意識(shí)，具有創(chuàng)造力、情感和自我發(fā)布?？梢阅７律踔脸饺祟愒谌宋?、藝術(shù)和美學(xué)等方面的感性，人工智能對(duì)人類有獨(dú)立的思想。智能機(jī)器可以感知、理解、學(xué)習(xí)、行動(dòng)，參與人類活動(dòng)，促進(jìn)社會(huì)向更高的文明發(fā)展。

5 人工智能時(shí)代的未來(lái)思考

在當(dāng)前的認(rèn)知和技術(shù)水平下，人類無(wú)法感知未來(lái)人工智能的全部場(chǎng)景。在科幻背后能看到什么？這就需要人類從科幻中挖掘更深層次的東西，除了情節(jié)和場(chǎng)景，現(xiàn)代科幻給人類帶來(lái)更多的是對(duì)未來(lái)思考。

（1）人類該不該讓機(jī)器人完全取代人類的勞動(dòng)？勞動(dòng)對(duì)人類文明有什么影響？

（2）當(dāng)人工智能發(fā)展到自我反省水平時(shí)，機(jī)器是否會(huì)脫離人類的控制，成為獨(dú)立的群體？甚至反過(guò)來(lái)控制人類？

（3）出現(xiàn)安全問(wèn)題時(shí)，誰(shuí)來(lái)?yè)?dān)責(zé)？機(jī)器還是程序員？怎樣防止這種情況發(fā)生？

（4）當(dāng)人工智能有了類人的情感時(shí)，是否應(yīng)該平等對(duì)待機(jī)器新物種？如何用法律約束？

科幻在技術(shù)和倫理方面引發(fā)了對(duì)未來(lái)的思考，通過(guò)破解這些偉大的科幻問(wèn)題，或許可以避免一個(gè)糟糕的未來(lái)。如何用先進(jìn)的技術(shù)和優(yōu)秀的產(chǎn)品為人類服務(wù)，將是人工智能工程師和產(chǎn)品設(shè)計(jì)師研究的課題。