人工智能的風(fēng)險(xiǎn)及其防范

楊丁+張登翔+蔣太平+冉闖闖+謝佳訊

摘 要： 高科技在社會(huì)生活中廣泛應(yīng)用時(shí)，帶來了很多科技紅利，但是也出現(xiàn)了一些風(fēng)險(xiǎn)。本文主要討論最近發(fā)展勢(shì)頭很猛的人工智能。討論人工智能在倫理、就業(yè)、安全等方面可能帶來的風(fēng)險(xiǎn)，以及防范措施。

關(guān)鍵詞：高科技；人工智能；倫理治理；系統(tǒng)安全；自反性；失業(yè)補(bǔ)償；

1 引言

近年人工智能出現(xiàn)了第三次發(fā)展高潮，這次高潮因?yàn)楫?dāng)前的硬件實(shí)力、算法和數(shù)據(jù)等技術(shù)的原因，被認(rèn)為是區(qū)別與以往的高潮。當(dāng)前強(qiáng)大的硬件基礎(chǔ)、海量數(shù)據(jù)和先進(jìn)的算法為人工智能賦予了強(qiáng)大的動(dòng)力。

強(qiáng)大的動(dòng)力，使得人工智能滲透到很多的社會(huì)領(lǐng)域，我們?cè)谙硎芩鼛淼目萍技t利的同時(shí)，也必將受到一些負(fù)面影響。本文將會(huì)討論人工智能可能帶來的負(fù)面影響，以及對(duì)應(yīng)的解決措施。

2人工智能

人工智能，也就是機(jī)器智能，一般指人為制造出來的機(jī)器所表現(xiàn)出來的智能。他的核心為機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)可以分為監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)。當(dāng)用標(biāo)記好的數(shù)據(jù)進(jìn)行模型訓(xùn)練時(shí)，為監(jiān)督學(xué)習(xí)。當(dāng)用未標(biāo)記好的數(shù)據(jù)進(jìn)行模型訓(xùn)練時(shí)，為無監(jiān)督訓(xùn)練。監(jiān)督學(xué)習(xí)的識(shí)別率一般都比較好，但是獲取標(biāo)記好的數(shù)據(jù)比較難，需要較高的代價(jià)才能獲得。無監(jiān)督學(xué)習(xí)可以不使用標(biāo)記數(shù)據(jù)，但是學(xué)習(xí)效率低和識(shí)別率低。

目前最受關(guān)注的機(jī)器學(xué)習(xí)算法為，福島教授提出來的卷積神經(jīng)網(wǎng)絡(luò)。該算法是監(jiān)督學(xué)習(xí)下的機(jī)器學(xué)習(xí)。此外，深度學(xué)習(xí)的概念來源于人工神經(jīng)網(wǎng)絡(luò)，常見的深度學(xué)習(xí)算法包括：受 限波爾茲曼機(jī)，卷積網(wǎng)絡(luò)，堆棧式自動(dòng)編碼器。

3 人工智能帶來的問題以及解決措施

3.1人工智能系統(tǒng)的安全問題

人工智能系統(tǒng)包括了，智能硬件、移動(dòng)應(yīng)用端和云端。首先從技術(shù)層面來說，智能硬件的體型普片偏小，所帶資源較少。出于功耗的考慮，智能硬件的加密手段變的比較死板單一。其次，智能硬件的固件難以升級(jí)，一旦固件上出現(xiàn)漏洞，就很難對(duì)其進(jìn)行維修只能將設(shè)備進(jìn)行更換，這在成本和安全上都很是不利。在移動(dòng)應(yīng)用端上，也存在這一些問題，移動(dòng)端的防守能力普片偏弱，存在這很多的顯露出來的或者隱藏這的漏洞。如果不法分子利用了這些漏洞，則可能給用戶帶來慘痛的后果。云端和應(yīng)用端也有類似的問題，服務(wù)器上或多或少的存在一些漏洞。

3.1.1人工智能系統(tǒng)安全問題的解決方案

（1）面對(duì)智能硬件的安全問題，我們可以從生產(chǎn)廠層面上保障智能硬件的安全，比如可以在智能硬件中加入FPGA（現(xiàn)場(chǎng)可編程門陣列），在上面存入加密協(xié)議和固件。當(dāng)加密協(xié)議被破解或固件出現(xiàn)漏洞時(shí)，實(shí)時(shí)的更新FPGA上的機(jī)密協(xié)議和固件就可以了。雖然這樣子會(huì)增加成本但是安全有了更大的保障。

（2）建立人工智能系統(tǒng)的安全評(píng)估與認(rèn)證制度。設(shè)定出比較統(tǒng)一化的安全等級(jí)評(píng)價(jià)標(biāo)準(zhǔn)，對(duì)不同的領(lǐng)域給予適合他不同的安全等級(jí)要求。對(duì)于直接影響生命安全的人工智能應(yīng)用，給予比較高的安全等級(jí)要求，如智能駕駛。當(dāng)然對(duì)于一些不太影響大眾的人工智能應(yīng)用，可以適當(dāng)?shù)姆艑捯螅悦庖种屏思夹g(shù)創(chuàng)新。總體來說，隨著人工智能領(lǐng)域的安全評(píng)估和認(rèn)證制度的出現(xiàn)，人工智能系統(tǒng)的良品率將會(huì)上升。

（3） 建立安全威脅監(jiān)察制度，讓硬件生產(chǎn)商、相關(guān)從業(yè)者、使用者一起監(jiān)察人工智能系統(tǒng)的安全漏洞，一旦發(fā)現(xiàn)安全漏洞就即時(shí)上報(bào)。確保人工智能系統(tǒng)在生命周期內(nèi)的正常工作。

（4） 建立行業(yè)自制制度，促進(jìn)行業(yè)內(nèi)同行的信息共享。比如，建立白名單，凸顯出高質(zhì)量的供應(yīng)商和制造商。也可以建立方案解決庫(kù)，當(dāng)出現(xiàn)了已經(jīng)出現(xiàn)了的問題后，可以直接從方案解決庫(kù)中，找到解決方法，快速的解決問題。

（5）建立響應(yīng)機(jī)制，建立專門的技術(shù)團(tuán)隊(duì)，當(dāng)出現(xiàn)問題時(shí)，以最快的速度解決問題。

（6）建立明確的責(zé)任制，我們可以將責(zé)任細(xì)化到產(chǎn)業(yè)鏈的每一個(gè)節(jié)點(diǎn)上。

3.2失業(yè)問題

人工智能的高速發(fā)展，會(huì)對(duì)未來的就業(yè)結(jié)構(gòu)帶來很大的影響。未來的社會(huì)生產(chǎn)活動(dòng)可能只是由機(jī)器人、少數(shù)的從業(yè)者和人工智能來完成。這會(huì)讓很多人失業(yè)，而這些失業(yè)者將會(huì)變成社會(huì)中動(dòng)蕩不安的因素。如何應(yīng)對(duì)這些失業(yè)者，也是人工智能需要面對(duì)的問題。

3.2.1人工智能帶來的失業(yè)問題的解決方案

人工智能帶來的失業(yè)問題，可以由多個(gè)方法進(jìn)行協(xié)同解決。第一個(gè)方法就是，提高高收入人群的征稅比例，用以彌補(bǔ)和緩解高收入人群和低收入人群的差距。第二個(gè)方法就是，向人工智能和機(jī)器人進(jìn)行征稅，對(duì)其征收智能稅。通過提高人工智能的使用成本來緩解機(jī)器人的使用速度，為人類帶來一定的緩沖時(shí)間。

對(duì)于失業(yè)者而言，隨著人工智能稅和高收入群體征稅比例的增高，相應(yīng)的福利措施，將會(huì)保持他們的基本生活。如果失業(yè)者對(duì)此不滿足，他們應(yīng)該至少還有兩個(gè)選擇。選擇一是，進(jìn)行學(xué)習(xí)，努力提高和拓寬自己的知識(shí)面和知識(shí)能力，從而進(jìn)入到人工智能相關(guān)的工作崗位。從而再次拿到工資。當(dāng)然這對(duì)個(gè)人的要求很高，要有較好的毅力和智商。對(duì)于無法二次就業(yè)的人，可以讓這些人員通過心靈的調(diào)適，追求更加純粹的人的價(jià)值和心靈的安靜。

3.3 人工智能的隱私問題

人工智能的智能化，往往需要海量的數(shù)據(jù)。這也就代表這人工智能應(yīng)用必然隱藏這隱私侵犯風(fēng)險(xiǎn)。比如，隨著各種數(shù)據(jù)采集器的出現(xiàn)，智能系統(tǒng)獲取到了越來越多的人體信息和人體行為信息，人工智能變的比你自身還要更了解自己。除了采集人體信息外，人工智能也可能進(jìn)行知識(shí)的抽取。例如，人工智能可以整合你這個(gè)人的網(wǎng)頁(yè)瀏覽記錄、購(gòu)物記錄、旅行記錄。從中整合出你個(gè)人的行為軌跡和個(gè)人偏好和習(xí)慣，從而推測(cè)出你未來的行為。這些數(shù)據(jù)應(yīng)用的合理合法會(huì)大幅度的提高人類的生活質(zhì)量，但是如果用于非法的事情，這可能也會(huì)帶來災(zāi)難性的后果。

3.3.1人工智能隱私問題的解決方案

對(duì)于人工智能的智能化帶來的隱私問題，可以通過法律手段進(jìn)行解決。開展立法研究，建立適應(yīng)智能化時(shí)代的法律法規(guī)。也可以建立相關(guān)的行業(yè)標(biāo)準(zhǔn)，使行業(yè)變的更加規(guī)范和標(biāo)準(zhǔn)化。此外，也可以建立相關(guān)的監(jiān)察機(jī)智，一旦發(fā)現(xiàn)違規(guī)操作就進(jìn)行相應(yīng)的處理。

4總結(jié)

隨著人工智能時(shí)代的到來，科技紅利隨之而來，但是問題也隨著而來。我們需要通過適當(dāng)?shù)姆椒?，來處理隨著而來的人工智能倫理問題、人工智能安全問題、人工智能泄露隱私的問題、人工智能帶來的失業(yè)問題。我們需要未雨綢繆，提前想好這些問題的解決方案，這樣子在問題出現(xiàn)后，才能使得問題的影響限制在一定程度內(nèi)，使得社會(huì)更加穩(wěn)定。當(dāng)然，現(xiàn)階段思考出來的方案也不見得完全適合未來，畢竟未來是充滿了變數(shù)的，當(dāng)問題出來后，各種方案需要隨著當(dāng)時(shí)的情況實(shí)時(shí)的進(jìn)行更新。

參考文獻(xiàn)：

[1]吳沈括，羅瑾裕.人工智能安全的法律治理：圍繞系統(tǒng)安全的檢視[J/OL].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2018（04）：1-9[2018-01-10].

[2] 杜嚴(yán)勇.論人工智能的自反性倫理治理[J/OL].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2018（02）：1-9[2018-01-10].

[3] 柴艷萍. 當(dāng)前中國(guó)倫理治理的研究現(xiàn)狀與未來趨勢(shì)--中國(guó)倫理學(xué)會(huì)第八次全國(guó)會(huì)員代表大會(huì)暨學(xué)術(shù)討論會(huì)綜述[J]. 中州學(xué)刊， 2013， 2013（11）：97-100.