人工智能的公共安全問題與對策

丁晴

摘 要：人工智能經(jīng)歷了推理、知識工程和數(shù)據(jù)挖掘三個時代，其五大核心技術(shù)是計算機視覺、機器學(xué)習(xí)、自然語言處理、機器人和語音識別。人工智能在公共安全領(lǐng)域存在安全漏洞難以控制、濫用監(jiān)控侵犯隱私、惡意識別價格歧視、虛擬社會任性妄為等問題。論文提出的對策是創(chuàng)新技術(shù)防范風(fēng)險、以人為本保護(hù)隱私、立德樹人算法公正、健全法制加強監(jiān)管。

關(guān)鍵詞：人工智能；公共安全；大數(shù)據(jù)

中圖分類號：DF622 文獻(xiàn)標(biāo)識碼：A

Abstract： Artificial intelligence has gone through three ages： reasoning， knowledge engineering and data mining. Its five core technologies are computer vision， machine learning， natural language processing， robot and speech recognition. In the field of public security， artificial intelligence has many problems， such as security loopholes difficult to control， abuse of surveillance and invasion of privacy， malicious identification and price discrimination， willful behavior in virtual society. The countermeasures proposed in this paper are： innovative technology to guard against risks， people oriented and protect privacy， enhance morality cultivate talents and algorithm justice， improve the legal system and strengthen supervision.

Key words： artificial intelligence； public security； big data

1 引言

當(dāng)前，人工智能技術(shù)蓬勃發(fā)展，推動了我國經(jīng)濟、安防、教育、醫(yī)療、電商零售等領(lǐng)域的應(yīng)用和創(chuàng)新。2017年7月，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》（國發(fā)〔2017〕35號），文中指出“在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，要加強前瞻預(yù)防和約束引導(dǎo)，最大限度地降低風(fēng)險，確保人工智能安全、可靠和可控發(fā)展”。

人工智能是一把雙刃劍，它提高了生產(chǎn)率、降低了勞動成本，但也沖擊勞動力市場、造成大量工人失業(yè)。在一些科幻影視作品中，機器人在智力、體力等方面都遠(yuǎn)超人類，將來還有可能取代人類的地球統(tǒng)治地位。近幾年來，隨著人工智能的普及應(yīng)用，網(wǎng)絡(luò)違法和數(shù)字違法也跟著變得高端起來。一些不法分子利用網(wǎng)絡(luò)、大數(shù)據(jù)、人工智能等技術(shù)從事違法犯罪活動。因此，人工智能的發(fā)展在帶來人類社會福祉的同時，也帶來了諸多公共安全問題。

2 人工智能概述

人工智能并不是指人的智能，而是指制造出能像人一樣進(jìn)行學(xué)習(xí)、思考和勞動的機器的一門科學(xué)技術(shù)。人工智能是將人的智能賦予機器，目的是使機器智能化，使它可以像人一樣進(jìn)行自主地學(xué)習(xí)、思維和判斷等活動，使其可以代替人進(jìn)行勞動、生產(chǎn)和工作，從而可以極大地解放人類[1]。人工智能技術(shù)自從誕生以來，理論研究和技術(shù)產(chǎn)品日益成熟，應(yīng)用領(lǐng)域也在不斷延伸。

2.1 人工智能的發(fā)展歷史和應(yīng)用領(lǐng)域

迄今為止，人工智能的發(fā)展歷史經(jīng)歷了推理、知識工程和數(shù)據(jù)挖掘三個時代[2]。1950年到1969年是人工智能的“推理時代”，著名的英國數(shù)學(xué)家圖靈在1950年10月發(fā)表了論文“機器能思考嗎”，標(biāo)志著人工智能的誕生。1970年到1999年是人工智能的“知識工程時代”，“知識庫+推理機”組合的專家系統(tǒng)得到大量開發(fā)，但此時的專家系統(tǒng)只是一臺執(zhí)行知識庫的工具而已，無法達(dá)到真正的智能水平。2000年至今是人工智能的“數(shù)據(jù)挖掘時代”，由于機器學(xué)習(xí)算法的產(chǎn)生，特別是深度學(xué)習(xí)技術(shù)和大數(shù)據(jù)分析技術(shù)的應(yīng)用，計算機處理數(shù)據(jù)的速度和水平有了大幅度提高，著名的AlphaGo機器人擊敗全球60多位圍棋大師的例子就是人工智能應(yīng)用的一個成功案例。

人工智能是現(xiàn)代科技的發(fā)展方向，目前已應(yīng)用在七大領(lǐng)域。第一個是個人助理領(lǐng)域，例如智能手機語音輸入、家庭陪護(hù)機器人等；第二個是安防領(lǐng)域，例如安保機器人、智能監(jiān)控、智能報警器等；第三個是自駕領(lǐng)域，例如智能汽車、智能導(dǎo)航儀等；第四個是醫(yī)療健康領(lǐng)域，例如健康監(jiān)測診斷設(shè)備、智能醫(yī)療設(shè)備等；第五個是電商零售領(lǐng)域，例如倉儲物流信息、智能導(dǎo)購等；第六個是金融領(lǐng)域，例如金融監(jiān)管、投資顧問、客服機器人等；第七個是教育領(lǐng)域，例如考試測評、個性化輔導(dǎo)、兒童游戲陪伴等。

2.2 人工智能的五大核心技術(shù)

人工智能是計算機應(yīng)用技術(shù)的一個分支，與數(shù)學(xué)、語言學(xué)、云計算、大數(shù)據(jù)、互聯(lián)網(wǎng)、機器學(xué)習(xí)等技術(shù)密切相關(guān)，其五大核心技術(shù)是計算機視覺、機器學(xué)習(xí)、自然語言處理、機器人和語音識別[3]。

計算機視覺是指計算機能夠從圖像中識別出人、物體、環(huán)境和運動的能力，它讀取圖像并產(chǎn)生一系列的數(shù)據(jù)，把圖像分析任務(wù)分解為便于處理的小任務(wù)塊，然后進(jìn)行快速識別。例如，計算機視覺可以從圖像中檢測到人體或物體的輪廓、運動，并用分類技術(shù)確定特征，然后判別是否為一類已知的物體。例如，醫(yī)療成像可用于疾病診斷和治療，人臉識別用來識別圖像中人物是否為正在通輯的犯罪嫌疑人等。

機器學(xué)習(xí)是指計算機無須按照現(xiàn)有程序執(zhí)行，而是僅依靠數(shù)據(jù)來提升自身能力的一種技術(shù)。機器學(xué)習(xí)的核心是從數(shù)據(jù)中主動發(fā)現(xiàn)模式，并用于預(yù)測。例如，機器學(xué)習(xí)系統(tǒng)讀取一批銀行卡轉(zhuǎn)賬的時間、地點、金額、付款人、收款人、取款速度、是否正當(dāng)轉(zhuǎn)賬等數(shù)據(jù)，然后通過自主學(xué)習(xí)產(chǎn)生判別轉(zhuǎn)賬是否正當(dāng)?shù)哪Ｐ停瑥亩膳袆e新的轉(zhuǎn)賬是否為詐騙引起的轉(zhuǎn)賬。提供給機器學(xué)習(xí)的數(shù)據(jù)量越大，判別和預(yù)測的準(zhǔn)確性就越高。除了棋牌對弈、欺詐判別外，機器學(xué)習(xí)還可用于智能銷售預(yù)測、礦藏勘探預(yù)測、公共衛(wèi)生預(yù)警等。

自然語言處理是指計算機擁有人類般的語言和文字處理能力，能夠從語言和文字中提取語義、解讀含義。自然語言處理系統(tǒng)并不清楚人類處理語言和文字的方式，但它可以建立語言文字模型來預(yù)測語義表達(dá)的概率分布，并用多種復(fù)雜的手段快速提取語義。例如，垃圾郵件與正常郵件一樣是由文字、圖像、附件組成，但自然語言處理系統(tǒng)能夠生成郵件分類方法和篩選標(biāo)準(zhǔn)，可識別出哪些郵件是垃圾郵件。

機器人是自動執(zhí)行任務(wù)的機器裝置，它既可以接受人的指揮，也可以獨立主動運行，還可以根據(jù)已預(yù)先制定的原則綱領(lǐng)行動[4]。機器人的任務(wù)就是協(xié)助人類工作，特別是在生產(chǎn)行業(yè)、建筑行業(yè)、軍事領(lǐng)域、消防領(lǐng)域等危險的工作環(huán)境，機器人大有用處。機器人能夠進(jìn)行精確的運動或制動，能夠在各種特殊的環(huán)境執(zhí)行不同的任務(wù)，有能力從事人類無法完成的工作。例如，無人偵查機、消防機器人等。

語音識別技術(shù)是指將輸入的語音信號轉(zhuǎn)化為對應(yīng)的文字或命令的技術(shù)[5]。語音識別關(guān)注的是自動、準(zhǔn)確、快速地轉(zhuǎn)化人類語音為可用信息，它能處理一系列復(fù)雜的問題，包括不同口音、背景噪聲、省略語句等問題，例如，“實施”和“石獅”聽起來是一樣的，但語義不同。得益于目前已擁有的高性能CPU處理速度，語音識別速度已能跟上正常的語音速度。語音識別的應(yīng)用有同聲翻譯、語音導(dǎo)航、聲控家電、機動車違法鳴號的記錄與抓拍等。

3 人工智能的公共安全問題

2017年3月，著名物理學(xué)家霍金在接受英國《泰晤士報》采訪時說“未來可能會出現(xiàn)取自人類基因并改良的人工智能新物種，那時人類將被淘汰。人類需要控制人工智能技術(shù)，防止它未來可能對人類生存帶來威脅?！被艚鸬膿?dān)憂似乎還十分遙遠(yuǎn)，但目前確實存在人工智能的公共安全問題。

3.1 安全漏洞、難以控制

正如“漏洞亡羊”“野馬脫韁”，如果人工智能存在安全漏洞，那么就可能引起損失或災(zāi)難，甚至?xí)衩擁\的野馬一樣難以控制。近年來，一些不法分子利用網(wǎng)絡(luò)、大數(shù)據(jù)、人工智能等技術(shù)從事違法犯罪活動的現(xiàn)象時有發(fā)生，還有一些懷有惡意的黑客制作病毒軟件、利用網(wǎng)絡(luò)傳播、破壞電腦系統(tǒng)、敲詐勒索錢財。電信詐騙就是一種通過電話或網(wǎng)絡(luò)實施詐騙的違法行為。電信詐騙分子需要編造虛假信息，才能誘騙受害人給他匯款轉(zhuǎn)賬。一旦電信詐騙分子掌握人工智能的安全漏洞，就會省去編造和誘騙的環(huán)節(jié)，直接獲取受害人賬戶密碼，然后利用ATM機或網(wǎng)上銀行非法轉(zhuǎn)賬，危害更大。

無人駕駛汽車也被稱為輪式移動機器人，是一種新型的智能汽車。它通過安裝在車輛內(nèi)的智能操控系統(tǒng)與感應(yīng)設(shè)備來獲取路況信息，并用以控制車輛姿態(tài)，可以實現(xiàn)全自動的安全行駛[6]。目前，無人駕駛汽車正從實驗室走向商業(yè)化，一旦車內(nèi)智能操控系統(tǒng)被黑客利用，這輛智能汽車就真的變成了“脫韁野馬”，對道路上的行人和車輛內(nèi)的乘客生命安全都會構(gòu)成威協(xié)。

3.2 濫用監(jiān)控、侵犯隱私

無論是國內(nèi)還是國外，視頻監(jiān)控系統(tǒng)都被國家安全部門用于公共安全防范。當(dāng)前，城鎮(zhèn)街面和公共場所普遍安裝了視頻監(jiān)控系統(tǒng)，這為公安機關(guān)發(fā)現(xiàn)違法、偵破案件和震懾犯罪發(fā)揮了積極作用。但隨著監(jiān)控設(shè)備的價格下降，公民個人和公司隨意安裝監(jiān)控探頭的現(xiàn)象很常見。如果監(jiān)控設(shè)備被濫用或盜用，則會成為侵害公民隱私的工具。例如，某公司總經(jīng)理在女廁所安裝針孔攝像頭，對女員工上廁所的過程進(jìn)行偷窺；某男性房東在出租屋的衛(wèi)生間安裝監(jiān)控探頭，長期偷拍女房客洗澡。

隨著智能手機的普及，出現(xiàn)了視頻監(jiān)控全球共享和實時直播的App軟件。很多公民在不知不覺中自己出入醫(yī)院、銀行或電影院等行為被全球直播。一些居民出于防盜目的，在家庭室內(nèi)安裝聯(lián)網(wǎng)的視頻監(jiān)控設(shè)備，卻不更改初始密碼或設(shè)置弱密碼；由于攝錄的視頻文件會自動保存在互聯(lián)網(wǎng)上的云端服務(wù)器中，所以一旦有黑客盜取其賬號，則居民在室內(nèi)的說話語音、行為視頻等隱私就會被其竊取。

3.3 惡意識別、價格歧視

人工智能時代的到來，給人們的生活和消費帶來了不少驚喜，但也出現(xiàn)了“捆綁服務(wù)”“差別定價”“大數(shù)據(jù)殺熟”等敏感字眼。電子商務(wù)的經(jīng)營者利用人工智能和大數(shù)據(jù)技術(shù)，能夠根據(jù)消費者的常購物品、常去場所等數(shù)據(jù)分析出消費者的興趣愛好、付款習(xí)慣、是否為病人或孕婦等信息。如果經(jīng)營者識別出消費者是一個對付款不加思索的“傻冒”、或是一個不得不乘坐出租車或網(wǎng)約車的病人或孕婦，就會生成高于正常價格的消費清單，這樣就構(gòu)成了價格歧視。

人工智能和大數(shù)據(jù)如果被經(jīng)營者不當(dāng)使用，將嚴(yán)重?fù)p害消費者權(quán)益，而消費者渾然不知。相對于傳統(tǒng)的經(jīng)營模式，人工智能和大數(shù)據(jù)環(huán)境下的價格歧視表現(xiàn)為經(jīng)營范圍更寬泛、價格歧視更隱蔽、市場劃分更精準(zhǔn)等特征[7]。這種電子商務(wù)采用惡意識別、價格歧視經(jīng)營方式的本質(zhì)，就是經(jīng)營者實施商業(yè)欺詐的行為、就是違反《消費者權(quán)益保護(hù)法》的行為。

3.4 虛擬社會、任性妄為

虛擬社會是在互聯(lián)網(wǎng)基礎(chǔ)上產(chǎn)生的虛擬空間，網(wǎng)絡(luò)用戶在虛擬認(rèn)識、虛擬實踐和虛擬交往基礎(chǔ)上形成的各種虛擬的人化場域[8]。我國是全球網(wǎng)民數(shù)量最多的國家，沉迷于網(wǎng)絡(luò)聊天、虛擬游戲的網(wǎng)民數(shù)量十分龐大。絕大多數(shù)網(wǎng)民是愛國守法的，但總有少數(shù)不良網(wǎng)民嗜好在互聯(lián)網(wǎng)上造謠誹謗、尋釁滋事，沖擊公眾道德底線，擾亂現(xiàn)實社會正常秩序。

2014年4月，秦志暉（網(wǎng)名“秦火火”）的網(wǎng)絡(luò)誹謗和網(wǎng)絡(luò)尋釁滋事案在北京市朝陽區(qū)人民法院宣判。秦志暉被判處誹謗罪有期徒刑二年、尋釁滋事罪有期徒刑一年零六個月，合并執(zhí)行有期徒刑三年[9]?；ヂ?lián)網(wǎng)和人工智能構(gòu)建的虛擬社會本質(zhì)上是現(xiàn)實社會的延續(xù)和拓展，在虛擬社會里任性妄為的行為一旦觸犯法律，必將受到追究。