生成式人工智能 以人為本，智能向善

隨著ChatGPT、Sora、自動(dòng)駕駛等前沿技術(shù)走進(jìn)公眾視野，理論概念轉(zhuǎn)換為實(shí)際生產(chǎn)生活的推動(dòng)力，成為動(dòng)動(dòng)手指就能直接觸達(dá)的高科技，服務(wù)人們的日常生活和工作。人工智能技術(shù)日新月異，為各行各業(yè)提質(zhì)賦能，成為全民熱議的話題。很多人已經(jīng)體驗(yàn)過人工智能的高效與便利，但仍對(duì)此一知半解。黨的二十屆三中全會(huì)指出，完善生成式人工智能發(fā)展和管理機(jī)制。對(duì)此，本刊特邀安徽大學(xué)黨委副書記、校長(zhǎng)，安徽省科學(xué)技術(shù)協(xié)會(huì)副主席孫長(zhǎng)銀進(jìn)行解讀。

記者：按照基礎(chǔ)模型劃分，人工智能主要有兩大類：決策式AI和生成式AI。黨的二十屆三中全會(huì)通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》為什么要特別強(qiáng)調(diào)“生成式人工智能”？

孫長(zhǎng)銀：生成式人工智能是基于機(jī)器學(xué)習(xí)技術(shù)，通過對(duì)大量數(shù)據(jù)的學(xué)習(xí)來生成新的數(shù)據(jù)和內(nèi)容的人工智能技術(shù)或系統(tǒng)。從內(nèi)容生成的角度來說，以前的內(nèi)容生成方式是專業(yè)工作者經(jīng)過專業(yè)采編、撰寫和發(fā)布生成的內(nèi)容（例如書籍、新聞和報(bào)紙）；到了移動(dòng)互聯(lián)網(wǎng)時(shí)代，用戶生成內(nèi)容（例如互聯(lián)網(wǎng)用戶撰寫和發(fā)布的信息）成為主流方式之一；進(jìn)入人工智能時(shí)代，生成式人工智能可基于海量訓(xùn)練數(shù)據(jù)和大規(guī)模預(yù)訓(xùn)練模型，按指定要求自動(dòng)生成創(chuàng)建文本、音頻、圖像、視頻以及跨模態(tài)信息，生成方式簡(jiǎn)單，潛在價(jià)值巨大，但質(zhì)量參差不齊。

黨的二十屆三中全會(huì)特別強(qiáng)調(diào)“生成式人工智能”，我個(gè)人認(rèn)為，因?yàn)樯墒饺斯ぶ悄芗仁切沦|(zhì)生產(chǎn)力，也是生成新質(zhì)生產(chǎn)力的重要工具，還是發(fā)動(dòng)新型生產(chǎn)關(guān)系生成的引擎。以內(nèi)容生成為例，生成式人工智能通過知識(shí)流程自動(dòng)化和大規(guī)模人力組織智能化（如眾包、眾籌等）手段，縮短了需求側(cè)和供給側(cè)的時(shí)空距離，顯著提高了生產(chǎn)效率。同時(shí)，它具備創(chuàng)造多模態(tài)（如文本、圖像、音頻和視頻等）新內(nèi)容的能力，這使得它既是新質(zhì)內(nèi)容的生產(chǎn)力又是新質(zhì)內(nèi)容的生產(chǎn)工具。再者，生成式人工智能通過數(shù)據(jù)、算法和算力的集成創(chuàng)新，連接產(chǎn)品或服務(wù)，形成新生產(chǎn)模式、新服務(wù)方式、新運(yùn)營(yíng)模式的新路徑。因此，生成式人工智能通過智能采集數(shù)據(jù)和自動(dòng)生成內(nèi)容的技術(shù)優(yōu)勢(shì)，可進(jìn)一步激活數(shù)據(jù)要素潛能、推動(dòng)數(shù)據(jù)要素市場(chǎng)化、加速數(shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)的深度融合，為經(jīng)濟(jì)高質(zhì)量發(fā)展注入強(qiáng)勁動(dòng)力。

記者：當(dāng)前，生成式人工智能在圖文、音視頻等領(lǐng)域大放異彩，產(chǎn)業(yè)前景廣受看好，未來還有哪些發(fā)展趨勢(shì)？

孫長(zhǎng)銀：生成式人工智能有望在新材料和新物質(zhì)發(fā)現(xiàn)、新藥物和新型蛋白質(zhì)合成、新型工藝設(shè)計(jì)等科學(xué)研究領(lǐng)域發(fā)揮重要作用，加速科學(xué)發(fā)現(xiàn)、疾病診斷、藥物研發(fā)和研發(fā)成果驗(yàn)證。安徽大學(xué)新成立的智能學(xué)部，就是要通過多學(xué)院和多平臺(tái)的支撐聯(lián)動(dòng)、交叉融合，尋找新的理論方法，研究智能產(chǎn)生的機(jī)理，探索其場(chǎng)景應(yīng)用潛力，為支撐國(guó)家和地方重大需要做好儲(chǔ)備。

新技術(shù)的普及對(duì)相關(guān)人才的需求會(huì)快速增加，也對(duì)當(dāng)下的教育方式產(chǎn)生巨大沖擊。生成式人工智能將促使傳統(tǒng)的以知識(shí)傳授為主的教學(xué)模式向啟發(fā)式、探究式、合作式師生互動(dòng)教學(xué)模式轉(zhuǎn)變，既能為老師根據(jù)學(xué)生的學(xué)習(xí)數(shù)據(jù)生成個(gè)性化的教學(xué)內(nèi)容、提供教學(xué)效率和質(zhì)量實(shí)時(shí)評(píng)估與反饋創(chuàng)造潛在的實(shí)現(xiàn)路徑，又能應(yīng)用于虛擬教師和智能輔導(dǎo)系統(tǒng)，為學(xué)生提供24小時(shí)的學(xué)習(xí)支持和即時(shí)反饋。安徽大學(xué)在2022年12月成立的元宇宙系，結(jié)合生成式人工智能技術(shù)為學(xué)生提供虛實(shí)互動(dòng)、沉浸式、具身化的模擬學(xué)習(xí)環(huán)境和場(chǎng)景，通過數(shù)字教師人工智能Agent來實(shí)現(xiàn)與學(xué)生的輕松友好互動(dòng)，進(jìn)而提高學(xué)生主動(dòng)提問、延伸探索、聯(lián)想學(xué)習(xí)的意愿，為創(chuàng)新并研究新時(shí)代新型教學(xué)模式提供了基礎(chǔ)平臺(tái)。

記者：生成式人工智能對(duì)人類勞動(dòng)方式、生產(chǎn)形式、創(chuàng)新能力、知識(shí)結(jié)構(gòu)帶來前所未有的沖擊。新技術(shù)變革浪潮中，機(jī)遇與挑戰(zhàn)并存。我們應(yīng)該如何直面挑戰(zhàn)？

孫長(zhǎng)銀：教育和培訓(xùn)是關(guān)鍵。政府和企業(yè)應(yīng)加強(qiáng)對(duì)高校探索新型育人模式的支持，加強(qiáng)產(chǎn)教融合實(shí)踐教材、課程、平臺(tái)的體系化建設(shè)，提供專業(yè)再培訓(xùn)與職業(yè)轉(zhuǎn)型的渠道。這也是貫徹落實(shí)教育、科技、人才一體化統(tǒng)籌建設(shè)的有力舉措。教育機(jī)構(gòu)需更新教學(xué)方式和培訓(xùn)方法，強(qiáng)化終身學(xué)習(xí)理念，提升勞動(dòng)者服務(wù)社會(huì)和產(chǎn)業(yè)發(fā)展的能力。企業(yè)為教育機(jī)構(gòu)的人才培養(yǎng)提供試驗(yàn)和實(shí)踐平臺(tái)支撐，一方面為人才面向產(chǎn)業(yè)發(fā)展來思考技術(shù)攻關(guān)需求提供啟發(fā)，另一方面為人才磨煉意志、鍛煉能力、增強(qiáng)本領(lǐng)提供環(huán)境。具身智能，就強(qiáng)調(diào)機(jī)器人通過與物理環(huán)境交互學(xué)習(xí)、增強(qiáng)自身執(zhí)行任務(wù)的智能。人的學(xué)習(xí)和成長(zhǎng)應(yīng)有異曲同工之處，也要在實(shí)踐環(huán)境中摸索，提高自身解決問題的本領(lǐng)。

生成式人工智能的廣泛運(yùn)用，降低了內(nèi)容生成的門檻、成本和難度，為大眾創(chuàng)新、萬眾創(chuàng)業(yè)提供低成本的智能技術(shù)工具，也為內(nèi)容的質(zhì)量管理、傳播管控帶來新的挑戰(zhàn)。

以人工智能生成內(nèi)容為例，可能出現(xiàn)語(yǔ)法錯(cuò)誤、邏輯混亂或內(nèi)容偏離主題的問題，例如“林黛玉倒拔垂楊柳”的無稽之談；而且可能繼承訓(xùn)練數(shù)據(jù)中的偏見，導(dǎo)致生成的內(nèi)容帶有主觀色彩或不準(zhǔn)確的信息；還有可能被用于制造虛假信息、煽動(dòng)公眾情緒等負(fù)面活動(dòng)，產(chǎn)生不良影響。因此，生成式人工智能技術(shù)在對(duì)一部分崗位造成沖擊的同時(shí)，也會(huì)產(chǎn)生一些新的崗位，如人工智能內(nèi)容審核員、模型訓(xùn)練師和算法倫理審查員等。與此同時(shí)，個(gè)人可以通過使用人工智能創(chuàng)作工具快速輸出高質(zhì)量的內(nèi)容或創(chuàng)意，開啟全新就業(yè)機(jī)會(huì)。

記者：生成式人工智能重塑了資源整合、信息生成和使用范式，在促進(jìn)社會(huì)進(jìn)步的同時(shí)，也引發(fā)了數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)、社會(huì)倫理等風(fēng)險(xiǎn)問題。我們應(yīng)該從哪些方面加強(qiáng)治理，才能確保這項(xiàng)技術(shù)安全、可靠、可控？

孫長(zhǎng)銀：科學(xué)技術(shù)本身沒有利害之分，其創(chuàng)造的價(jià)值取決于使用者的道德和倫理觀念。但科技的雙刃劍效應(yīng)也提醒我們，必須始終秉持“以人為本，智能向善”。

生成式人工智能通?；谏疃葘W(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)，這些模型的內(nèi)部運(yùn)作過程非常復(fù)雜且不透明，難以直觀展示其決策過程且不可解釋，因此又被稱為“黑盒”模型。這樣的不可解釋性會(huì)對(duì)其應(yīng)用和管理產(chǎn)生多方面挑戰(zhàn)，為社會(huì)發(fā)展和安全埋下隱患。以安徽大學(xué)為依托建立的自主無人系統(tǒng)技術(shù)教育部工程中心，就致力于研發(fā)并構(gòu)建安全可信可靠的人工智能方法和系統(tǒng)。我們?cè)?022年獲批了安徽省安全人工智能實(shí)驗(yàn)室，這是省內(nèi)首個(gè)聚焦“安全人工智能”的省實(shí)驗(yàn)室，目前在可解釋的人工智能方法、類人智能決策、類腦神經(jīng)網(wǎng)絡(luò)模型等方面取得了一系列成果，服務(wù)了省內(nèi)外智能網(wǎng)聯(lián)汽車、智能制造、智能交通等領(lǐng)域眾多企業(yè)的智能化升級(jí)。

此外，生成式人工智能涉及大量敏感數(shù)據(jù)的收集和使用，可能導(dǎo)致數(shù)據(jù)泄露和濫用，威脅國(guó)家安全和個(gè)人隱私。在藝術(shù)創(chuàng)作和文學(xué)作品領(lǐng)域，生成式人工智能導(dǎo)致的侵權(quán)行為難以界定和追責(zé)。社會(huì)倫理方面，人工智能生成的虛假信息和深度偽造技術(shù)可能誤導(dǎo)公眾，破壞社會(huì)信任體系，帶來意識(shí)形態(tài)方面的風(fēng)險(xiǎn)。

目前，全球多個(gè)國(guó)家和地區(qū)都在探索制定相關(guān)法律法規(guī)，以應(yīng)對(duì)生成式人工智能帶來的挑戰(zhàn)。歐盟通過的《人工智能法案》是全球首部全面規(guī)范人工智能產(chǎn)業(yè)的綜合性法律文件，該法案采用風(fēng)險(xiǎn)等級(jí)為基礎(chǔ)的監(jiān)管模式，并對(duì)不同風(fēng)險(xiǎn)等級(jí)提出差異化的合規(guī)要求。英國(guó)議會(huì)發(fā)布有關(guān)人工智能技術(shù)在工作場(chǎng)所使用的立法草案，制定五項(xiàng)原則指導(dǎo)人工智能監(jiān)管，包括防止算法歧視和要求算法透明度。中國(guó)出臺(tái)的《生成式人工智能服務(wù)管理暫行辦法》是全球首個(gè)針對(duì)生成式人工智能做出迅速反應(yīng)的法律，明確了生成式人工智能服務(wù)提供者的行為規(guī)范，涉及網(wǎng)絡(luò)安全、數(shù)據(jù)隱私保護(hù)等內(nèi)容，并引入了監(jiān)管沙盒機(jī)制以減少創(chuàng)新障礙。

各國(guó)在生成式人工智能的監(jiān)管上采取了不同策略，但普遍強(qiáng)調(diào)了風(fēng)險(xiǎn)分級(jí)管理、透明度要求以及對(duì)高風(fēng)險(xiǎn)應(yīng)用的嚴(yán)格控制。這些探索不僅有助于防范潛在風(fēng)險(xiǎn)，也為全球生成式人工智能的健康發(fā)展提供了重要的參考和借鑒。