重磅發(fā)布 2024人工智能十大前沿技術(shù)

人工智能（AI）技術(shù)的廣泛應(yīng)用，正影響著人類生活的方方面面。在“人工智能治理創(chuàng)新為培育科技治理生態(tài)構(gòu)建國際信任基礎(chǔ)”主題會議上，世界機器人合作組織理事長、中國科學院院士喬紅發(fā)布了“2024人工智能（AI）十大前沿技術(shù)趨勢展望”，包括AI共性技術(shù)領(lǐng)域的小數(shù)據(jù)與優(yōu)質(zhì)數(shù)據(jù)、人機對齊、AI使用邊界和倫理監(jiān)督模型、可解釋性模型，大規(guī)模預(yù)訓(xùn)練模型領(lǐng)域的規(guī)模定律、全模態(tài)大模型、AI驅(qū)動的科學研究、具身小腦模型、實體人工智能系統(tǒng)，以及生成式人工智能領(lǐng)域的世界模擬器，共10項技術(shù)。

大量無效數(shù)據(jù)的存在，不僅消耗了計算資源，也對模型可靠性訓(xùn)練帶來極大挑戰(zhàn)，而小數(shù)據(jù)更注重數(shù)據(jù)的精度和相關(guān)性，優(yōu)質(zhì)數(shù)據(jù)通過嚴格的篩選、清洗和標注工具剔除了噪聲和不相關(guān)信息，從本質(zhì)上減少人工智能算法對數(shù)據(jù)的依賴和不確定性，增強網(wǎng)絡(luò)可靠性。建設(shè)多樣性的數(shù)據(jù)集，不僅能夠從理論基礎(chǔ)上支撐不同技術(shù)路線的AI發(fā)展，還為解決通用人工智能的瓶頸問題提供新的可能。

除了輸入的訓(xùn)練數(shù)據(jù)集質(zhì)量，AI系統(tǒng)的可靠性還體現(xiàn)在輸出結(jié)果的可執(zhí)行性上。喬紅表示，僅依靠數(shù)據(jù)和算法不足以實現(xiàn)人機對齊，需要將人類的價值觀和倫理道德轉(zhuǎn)化為強化學習獎勵函數(shù)。這意味著在設(shè)計獎勵機制時，不僅要考慮任務(wù)的效率、效益和效果，還需要考慮行為是否符合人類的倫理標準。

中國工程院院士、北京郵電大學教授張平建議，構(gòu)建通用人工智能理論框架，奠定AI技術(shù)安全可控發(fā)展的科學技術(shù)；同時，研發(fā)超級對齊技術(shù)，從內(nèi)生機制上確保人工智能輸出觀點決策與人類對齊。此外，通過構(gòu)建可解釋、自動化的AI評估方法，確保AI向善。

構(gòu)建AI使用邊界和倫理監(jiān)督模型，也體現(xiàn)了業(yè)界對AI倫理治理的思考。喬紅表示，當前AI系統(tǒng)的合規(guī)性、安全性和倫理問題愈發(fā)突出，建立AI監(jiān)督模型框架尤為必要，其作用類似于AI憲法，其主要曰的是通過制定明確的標準和規(guī)范，確保所有AI系統(tǒng)在開發(fā)和使用過程中遵循既定原則，從而減少AI被過度使用帶來的風險。

“在訓(xùn)練具身大模型時，一個重要的工作是教其倫理道德，就像教孩子遵守道德一樣。我相信，人類既然能創(chuàng)造AI，就一定有能力抑制這項技術(shù)的濫用?！敝袊こ淘和饧菏俊⒌聡鴩夜こ淘涸菏繌埥▊フf。