周鴻祎：建議制定保障通用大模型安全的標準體系

全國政協(xié)委員、360集團創(chuàng)始人周鴻祎向大會提交了《關(guān)于鼓勵兼具“安全和AI”能力的企業(yè)解決通用大模型安全問題的提案》。

周鴻祎表示，目前，國內(nèi)的大模型安全問題不容樂觀。一方面，國內(nèi)大模型企業(yè)不熟悉內(nèi)容安全、數(shù)據(jù)安全、科技倫理、網(wǎng)絡安全等人工智能帶來的安全挑戰(zhàn)；另一方面，大部分安全公司又很少真正有能力深入大模型研究，上述兩方面原因?qū)е聡鴥?nèi)大模型安全領域成為整個產(chǎn)業(yè)鏈的薄弱環(huán)節(jié)。建議國家有關(guān)部門采用“揭榜掛帥”等方式，鼓勵并扶持兼具“安全和AI”能力的企業(yè)，給予專項扶持政策，支持企業(yè)擔起大模型安全重擔，聚焦攻堅，為解決通用大模型安全問題提供堅實保障。

其次，他建議國家在內(nèi)容安全、數(shù)據(jù)安全、科技倫理、網(wǎng)絡安全等細分領域，牽頭研究制定安全檢測標準，在規(guī)范的安全標準體系下，推動通用大模型的安全評測工作，通過接入安全服務來保障大模型的安全。最后，他建議政府和央國企加強與兼具“安全和AI”能力企業(yè)的合作，在政策和招投標條件上，給予更多合作機會，發(fā)揮此類企業(yè)在人工智能安全領域的優(yōu)勢作用，為國家安全貢獻力量。