6月5日，2025全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全主論壇暨2025北京網(wǎng)絡(luò)安全大會(huì)在北京召開(kāi)。北京前瞻人工智能安全與治理研究院院長(zhǎng)、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅帶來(lái)的一組研究數(shù)據(jù)顯示，從國(guó)際視角看，我國(guó)人工智能大模型的安全性大多處在中游水平，攻擊成功率約為5%-6%，還有一定提升空間。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專家咨詢委員會(huì)常務(wù)副主任、工業(yè)和信息化部原總工程師趙志國(guó)在談到人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來(lái)的沖擊時(shí)指出，如今智能化安全威脅不斷涌現(xiàn)，在傳統(tǒng)攻擊手段的基礎(chǔ)上，攻擊者利用人工智能放大攻擊效果，使網(wǎng)絡(luò)威脅更具規(guī)模性、針對(duì)性、殺傷性，進(jìn)一步加劇了網(wǎng)絡(luò)攻防不對(duì)稱性。
他表示，目前我國(guó)人工智能安全算法的原創(chuàng)性、模型的開(kāi)放性、數(shù)據(jù)集的質(zhì)量等仍與國(guó)際先進(jìn)水平存在差距，人工智能在高級(jí)威脅分析、位置威脅發(fā)現(xiàn)等方面的作用仍待探索提升。
曾毅現(xiàn)場(chǎng)帶來(lái)的一組研究數(shù)據(jù)進(jìn)一步印證了大模型安全性提升的必要性。據(jù)他介紹，新研發(fā)的靈御大模型安全攻防評(píng)估平臺(tái)可對(duì)越獄攻擊進(jìn)行系統(tǒng)性評(píng)估。
他表示，通過(guò)該平臺(tái)對(duì)49款不同類型大模型進(jìn)行安全測(cè)試后得出結(jié)論——無(wú)論是國(guó)內(nèi)還是國(guó)際大模型，人工智能能力的提升躍遷并未帶動(dòng)其安全風(fēng)險(xiǎn)防范水平提高。我國(guó)人工智能大模型的安全性大多處在中游水平，攻擊成功率約為5%-6%，部分國(guó)外頂尖模型攻擊成功率僅0.7%，我國(guó)還有較大提升空間。
曾毅認(rèn)為，除了解決問(wèn)題能力以外，安全與治理也是人工智能的核心能力，將加速人工智能穩(wěn)健發(fā)展與應(yīng)用。安全與性能之間不會(huì)相互掣肘，“沒(méi)有安全治理框架的人工智能不僅是沒(méi)有剎車(chē)，更是沒(méi)有方向盤(pán)?！?/p>
專家普遍認(rèn)為，人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展帶來(lái)機(jī)遇的同時(shí)還有巨大挑戰(zhàn)，南都記者注意到，多位專家在給出應(yīng)對(duì)建議時(shí)都提到“體系”一詞，即重視網(wǎng)絡(luò)安全體系建設(shè)。
“單點(diǎn)的防御時(shí)代我認(rèn)為已經(jīng)結(jié)束了?！敝袊?guó)國(guó)家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏以2022年冬奧會(huì)網(wǎng)絡(luò)防護(hù)“零事故”的成功經(jīng)歷為例，強(qiáng)調(diào)了建立聯(lián)合防御體系的重要性。
她指出，此前“鐵桶式”“圍欄式”“各家自掃門(mén)前雪式”的防護(hù)理念已經(jīng)很難應(yīng)對(duì)猖獗的、國(guó)家級(jí)網(wǎng)絡(luò)攻擊，要堅(jiān)持系統(tǒng)思維、體系作戰(zhàn)的思維方式。系統(tǒng)的運(yùn)營(yíng)者，包括運(yùn)營(yíng)商、服務(wù)商和相關(guān)部門(mén)應(yīng)環(huán)環(huán)相扣，層層設(shè)防，共同打造國(guó)家網(wǎng)絡(luò)安全的聯(lián)合防御體系。
具體而言，孫蔚敏認(rèn)為，建立聯(lián)合防御體系應(yīng)包括多個(gè)層面的要求。一是運(yùn)營(yíng)者要壓實(shí)自身責(zé)任，做好運(yùn)行系統(tǒng)的安全防護(hù)工作，落實(shí)等保等底線要求；二是從運(yùn)營(yíng)商層面看，可以考慮將單個(gè)購(gòu)買(mǎi)的運(yùn)營(yíng)商流量清洗服務(wù)轉(zhuǎn)變?yōu)槁?lián)合防御體系下的一種公共服務(wù)。
全國(guó)工商聯(lián)副主席，中國(guó)民間商會(huì)副會(huì)長(zhǎng)安立佳也強(qiáng)調(diào)了體系建設(shè)的重要性。他建議廣大企業(yè)堅(jiān)持共商共建共享原則，推動(dòng)產(chǎn)業(yè)鏈、創(chuàng)新鏈、價(jià)值鏈深度融合，促進(jìn)網(wǎng)絡(luò)技術(shù)與國(guó)際互通、標(biāo)準(zhǔn)互認(rèn)、信任共建，以更加開(kāi)放的姿態(tài)積極參與全球網(wǎng)絡(luò)安全治理與規(guī)則制定，推動(dòng)構(gòu)建更加公平合理的網(wǎng)絡(luò)空間治理體系。
“體系化擇優(yōu)將替代單品擇優(yōu)，體系化設(shè)計(jì)將替代拼盤(pán)設(shè)計(jì)。”全國(guó)工商聯(lián)副主席、全國(guó)政協(xié)委員、奇安信集團(tuán)董事長(zhǎng)齊向東表示，網(wǎng)絡(luò)安全突圍的動(dòng)力來(lái)自生成式人工智能，它激活了客戶的安全需求，但安全建設(shè)卻常陷入“缺啥補(bǔ)啥”的拼盤(pán)慣性。
他舉例道，目前超90%的大型政企機(jī)構(gòu)在開(kāi)展安全建設(shè)時(shí)，會(huì)采購(gòu)10家以上廠商的安全設(shè)備，項(xiàng)目建設(shè)、安全設(shè)備和項(xiàng)目采購(gòu)分散化問(wèn)題顯著。另外，某省級(jí)“大體系”建設(shè)順利，但各市、區(qū)之間的信息化水平和安全水平參差不齊，也導(dǎo)致大小體系間出現(xiàn)鴻溝。這些會(huì)導(dǎo)致網(wǎng)絡(luò)安全體系建設(shè)困難，無(wú)法形成合力。
為此，齊向東提出重塑數(shù)據(jù)聚合模式、安全運(yùn)營(yíng)模式和生態(tài)合作模式三大路徑。其中運(yùn)營(yíng)是內(nèi)生安全體系起效的關(guān)鍵，應(yīng)構(gòu)建高效通暢、螺旋上升的反饋回路，包括將人工智能深度應(yīng)用于威脅情報(bào)生產(chǎn)及運(yùn)營(yíng)，靈敏告警網(wǎng)絡(luò)異常行為，通過(guò)安全編排自動(dòng)化與響應(yīng)（SOAR）技術(shù)實(shí)現(xiàn)及時(shí)處置等。
采寫(xiě)：南都記者 樊文揚(yáng) 王子黎