6月5日，2025全球數(shù)字經(jīng)濟(jì)大會數(shù)字安全主論壇暨2025北京網(wǎng)絡(luò)安全大會在北京召開。北京前瞻人工智能安全與治理研究院院長、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅帶來的一組研究數(shù)據(jù)顯示，從國際視角看，我國人工智能大模型的安全性大多處在中游水平，攻擊成功率約為5%-6%，還有一定提升空間。
中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會常務(wù)副主任、工業(yè)和信息化部原總工程師趙志國在談到人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)帶來的沖擊時指出，如今智能化安全威脅不斷涌現(xiàn)，在傳統(tǒng)攻擊手段的基礎(chǔ)上，攻擊者利用人工智能放大攻擊效果，使網(wǎng)絡(luò)威脅更具規(guī)模性、針對性、殺傷性，進(jìn)一步加劇了網(wǎng)絡(luò)攻防不對稱性。
他表示，目前我國人工智能安全算法的原創(chuàng)性、模型的開放性、數(shù)據(jù)集的質(zhì)量等仍與國際先進(jìn)水平存在差距，人工智能在高級威脅分析、位置威脅發(fā)現(xiàn)等方面的作用仍待探索提升。
曾毅現(xiàn)場帶來的一組研究數(shù)據(jù)進(jìn)一步印證了大模型安全性提升的必要性。據(jù)他介紹，新研發(fā)的靈御大模型安全攻防評估平臺可對越獄攻擊進(jìn)行系統(tǒng)性評估。
他表示，通過該平臺對49款不同類型大模型進(jìn)行安全測試后得出結(jié)論——無論是國內(nèi)還是國際大模型，人工智能能力的提升躍遷并未帶動其安全風(fēng)險防范水平提高。我國人工智能大模型的安全性大多處在中游水平，攻擊成功率約為5%-6%，部分國外頂尖模型攻擊成功率僅0.7%，我國還有較大提升空間。
曾毅認(rèn)為，除了解決問題能力以外，安全與治理也是人工智能的核心能力，將加速人工智能穩(wěn)健發(fā)展與應(yīng)用。安全與性能之間不會相互掣肘，“沒有安全治理框架的人工智能不僅是沒有剎車，更是沒有方向盤?！?/p>
專家普遍認(rèn)為，人工智能為網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展帶來機(jī)遇的同時還有巨大挑戰(zhàn)，南都記者注意到，多位專家在給出應(yīng)對建議時都提到“體系”一詞，即重視網(wǎng)絡(luò)安全體系建設(shè)。
“單點的防御時代我認(rèn)為已經(jīng)結(jié)束了?！敝袊鴩一ヂ?lián)網(wǎng)信息辦公室總工程師孫蔚敏以2022年冬奧會網(wǎng)絡(luò)防護(hù)“零事故”的成功經(jīng)歷為例，強(qiáng)調(diào)了建立聯(lián)合防御體系的重要性。
她指出，此前“鐵桶式”“圍欄式”“各家自掃門前雪式”的防護(hù)理念已經(jīng)很難應(yīng)對猖獗的、國家級網(wǎng)絡(luò)攻擊，要堅持系統(tǒng)思維、體系作戰(zhàn)的思維方式。系統(tǒng)的運(yùn)營者，包括運(yùn)營商、服務(wù)商和相關(guān)部門應(yīng)環(huán)環(huán)相扣，層層設(shè)防，共同打造國家網(wǎng)絡(luò)安全的聯(lián)合防御體系。
具體而言，孫蔚敏認(rèn)為，建立聯(lián)合防御體系應(yīng)包括多個層面的要求。一是運(yùn)營者要壓實自身責(zé)任，做好運(yùn)行系統(tǒng)的安全防護(hù)工作，落實等保等底線要求；二是從運(yùn)營商層面看，可以考慮將單個購買的運(yùn)營商流量清洗服務(wù)轉(zhuǎn)變?yōu)槁?lián)合防御體系下的一種公共服務(wù)。
全國工商聯(lián)副主席，中國民間商會副會長安立佳也強(qiáng)調(diào)了體系建設(shè)的重要性。他建議廣大企業(yè)堅持共商共建共享原則，推動產(chǎn)業(yè)鏈、創(chuàng)新鏈、價值鏈深度融合，促進(jìn)網(wǎng)絡(luò)技術(shù)與國際互通、標(biāo)準(zhǔn)互認(rèn)、信任共建，以更加開放的姿態(tài)積極參與全球網(wǎng)絡(luò)安全治理與規(guī)則制定，推動構(gòu)建更加公平合理的網(wǎng)絡(luò)空間治理體系。
“體系化擇優(yōu)將替代單品擇優(yōu)，體系化設(shè)計將替代拼盤設(shè)計。”全國工商聯(lián)副主席、全國政協(xié)委員、奇安信集團(tuán)董事長齊向東表示，網(wǎng)絡(luò)安全突圍的動力來自生成式人工智能，它激活了客戶的安全需求，但安全建設(shè)卻常陷入“缺啥補(bǔ)啥”的拼盤慣性。
他舉例道，目前超90%的大型政企機(jī)構(gòu)在開展安全建設(shè)時，會采購10家以上廠商的安全設(shè)備，項目建設(shè)、安全設(shè)備和項目采購分散化問題顯著。另外，某省級“大體系”建設(shè)順利，但各市、區(qū)之間的信息化水平和安全水平參差不齊，也導(dǎo)致大小體系間出現(xiàn)鴻溝。這些會導(dǎo)致網(wǎng)絡(luò)安全體系建設(shè)困難，無法形成合力。
為此，齊向東提出重塑數(shù)據(jù)聚合模式、安全運(yùn)營模式和生態(tài)合作模式三大路徑。其中運(yùn)營是內(nèi)生安全體系起效的關(guān)鍵，應(yīng)構(gòu)建高效通暢、螺旋上升的反饋回路，包括將人工智能深度應(yīng)用于威脅情報生產(chǎn)及運(yùn)營，靈敏告警網(wǎng)絡(luò)異常行為，通過安全編排自動化與響應(yīng)（SOAR）技術(shù)實現(xiàn)及時處置等。
采寫：南都記者 樊文揚(yáng) 王子黎