3月27日，《工業(yè)和信息化領域人工智能安全治理標準體系建設指南（2025）（征求意見稿）》（以下簡稱《指南》），面向社會公開征求意見。該《指南》提出針對AI技術廣泛應用帶來的數(shù)據(jù)安全、網絡安全、倫理風險等挑戰(zhàn)，構建AI安全治理標準體系框架。
短期急用先行，快速突破
長期全面保障，產業(yè)落地
《指南》提出兩階段建設目標。
短期來看，未來1至2年內，秉持急用先行，快速突破的策略，初步構建工業(yè)和信息化領域人工智能安全標準體系框架，明確標準體系的總體架構、分類和關鍵標準領域。制定一批急需急用的標準，為行業(yè)提供基本的安全規(guī)范和技術指導。推動相關標準的試點應用，在部分重點企業(yè)和項目中開展標準實施的驗證和反饋工作，及時發(fā)現(xiàn)和解決標準在應用過程中存在的問題，為標準的完善和推廣奠定基礎。
長期來看，未來3至5年，為AI技術的產業(yè)化落地提供全面保障。完善工業(yè)和信息化領域人工智能安全標準體系，補充和細化各領域的安全標準，涵蓋人工智能系統(tǒng)的設計、開發(fā)、部署、運行、維護等全生命周期，覆蓋工業(yè)和信息化領域人工智能應用的各個方面，并促進與國際標準的對接協(xié)調。同時，加強標準的推廣應用，規(guī)范工業(yè)和信息化產業(yè)主體人工智能應用，提高行業(yè)整體的安全水平，為傳統(tǒng)產業(yè)的高端化升級和前沿技術的產業(yè)化落地提供有力保障。
搭建AI安全治理標準體系框架
從7方面著手AI安全治理
《指南》提出的人工智能安全領域標準體系框架主要由治理能力、基礎設施安全、網絡安全、數(shù)據(jù)安全、算法模型安全、應用安全、賦能安全等7個部分組成。
其中，人工智能治理能力標準主要規(guī)范人工智能支撐能力和管理能力，包括監(jiān)測、防護等安全支撐技術，透明性、可解釋性、隱私保護等治理支撐技術，以及風險分類分級、管理影響評估、應急響應等相關標準，為實現(xiàn)人工智能安全治理夯實基礎底座。人工智能基礎設施安全標準主要規(guī)范硬件平臺、軟件平臺和智算中心等方面安全，確保人工智能基礎設施安全穩(wěn)定。人工智能網絡安全標準主要規(guī)范網絡安全的防護、監(jiān)測、管理，以及供應鏈安全、網絡安全風險評估，確保網絡安全可靠運營。數(shù)據(jù)安全標準主要規(guī)范基礎數(shù)據(jù)服務、訓練數(shù)據(jù)、業(yè)務數(shù)據(jù)等方面安全，明確人工智能數(shù)據(jù)安全要求。人工智能算法模型安全標準主要規(guī)范算法、模型等方面安全，保障人工智能技術創(chuàng)新安全可控。人工智能應用安全結合新型工業(yè)化、智能網聯(lián)汽車、生成式人工智能、生物特征識別、智能體等典型應用，提出新型工業(yè)化應用安全、行業(yè)應用安全、智能產品應用安全、智能服務應用安全，以及智能體安全等新產品形態(tài)安全的要求和評估方法，為推動產業(yè)智能化發(fā)展提供安全保障。人工智能賦能安全標準主要包括人工智能賦能網絡、數(shù)據(jù)、信息、業(yè)務和其他安全等方面的要求。
日前發(fā)布的《人工智能生成合成內容標識辦法》，明確AI生成合成內容需添加顯式和隱式標識，細化了生成服務提供者、傳播平臺、用戶的標識義務。《指南》也特別強調規(guī)范深度合成、生成式人工智能等在應用過程中的內容安全等方面的要求，制定安全規(guī)范和評估方法。規(guī)范利用深度合成和生成式人工智能技術生成內容、算法審核及評估、合成鑒偽檢測技術等內容管理的安全要求，包括生成內容的模型引導、模板制作、內容審核等方面的技術規(guī)范要求，算法審核及評估的算法機制機理審核、信息發(fā)布審核、涉生成違法違規(guī)內容審查等能力評估，合成鑒偽檢測技術的測評要求、評測方法和工具箱、指標體系等評價標準。
已發(fā)布55項AI安全治理標準
未來三年內還將發(fā)70項標準
據(jù)《指南》統(tǒng)計，截至2025 年2 月，在人工智能安全治理領域，全國信息技術標準化技術委員會、全國網絡安全標準化技術委員會、中國通信標準化協(xié)會等技術委員會或工作組，共計發(fā)布55 項國家標準與行業(yè)標準，涵蓋AI治理能力、數(shù)據(jù)安全、算法模型等領域。其中，AI治理能力方面的國家標準《人工智能 管理體系》，AI數(shù)據(jù)安全方面的國家標準《人工智能 面向機器學習的數(shù)據(jù)標注規(guī)程》，AI算法模型方面的國家標準《信息安全技術機器學習算法安全評估規(guī)范》《人工智能 深度學習算法評估》，涉及自動駕駛、人臉識別、生物特征識別等AI應用安全的多個國家標準，如《智能網聯(lián)汽車運行安全測試技術要求》《信息安全技術人臉識別數(shù)據(jù)安全要求》等已正式施行。此外，還有《智能網聯(lián)汽車運行安全測試項目和方法》《網絡安全技術人工智能生成合成內容標識方法》兩項國家標準將分別于今年5月和9月落地實施。另有《網絡安全技術數(shù)字水印技術實現(xiàn)指南》《人工智能安全治理 生成式人工智能圖像檢測服務系統(tǒng)能力要求》等針對生成式AI內容治理的國家標準和行業(yè)標準正在審查、研究階段。
《指南》指出，當前我國在人工智能安全治理標準制定方面具備一定基礎，但標準主要呈現(xiàn)點狀化、分散性、交叉性等特點，部分人工智能關鍵技術環(huán)節(jié)和新興應用場景標準缺失，尚無法滿足快速發(fā)展的技術需求。因此在未來三年內，針對AI治理能力、AI數(shù)據(jù)安全、AI算法模型、AI應用安全等多個方面，還計劃發(fā)布70個國家標準和行業(yè)標準，進一步完善AI安全治理標準體系。
出品：南都大數(shù)據(jù)研究院
采寫：陳袁
