Anthropic 提出了一個(gè)新的 透明度框架，旨在解決在前沿 AI 模型開(kāi)發(fā)過(guò)程中日益增長(zhǎng)的問(wèn)責(zé)需求。這一提議的重點(diǎn)針對(duì)正在開(kāi)發(fā)強(qiáng)大 AI 模型的大型人工智能公司，這些公司是以計(jì)算能力、成本、評(píng)估性能和年度研發(fā)支出等因素來(lái)區(qū)分的。目標(biāo)是建立一套標(biāo)準(zhǔn)，以確保安全，降低風(fēng)險(xiǎn)，并提高公眾對(duì)這些先進(jìn) AI 系統(tǒng)的開(kāi)發(fā)和部署的可見(jiàn)度。
框架的一個(gè)核心方面是實(shí)施安全開(kāi)發(fā)框架（Secure Development Frameworks，SDFs），這將要求大型 AI 公司評(píng)估和減輕與其模型相關(guān)的潛在災(zāi)難性風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括化學(xué)的、生物的及放射性的危害，以及由模型自主性錯(cuò)位造成的傷害。該提案概述了這些框架不僅應(yīng)解決風(fēng)險(xiǎn)緩解問(wèn)題，還應(yīng)確保負(fù)責(zé)任地處理 AI 開(kāi)發(fā)流程。
該框架的一個(gè)關(guān)鍵要求是公開(kāi)披露。根據(jù)提議的法規(guī)，AI 公司將被要求通過(guò)注冊(cè)網(wǎng)站公開(kāi)其 SDFs，提供對(duì)其安全實(shí)踐的透明度。這將允許研究人員、政府和公眾獲取有關(guān)部署模型的重要信息，確保安全標(biāo)準(zhǔn)得到滿(mǎn)足，并妥善管理任何風(fēng)險(xiǎn)。此外，公司還需要發(fā)布 系統(tǒng)卡片，提供模型測(cè)試程序、評(píng)估結(jié)果和實(shí)施的緩解措施的摘要。每當(dāng)模型被修訂或添加新功能時(shí)，這些文件都需要更新。
該框架還建議小型開(kāi)發(fā)人員和初創(chuàng)公司不受這些要求的限制。相反，這些法規(guī)將適用于有潛力造成重大傷害的大規(guī)模 AI 公司，例如那些擁有大量計(jì)算能力或財(cái)務(wù)資源的公司。豁免旨在避免給小型公司帶來(lái)不當(dāng)負(fù)擔(dān)，同時(shí)仍將監(jiān)管工作集中在該領(lǐng)域最大的參與者身上。
此外，提議包括執(zhí)行合規(guī)的具體條款。如果 AI 公司就其遵守框架的情況提供虛假或誤導(dǎo)性陳述，將構(gòu)成違法行為，確保必要時(shí)可以應(yīng)用舉報(bào)人保護(hù)。執(zhí)法機(jī)制將允許司法部長(zhǎng)對(duì)違規(guī)行為追究民事處罰，幫助維護(hù)系統(tǒng)的完整性。
社區(qū)的反應(yīng)反映了對(duì)最近全球關(guān)于 AI 監(jiān)管討論的樂(lè)觀、懷疑和實(shí)際關(guān)切的擔(dān)憂(yōu)。
AI 專(zhuān)家 Himanshu Kumar 在 X 上發(fā)表評(píng)論：
促進(jìn)開(kāi)源 AI 開(kāi)發(fā)對(duì)安全創(chuàng)新不也是至關(guān)重要的嗎？
與此同時(shí)，用戶(hù) Skeptical Observer 也發(fā)表了評(píng)論：
由誰(shuí)來(lái)執(zhí)行？這感覺(jué)非常以美國(guó)為中心。中國(guó)的實(shí)驗(yàn)室或其他范圍之外的呢？舉報(bào)人保護(hù)聽(tīng)起來(lái)不錯(cuò)，但沒(méi)有全球覆蓋，這只是權(quán)宜之計(jì)。希望他們?cè)?AI 安全峰會(huì)上澄清這一點(diǎn)！
最終，提議的透明度框架旨在在確保 AI 安全 和促進(jìn)持續(xù)創(chuàng)新之間取得平衡。雖然框架為透明度設(shè)定了最低標(biāo)準(zhǔn)，但它故意避免過(guò)于規(guī)范，允許 AI 行業(yè)隨著技術(shù)的發(fā)展而不斷適應(yīng)。通過(guò)促進(jìn)透明度，該框架尋求為 AI 開(kāi)發(fā)人員建立清晰的問(wèn)責(zé)制，幫助政策制定者和公眾區(qū)分該領(lǐng)域負(fù)責(zé)任的和不負(fù)責(zé)任的做法。這可以作為進(jìn)一步監(jiān)管的基礎(chǔ)，如果需要的話(huà)，提供必要的證據(jù)和見(jiàn)解，以確定隨著人工智能模型的發(fā)展是否需要額外的監(jiān)督。
https://www.infoq.com/news/2025/07/anthropic-transparency-framework/
聲明：本文為 InfoQ 翻譯，未經(jīng)許可禁止轉(zhuǎn)載。