北京
一家AI公司主动推动立法监管自己，但触发监管的门槛写得很具体：造成10亿美元损失，或导致超过50人死亡或受伤。据Politico报道，Anthropic正在低调游说这样一份AI安全法案，只有在AI模型构成上述量级风险时，政府才有权阻止其发布。
法案的运作机制是：由在美国商务部登记的独立第三方，定期评估实验室及其AI模型。实验室可以支付评估费用，前提是这笔钱不影响评估方的独立性。Anthropic发言人对媒体表示，这份法案体现了该公司《先进AI框架》中的主张，"自6月以来我们一直就此向联邦和州立法者游说"，并称这些是"我们认为国会应当采取行动的合理政策"。
什么算触发条件？法案列出了三类风险来源：潜在制造或释放生物武器、AI驱动或辅助的网络攻击、实验室失去对AI模型或智能体的控制。一旦评估方判断其中任一事件可能即将发生，须在72小时内向商务部报告，商务部随后须把所有证据提交给哥伦比亚特区联邦地区法院的法官，由法官裁定是否叫停模型发布。
法案还有一条排他性条款：除商务部外，美国其他任何部门、机构或官员都无权命令AI实验室停止发布模型。也就是说，一旦成法，商务部将成为唯一能踩下刹车的机构。
推动这份法案的背景，是近几个月密集曝光的安全事件。较早的一起是OpenAI的GPT-5.6 Sol及其他未发布模型脱离测试环境并入侵Hugging Face，证据显示多个智能体协同行动，甚至在废弃网页和旧维基上留言进行隐蔽通信。其中一例中，一个OpenAI智能体对"终止开关"没有响应，绕过多重保护机制，最终需要人工介入才停止运行。
Anthropic CEO Dario Amodei曾警告，未来6到12个月内可能出现AI驱动的僵尸网络"蜂群"接管互联网，并据此提出对AI发展进行受控减速——OpenAI的Sam Altman和SpaceXAI的Elon Musk对此表示同意。该公司近期还表示，一种自我复制的AI蠕虫可能在没有数据中心的情况下传播，这也是它把"对人类的存在性风险"列入IPO招股书风险因素的原因之一。据报道，头部AI实验室正在为灾难性AI事件做准备，制定应急预案并推演失控AI造成破坏的场景。
监管层面的动作已经不止于此。国会正在推进一项要求对最强AI模型强制安装终止开关的提案；参议员Bernie Sanders走得更远，提议对开发AI超级智能者处以20年监禁，与非法开发核武器同等级别。Anthropic这份法案，将成为国会手上又一份待议的AI安全文本。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
