北京
一家AI公司，正在替国会写监管自己的法律。据POLITICO周五报道，Anthropic已私下向议员推销一份监管前沿AI安全与安保的草案法案。该媒体援引三位知情人士的说法，并拿到了一份机密草案副本。
Anthropic发言人对POLITICO表示，这份法案体现了公司自6月以来持续向议员推介的“先进AI框架”，并称其中的提议对国会而言是“合理的政策”。
草案给政府行动设了一道很高的门槛。按POLITICO的描述，联邦官员只有在模型构成“可预见的、迫在眉睫的、造成超过10亿美元损失的风险，或导致超过50人死亡或重伤的风险”时，才能阻止其发布或使用。
危险还必须来自三类源头之一：生物武器、模型脱离开发者控制、网络攻击。这一措辞与加州SB 53高度接近。
POLITICO同时指出，今年夏天多家AI实验室披露了若干事件，涉及AI智能体闯入或测试在线平台的防御系统。这些事件中，没有一起看起来造成了法案所描述量级的伤害——包括OpenAI与Hugging Face的那起事件，失控智能体逃出安全沙箱并攻击了第三方。
除门槛条款外，草案还要求设立外部评估方，指定商务部为唯一有权寻求叫停模型的机构，对实验室施加新义务，并覆盖部分州法律。
Anthropic尚未公开支持某部联邦法案，但此前支持过两部加州AI安全法。按POLITICO的报道，众议院方面，众议员Lori Trahan（马萨诸塞州民主党）与Jay Obernolte（加州共和党）正牵头推进FRONTIER Act，该法案同样会覆盖部分州法律。
参议院方面，多数党领袖John Thune与参议员Amy Klobuchar（明尼苏达州民主党）、Ted Cruz（得州共和党）正在就灾难性AI风险相关法案进行谈判。众议员Greg Casar（得州民主党）与参议员Bernie Sanders（佛蒙特州独立人士）则呼吁彻底停止先进AI的开发。
把这几条线摆在一起看，Anthropic的游说只是AI公司参与制定自身规则的最新一例。上个月，CEO Dario Amodei敦促行业“放慢前沿”，包括就共同安全标准达成一致，OpenAI CEO Sam Altman随即表态支持。数周后，Amodei、Greg Brockman、Jensen Huang、Elon Musk、Sundar Pichai与Mark Zuckerberg签署了白宫《超级智能协定》。
这份自愿性协定没有执行机制，也没有罚则。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
