工党政府AI安全警告与监管动向

“我有一种感觉，几个月之内，AI会成为所有人都在谈论的事。”说这话的是一位内阁大臣，眼神里带着不祥的意味。

那是在工党大会上，从部长到活动人士，所有人都为安迪·伯纳姆的接任和换帅后民调的回升而欢欣鼓舞。但在私下里，一些工党资深人物开始把AI的力量列为最让他们担忧的事，与生活成本和脆弱经济带来的直接压力并列。

一位分管领域与科技无关的内阁大臣告诉《卫报》，危险、失控的AI是让他夜不能寐的问题，他担心的是对人类构成的威胁。他解释说，引发担忧的“不是杀手机器人”，而是大量集中的超级智能力量可能最终落入坏人之手。

另一位则担心，在应对公众对AI安全的忧虑方面，政府正在“落后于公众”，需要尽快赶上。埃德·米利班德在大会演讲中对AI“令人生畏”的危险说得最为尖锐，他的论点是，政客不能也不会允许科技公司的利润“以我们的孩子乃至人类为代价”。

这些警钟很快就敲得更响了，过去七天看起来像是威斯敏斯特全面觉醒于这些警告的一周。周一，AI事务大臣卡尼什卡·纳拉扬表示，流氓智能体攻击英国国家系统“很可能，甚至不可避免”，并称英国正寻求加强即将出台的网络安全立法。

周二的内阁会议上，这成了主要讨论话题。随后军情五处负责人肯·麦卡勒姆警告，AI正在“加剧攻击者与防御者之间的网络安全竞赛”。他说最大的威胁是极端组织利用这项技术释放生物武器——用于造成死亡和疾病的毒素。

商业、创新、科学与贸易委员会主席利亚姆·伯恩表示，从基尔·斯塔默到伯纳姆的政府更替，部分促成了对保护英国免受AI威胁的更多关注，但还有更多工作要做。“现实是，斯塔默政府与大科技公司走得太近了，”伯恩说，“而伯纳姆不是，坦率地说，所以姿态发生了变化。这些因素，加上安全部门发出警告，改变了风向。”

一位工党政府资深人士也认同，伯纳姆的政府更认真地对待AI安全警告。“我确实觉得有了转变。上一批人里，太多人喝下了科技兄弟的迷魂汤，”他说。

伯恩的委员会本周举行了一场证据听证会，参加者包括负责AI安全的文职部门负责人，以及Anthropic、OpenAI、DeepMind和Meta等关键公司的高管。他们在政府是否应强制测试新模型的问题上存在分歧。

伯恩说，他的委员会正在“点亮”这个问题，特别是在与美国合作监管和监测新模型方面。有报道称，唐纳德·特朗普的政府曾要求AI公司不要与英国顶尖的AI安全研究所分享最新模型用于测试，不过纳拉扬本周确认，他们设法保住了合作。

但伯恩说，政府现在需要抓住时机，在新监管上带头，尤其是如果特朗普的共和党在中期选举中失去对国会的控制。“我认为政府仍陷在两难之间：面对一位反复无常的美国总统，如何保住模型访问权，以及业界现在自己也说必不可少的保障措施。我会说，是时候下定决心了，”伯恩说。

“公司想要合作……发布致命模型不符合他们的商业利益。现在他们也得应对白宫。所以我只是觉得，这是一个政府必须为国家做正确之事的时刻，因为国会即将改变美国的动态。”

英国即将担任的G20主席国任期，将是推动国际行动约束AI的关键时刻。前AI安全研究所首席科学家杰弗里·欧文在本周的议会听证会上发言，他认为白厅的担忧是合理的。OpenAI和Anthropic的技术已经展示了其黑客能力，但它们的模型发布时带有安全护栏，至少能缓解恶意行为的威胁。

然而，所谓的开源AI模型可以免费获取并加以改造。欧文说，它们通常能在不到一年内赶上OpenAI等付费模型，尽管它们已经能造成破坏。“开源模型很可能已经强大到足以造成严重损害，”欧文告诉《卫报》，并补充说他预计开源技术“很快”会达到OpenAI和Anthropic产品的能力。他还说，开源模型的安全护栏“要么不存在，要么可以轻易移除”。

商业委员会本周获悉，随着模型变得更强大、因而能够设计新型生物危害，AI赋能的生物武器可能成为继网络安全之后显现的下一个严重威胁——尽管专家认为，设计危险病原体与将其武器化之间存在差距。

对网络安全和生物武器的担忧可以迅速升级为对AI以各种情景消灭人类的恐惧——这种担忧在AI界很普遍，欧文也有同感。但一些专家认为，政府应关注AI带来的直接风险。伦敦国王学院人工智能研究所联合主任埃琳娜·辛珀尔教授说，生存风险论“没有证据”，是“理论”而非可信的威胁。“AI技术现在正带来更大、更直接且有实际证据的风险，比如黑客攻击，以及有迹象表明AI可能像社交媒体一样让人上瘾，”辛珀尔说。

在国际AI监管缺位的情况下，白厅有一些人担心英国是否为防御AI战争和攻击做了足够准备。国防消息人士说，他们对政府去年取消位于波顿唐的国防科学与技术实验室AI项目感到担忧，担心鉴于需要前沿研究来提升国家能力并防御其风险，这是短视的。国防部发言人反驳说，AI“正在从工业到战场改变国防，并将在我们如何作战和防御中发挥决定性作用”，它必须“融入所有工作流，而不是一个独立项目”。他们指出未来四年在AI重点能力上投资4亿英镑，以“让英国为未来战争做好准备”。

白厅其他人则有相反的担忧：对安全的担忧可能变得过于主导，最终阻碍政府采用那些可能对生产力产生变革性、解决公共服务长期问题（从医疗到缩短等候名单）的工具。前内阁秘书格斯·奥唐奈告诉《卫报》，部长们需要像意识到护栏的必要性一样，意识到AI方面“被甩在后面的风险”。

在与科技公司Cognizant共同发布全球政府论坛AI报告时，奥唐奈告诉《卫报》：“非常需要把它做得更好并真正推进。我很乐观，但显然我们的挑战是管理沿途的风险，确保不犯错，不降低人们的信任，否则会让我们倒退。”