英国国王罕见召集多国研讨AI，共商如何让AI更好地造福人类

据 CNN 报道，英国王室涉足复杂政策领域时向来行事谨慎。按照宪法规定，王室需要保持政治中立，他们可以聚焦凸显各类社会问题，但未必能提出解决方案。

查尔斯作为召集人，多国参与其中

因此，查尔斯三世是以会议召集人的身份，而非政策参与者，踏入人工智能（AI）领域。

当地时间本周四，他在苏格兰格拉斯哥附近举办峰会，邀请了人工智能企业、政府以及慈善机构的高层参会，探讨如何让这项技术造福社会。

参会人员将探讨能否达成一套共同准则，以此搭建框架，指导人工智能技术未来的应用，使其造福人类与地球（forming a framework to guide future applications of AI technologies in ways beneficial to both people and the planet）。

查尔斯本人预计仅出席峰会20分钟。多位人工智能领域的重要人物将到场，包括英国人工智能大臣卡尼什卡·纳拉扬，以及来自英伟达、谷歌深度思维、OpenAI和Anthropic的代表，但目前尚不清楚各家企业将派出哪位人员。

白金汉宫表示，中方也会有代表参会，不过未披露更多细节（There will also be representation from China, Buckingham Palace said, without giving more detail）。

多家媒体报道，嘉宾名单包含英伟达首席执行官黄仁勋、谷歌深度思维创始人德米斯·哈萨比斯，以及梵蒂冈人工智能顾问保罗·贝南蒂。

查尔斯名下慈善机构“国王信托基金”与“国王基金会”的相关官员也将出席。

白金汉宫称，77岁的查尔斯将对在场人士表示：“人工智能的发展，无论是其内涵还是发展速度，既引人深思，又同样令人深感担忧。”

他将敦促峰会参会者思考，全世界该如何利用人工智能带来的红利，同时始终把安全放在核心位置；以及如何推动国际合作、达成共识，不让任何一个国家掉队。

他将说道：“在我们这个世界，珍视人性及其重要道德内核的人们，正迫切希望得到你们的保证：我们不会失去对自身命运的掌控。”

AI应当保护隐私与民生

这位君主此前很少谈及人工智能。一旦谈及，语气始终带着警示意味。他曾在2023年英国人工智能安全峰会的录制致辞中提到，这项技术带来“深层次的挑战”，呼吁参会者“保护民众隐私与生计……捍卫民主制度免受侵害，并确保新技术的成果由所有人共享。”

同样，在2024年英联邦当局首脑会议的演讲中，他提及合理运用人工智能的重要性，提出AI应当“服务于我们的社会，而非与社会相悖（works for our societies, not against them）”。

尽管如此，查尔斯介入当下这一重大议题的讨论其实并不令人意外。他一贯关注关乎人类生存相关的各类挑战，其中最受瞩目的就是气候变化与生态环境问题。

在人工智能安全领域，英国所处的处境略显尴尬。英国拥有多所世界顶尖大学以及颇具影响力的人工智能安全研究所，但鉴于最先进的AI模型由东西方两个大国研发，英国在 AI 领域的影响力有限。

例如据《金融时报》报道，本月早些时候，全球头部AI企业之一Anthropic首次没有向该研究所提交其最新模型接受测试（Anthropic – one of the world’s leading AI companies – didn’t submit its latest model to the institute for testing for the first time, according to the Financial Times）。

AI发展带来的安全隐忧

尽管这场峰会早在数月前就已筹划，但举办时机恰到好处。近日，人工智能安全问题占据各大新闻头条：先是Anthropic研究员雅各布·考克森离职，他表示：“研发AI的从业者真心相信，到这个十年末，AI有可能毁灭全人类。”

随后，Anthropic首席执行官达里奥·阿莫代伊呼吁放缓“提升AI模型能力的速度”（Then, Anthropic CEO Dario Amodei called for slowing “the pace at which we improve the capabilities of AI models.”）。

阿莫代伊后来在接受美国有线电视新闻网（CNN）安德森·库珀采访时表示：“（考克森）是在指出整个行业发展速度过快这一现状。”他提出，选择人工智能发展的“正确道路”，能够降低AI给人类带来的生存性威胁。

他的两位直接竞争对手——OpenAI首席执行官山姆·奥尔特曼与特斯拉首席执行官埃隆·马斯克，均表示认同阿莫代伊的观点（Two of his direct competitors, Open AI chief executive Sam Altman and Elon Musk, both said they agreed with Amodei）。

奥特曼周一在X平台发帖补充道：“当我们谈到‘控制发展节奏’，并不是说要‘停止研发’。技术进步的速度很快，并且还会持续推进。但发展速度应当低于原本可以达到的水平；安全案例、监测机制这类管控措施，会带来不小的成本。”

就在行业这三位领军人物罕见达成公开共识前不久，OpenAI、Meta以及Anthropic均披露，在测试过程中出现了脱离管控的AI智能体逃出实验室环境，并入侵其他机构系统的事件。