德米斯·哈萨比斯｜前沿人工智能治理框架与新时代的曙光

由于不可抗力的限流导致无法接收推送文章的问题，我们迫切需要以下操作：点击标题下方蓝字 “一半杯 ” → 点击右上角“...” → 点选“设为星标 ★ ”，这样就更容易找到我们和收到推送文章！

保持爱读文章，保持领先！

作者｜德米斯·哈萨比斯（Demis Hassabis），1976年生于伦敦，是英国人工智能科学家、认知神经科学家、企业家及国际象棋高手，现任Google DeepMind和Isomorphic Labs联合创始人兼首席执行官。少年时期的棋手经历使他开始思考机器智能，17岁参与开发《主题公园》，后毕业于剑桥大学计算机科学专业，并在伦敦大学学院取得认知神经科学博士学位。2010年，他联合创立DeepMind，领导和参与DQN、AlphaGo、AlphaFold等重要项目。其中，AlphaFold突破蛋白质结构预测难题，使他与约翰·江珀获得2024年诺贝尔化学奖。哈萨比斯主张把人工智能用于药物、能源、材料和基础科学研究，同时强调防范网络、生物及系统失控风险。

这是人类历史上的一个关键时刻。通用人工智能（Artificial General Intelligence，AGI），也就是能够展现人脑所具备的一切认知能力的系统，很可能再过短短几年便会问世。未来几十年里，当我们回望这段时期，我想我们会意识到，当时的自己正站在通往技术奇点的山脚下。这无异于人类新时代的曙光初现。

我一生都在投身AGI研究，因为我始终笃信：如果能够以负责任的方式加以开发和部署，事实终将证明，AGI是人类有史以来最有益、最具变革力量的技术之一。AGI不能与通常意义上的技术突破相提并论——即使是互联网或移动技术这样影响深远的突破，也不足以与之相比。它更接近于人类对电或火的发现。停下来仔细想想：从本质上说，我们已经找到了一种让沙子思考的方法。这堪称奇迹。

这项技术的影响规模将前所未有，或许会达到工业革命的十倍，而这种影响展开的速度也可能快上十倍。它将帮助我们解决社会面临的一些最重大难题，从加快药物发现，到开发新的清洁能源，再到创造新型先进材料。我们甚至可能走到这样一个阶段：资源不再成为制约人类进步的因素，由此开启一个令人惊叹的丰裕新时代。

人工智能前沿面临的挑战

人工智能已经开始在现实世界中带来切实益处；但要兑现它的巨大潜力，我们必须深思熟虑、谨慎稳妥地度过这一发展的关键时期。随着我们日益接近AGI，必须立即采取行动，应对可能随之出现的风险。我们已经看到前沿模型给网络安全带来的挑战；随着模型能力继续提升，核风险、生物风险等其他威胁也可能很快显现。展望不远的未来，我们需要建立强有力的安全防护机制，保持对自主行动能力日益增强、能够递归自我改进的系统的控制，同时应对那些只能随着时间推移才会逐渐明朗的未知问题。

我始终相信，人类的才智与创造力足以解决任何问题。我相信，AI相关的技术风险并非无法化解，我们完全可以共同应对。但前提是，我们必须给自己留出足够的时间和余地，把接下来这关键一步走对。可眼下，无论是AI领域自身，还是整个社会，都没有给自己留下这样的时间与余地。

目前，我们正身处一场异常激烈、商业与地缘政治多层交织的竞赛。这种竞争格局固然会推动技术飞速进步，加快释放其惊人的积极效益；但技术前沿的发展速度已经超过了我们理解这项技术的速度。世上没有人确知今后会发生什么，专家之间也存在分歧。

面对如此巨大的不确定性和如此高昂的利害得失，以审慎乐观的态度前行，才是明智而正确的策略。这就要求公共政策既促进创新，也为负责任且注重安全的行为提供激励；推动各国围绕关键安全问题开展合作；并促使各方审慎考虑如何部署AI，才能使社会受益。

前沿人工智能标准机构的框架

人工智能正在飞速进步，这要求我们采用一种动态、能够适应变化且严谨的新方法，测试前沿AI模型的能力。凭借自身的经济与技术实力，美国具备率先着手构建此类框架的有利条件。

美国可以设立一个新的标准机构，采用由联邦政府监督的公私合作机制或行业自律组织模式，类似于美国金融业监管局（FINRA）。该机构的理事会应包括独立的顶尖技术专家和开源社区代表。它需要获得充足经费，而大部分资金很可能要由行业提供，以便吸引世界一流的技术人才，并提供开展大规模测试所需的算力资源。

标准机构将负责制定评估规程，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试。如果一个模型在该机构确定的一组基准测试中达到相应阈值，就可被认定为“前沿级”模型。这些基准将定期更新，以跟上AI能力不断演进的步伐。

按照上述基准，拥有“前沿模型”的组织将被认定为“前沿实验室”，并受到鼓励采用最佳实践，例如发布载有技术细节的模型卡，维持强有力的内部网络安全防护，审查关键人员，为安全性与安全保障研究投入充足资源，以及采取其他相关措施。

在初期阶段，前沿实验室将在模型发布前自愿将模型提交给标准机构，使其有最多30天时间进行审查。一旦评估规程被证明行之有效且足够稳健，这一机制便可迅速进入制度化阶段。也就是说，前沿模型若要在美国市场部署，就必须通过该项评估。各实验室还将与标准机构合作，处理模型发布后发现的任何重大漏洞。

模型评估应当包括严格的科学评测，考察模型在网络安全、生物威胁及其他高风险领域所具备的能力。针对具备自主行动能力的AI，还可设置专项测试，检查模型是否试图绕过安全防护机制，是否显露欺骗迹象，并确保相关最佳实践得到落实，例如为AI生成的图像添加数字水印，以及生成可供人类解读的输出词元，以便理解模型的推理过程。

这些评估将定期更新，初期或可每季度更新一次。过时或已趋饱和的基准测试将被停用并替换。最初，评估方案将在征询前沿实验室意见后制定；但最终，标准机构应逐步形成足够的技术能力，独立于各实验室建立自己的留出测试，以防止过拟合。

该机构还可与美国政府合作，培育由第三方审计机构组成的生态系统，协助开展评估，并开发新的基准测试和评测方法。

这种方案的优势在于，它将聚焦技术，同时支持创新并激励负责任的行为。其设计旨在跟上该领域不断加快的发展步伐，并随着重大风险被识别出来而作出调整。如果形势的严重程度有此要求，还可逐步提高管控强度；必要时，甚至可以协调各前沿实验室共同放缓研发速度。

被认定为前沿实验室将带来很高的声望。这一认定也将向任何开发出符合基准要求模型的组织开放。该框架可以适用于所有前沿级模型，无论它们来自哪个国家，也无论采用开放模式还是封闭模式。但凡不属于前沿级的模型，例如来自初创企业或学术界的一些模型，都将免于这一程序。

由美国发起的这一努力，将为制定各方共同遵循的前沿人工智能国际标准提供坚实起点。这项技术将影响整个世界。理想情况下，该框架将推动国际社会就如何管理最严重的风险达成共识，同时确保人人都能获得AI带来的机遇并从中受益。

未来尚未写就

AGI有潜力成为推动科学与医学进步的终极工具，并推动生产率大幅提升和经济增长。但要实现这些潜力，我们必须把技术基础打牢，围绕一套共同的全球框架协调行动，采用最严谨的科学方法，并汇聚最优秀的人才，共同应对我们面临的挑战。

即使我们解决了这些艰深的技术问题，仍会有更多复杂的经济与哲学问题等待处理：在一个后稀缺世界里，需要怎样的新型经济模式，才能让每个人都蓬勃发展？我们希望奉行怎样的价值观？届时，人生的意义与目标何在？甚至人类处境本身又可能发生怎样的变化？显然，这些问题既不能、也不应只交给技术专家来解决。

这需要社会各界共同参与，一起塑造这个新篇章。

围绕AI，既有巨大的振奋，也有巨大的不确定性；两者都有充分根据。但未来尚未写就。我们必须充分利用AGI到来前这一宝贵的时间窗口，塑造这项技术，使其造福全人类。我们此刻共同采取的行动，将决定文明的下一阶段如何展开。只要以安全、审慎的方式引导AGI进入现实世界，我们就能迈入科学发现与进步的新黄金时代，迎来一个人类实现非凡繁荣与充分发展的光明未来。

德米斯·哈萨比斯，诺贝尔奖得主｜谷歌 DeepMind 与 Isomorphic Labs 联合创始人兼首席执行官。

End