南华早报 | 王辉耀：中美人工智能对话须兼顾技术安全与商业安全

■ 仅靠设立热线和开展临时性对话远远不够。无论是人工智能技术本身，还是依托技术发展的企业，都面临着日益严峻的安全风险。

南华早报 评论

作者

王辉耀 | 全球化智库（CCG）创始人

上个月在纽约，美中两国就人工智能问题展开了对话，为双方的合作开辟了道路。在华盛顿举行的中美元首会面进一步确认了这一点，双方同意建立正式的人工智能对话机制及热线。随着下一轮人工智能对话定于11月举行，两国进一步深化合作势在必行。

人工智能生态系统正处于不断变化之中。美国科技企业们在收入模式尚未明确之前，就投入了大量资金用于芯片、数据中心以及能源设施的建设。已有数万亿美元被投入到人工智能领域的发展中。虽然这种投资规模并不像 2008年全球金融危机时房地产市场的过度杠杆化那样危险，但若人工智能领域的泡沫突然破裂，仍可能带来严重的后果。

今年美国经济增长的很大一部分来自人工智能企业或为人工智能提供支持的企业。然而，根据益普索《2026年人工智能监测报告》（Ipsos AI Monitor 2026），只有38%的美国人认为人工智能产品和服务“带来的好处多于弊端”，这一比例远低于全球平均水平；相比之下，中国持这一观点的人群比例高达85%。今年5月的益普索消费者追踪调查（Ipsos Consumer Tracker）发现，大多数美国人反对在自己所在社区建设数据中心。

人工智能能力的迅速提升引发了人们的担忧。失控的人工智能智能体所表现出的异常行为，已经从试图删除整个电子邮件收件箱，发展到逃离沙箱环境并发动网络攻击。今年7月，在一次独立评估中，OpenAI的智能体绕过自身限制，对开发者平台Hugging Face发起了自主攻击。

同月，美国一家小型安全公司 Calif开发了WeWorm蠕虫病毒，利用微信通话系统中的零点击漏洞，在无需接收方接听的情况下即可劫持账户并在手机间传播。在印度，网络安全公司 Hacktron 的研究人员利用 Anthropic 公司的 Claude 模型入侵了OpenAI系统，侵入员工账户，并访问了可能包含敏感信息的软件系统。

这两起黑客事件均在友好方的授意下进行，并未造成任何损失——腾讯和 OpenAI迅速收到警报并修复了漏洞。但它们预示着人工智能赋能的网络攻击威胁，这种威胁既可能来自管理不善的人工智能，也可能来自那些因网络战能力进一步落入私人手中而获得更大权力的攻击者。

当前形势的一个突出体现，是领先的人工智能开发者和科学家日益迫切地呼吁建立安全保障机制。Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）提议，向长期独立评估人员开放领先人工智能实验室，并推动企业与政府之间的安全标准协调。OpenAI首席执行官萨姆·奥特曼（Sam Altman）承诺，将其模型交由第三方评估；谷歌DeepMind董事长德米斯·哈萨比斯（Demis Hassabis）则支持在前沿人工智能系统部署之前开展测试。

上周，一封由全球至少420名科学家联署的公开信呼吁采取紧急措施，防止人工智能失控带来的严重后果，其中包括建立一个国际机构，记录、追踪人工智能系统各类安全管控失效事件。

这些担忧为即将举行的中美人工智能对话提供了议题。不过，对话不应局限于突发事件处置和安全保障机制的制定，还应进一步探讨如何为人工智能打造可持续的商业落地模式。中国的人工智能生态系统正日益具备自我发展的能力，在这一领域，中国有很多经验可以贡献与分享。

首先，显而易见的是，中美两国的人工智能生态系统各自拥有构建这一商业模式所需的不同要素。

美国开发者需要能够将前沿成果转化为持续收益的应用。而中国拥有全球规模领先的应用试验场，可以在制造业、物流、医疗、教育、公共服务以及具身智能等领域，完成应用的打磨、迭代与商业化落地。

中国人工智能产业可以从美国前沿模型开发领域的投资和研究中获益；与此同时，中国在数据中心统筹调度与电力供应方面的能力，也有助于缓解美国计算能力所面临的压力。

双方在高效模型、冷却技术和能源管理方面开展合作，将有助于满足不断增长的需求，同时降低消费者和社会承担的成本。一个健康的人工智能生态系统，完全可以同时容纳美国的前沿模型和中国的高效开放权重模型。

中国的开源权重模型具有更低的单个词元成本，能够和美国前沿模型形成互补搭配。企业可以使用这类模型处理常规、大批量任务，同时将前沿模型留给真正需要其强大能力的复杂场景。这种高低结合的方式可以使美国前沿模型在更广泛的工作流程中部署更具成本效益，从而增强中美两国人工智能产业的商业可行性。

为了维持这种合作，两国还必须正视人工智能风险，并共同加以管理。两年前，美国和中国已经达成一项有限共识：核武器的使用决定权掌握在人手中，而非人工智能。我建议更进一步，双方作出对等承诺，不率先使用人工智能赋能的自主武器。

人工智能领域最后一个必须讨论的问题是制度层面。治理碎片化可能导致标准不兼容和基础设施重复建设。美国主导的“硅和平倡议”（Pax Silica）和中国主导的世界人工智能合作组织（World AI Cooperation Organisation）不应当相互对立。

相反，两国应该将它们的全球人工智能治理及各自的相关诉求纳入一个与联合国相衔接的共同框架之下，让使用人工智能的国家与开发人工智能的国家一样拥有话语权。

最后，一年一度的中美人工智能峰会将是稳固合作的重要载体，推动两国政府与实验室、科学家、大学、企业以及民间社会组织共同参与其中。至少目前来看，最终决定我们技术的道德价值的仍然是人，这取决于我们如何运用它。

文章选自南华早报，2025年10月20日

■ A hotline and an ad hoc dialogue are not enough. Safety concerns are growing for both the technology and leveraged tech companies.

SCMP Op-Ed

By Wang Huiyao | Founder of

the Center for China and Globalization(CCG)

In New York last month, US-China talks on artificial intelligence opened up a path of cooperation. This was affirmed by the Xi-Trump summit in Washington where both presidents agreed to establish a formal AI dialogue and hotline. With the next AI meeting set to happen in November, it is imperative that both countries further cooperation.

The AI ecosystem is in flux. American tech companies are draining their coffers as they commit vast sums to chips, data centres and energy before the revenue model is even settled. Trillions of dollars are being committed to the AI buildout. While this exposure is not the same as the overleveraging in the mortgage market that triggered the 2008 global financial crisis, a sudden bursting of the AI bubble could have far-reaching consequences.

Much of US economic growth this year has been from AI or AI-enabling companies. Yet, only 38 per cent of Americans saw “more benefits than drawbacks” in AI products and services – well below the global average – against 85 per cent in China, according to the Ipsos AI Monitor 2026. In May, the Ipsos Consumer Tracker found that most Americans would oppose a data centre in their community.

The surge in AI capabilities has raised concerns. Rogue AI agent behaviour has gone from attempting to delete an entire email inbox to escaping sandboxes to launch cyberattacks. In July, during an isolated evaluation, OpenAI agents circumvented their restrictions to launch autonomous attacks on developer platform Hugging Face.

That same month, Calif, a small US security company, created WeWorm to exploit a zero-click vulnerability in WeChat’s calling system, enabling it to seize accounts and spread between phones without the recipient answering. In India, cybersecurity researchers at Hacktron used Anthropic’s Claude models to break into OpenAI, compromising employee accounts and reaching potentially sensitive software systems.

Both hacking incidents were conducted under friendly auspices and caused no damage – Tencent Holdings and OpenAI were quickly alerted and patched the bugs. But they portend the threat of AI-enabled cyberattacks, both from poorly managed AI and actors empowered by the devolution of yet more cyberwarfare capabilities into private hands.

Encapsulating the moment is the increasingly urgent call for safeguards by leading AI developers and scientists. Anthropic CEO Dario Amodei proposes opening up leading laboratories to permanent independent evaluators and coordinating safety standards across companies and governments, OpenAI CEO Sam Altman is committing its models to third-party evaluation, and Google DeepMind chairman Demis Hassabis is backing pre-deployment testing of frontier systems.

Last week, an open letter by at least 420 scientists across the globe called for urgent measures to prevent an AI fallout, including the creation of an international body to record and track containment failures.

These concerns provide an agenda for the coming US-China AI dialogue. Talks, however, should extend beyond managing incidents and developing safeguards towards building a sustainable business case for AI. Given its increasingly self-sustaining AI ecosystem, China has plenty to contribute.

First, it is clear the US and China ecosystems possess different pieces of the same business case.

American developers need applications capable of converting their frontier performance into sustained revenue. China offers one of the world’s largest environments for testing, refining and commercialising applications across manufacturing, logistics, medicine, education, public services and embodied AI.

While China’s industry could benefit from investment and research at the cutting edge of frontier model development, its capabilities in coordinating data centres and power supply could help take the strain off US compute capacity.

Cooperation on efficient models, cooling and energy management could help both countries meet rising demand while reducing the costs borne by consumers and communities. A healthy ecosystem has room for both American frontier models and efficient Chinese open-weight models.

Chinese open-weight models offer lower costs per token, making them economical companions to American frontier models. Companies can use them for routine, high-volume tasks and reserve frontier models for problems that warrant their capabilities. This high-low mix can make American frontier capabilities more economical to deploy within a wider workflow, strengthening the business case for both countries.

To sustain this cooperation, both countries must also confront AI risks and manage them together. The United States and China established one narrow principle two years ago when they affirmed that people, not AI, should decide on the use of nuclear weapons. I propose going further to adopt a reciprocal no-first-use commitment covering AI-enabled autonomous weapons.

The final AI issue that must be discussed is institutional. Fragmented governance risks building walls of incompatible standards and duplicated infrastructure. The US-led Pax Silica initiative and China-led World AI Cooperation Organisation should not be posed in opposition to each other.

Instead, both countries should place their global AI governance and interests under a shared UN-linked umbrella, giving countries that use AI a voice alongside those that develop it.

Finally, an annual US-China AI summit would serve as a strong foundation, bringing governments together with laboratories, scientists, universities, companies and civil society organisations. For now at least, it is still ultimately people who decide what moral value our technology has through what we choose to do with it.

From SCMP， 2026-10-20

More Wang Huiyao SCMP Op-Eds:

https://www.scmp.com/author/wang-huiyao

CCG 图书

● 出版 | 施普林格·自然集团

● 编著 | 王辉耀、苗绿

图书介绍

“中国与全球化”系列丛书（China and Globalization Series）由CCG主任王辉耀博士、秘书长苗绿博士主编，旨在汇聚全球多元视角，探讨与中国及全球化相关的问题，剖析中国崛起面临的机遇与挑战，并阐述中国在全球治理、全球经济、全球发展及全球安全领域所扮演的角色。该丛书首次汇集了来自中国及世界各地的200多位具有高度影响力的全球意见领袖、前政要、大使、知名学者和智库专家、跨国公司CEO以及外国商会代表的观点，打造一个平衡的全球视角。自2021年迄今，该丛书已出版11部，电子书下载量累计超过663万次，在海内外引起了巨大反响和广泛讨论。为方便广大读者阅读，该丛书主要以“公开获取”的方式出版，读者可以在出版方Springer网站上免费下载几乎全部书籍。

● 图书链接……

● 出版 | 中信出版集团

● 作者 | 王辉耀，苗绿

图书介绍

《21世纪的中国与全球化》首先梳理了全球化的变迁与理论发展，从技术与人本等新的视角观察全球化，并做出全球化的界定，总结了后疫情时代新型全球化具备的特征，然后对中国融入全球化的历史与现实进行了全面总结，用数据与事实说明，中国正在从全球化的受益者发展为反哺者，正在通过自身发展推动全球化进程，并尝试承担起更多国际责任，为全球治理创新贡献方案。作者对全球化发展的理论和文献做了梳理，回顾了全球化在世界和中国的发展历程，指出全球化走到了一个十字路口。本书从第四章开始，两位作者对中国推动全球化实现包容性和公平性发展的路径进行了探索，通过发挥中国的优势和特点，让中国为全球化发展注入新动力。作者基于长期的研究以及与国内国际、官产学各界有影响力重要人士的对话交流等，对中国的全球化发展路径及全球治理创新等形成了新的思考，提出中国推动全球化发展的三大支柱与七大路径。

● 出版 | 中国科学技术出版社

● 作者 | 王辉耀

图书介绍

本书深度剖析了中国在全球化浪潮中的角色演变与抉择，及其对全球未来的影响。全书分为三部分，第一部分回顾了中国融入全球化的历程，展示了中国从一个封闭的农业国家逐步转型为全球第二大经济体的过程。书中详细探讨了中国在贸易、投资、跨国企业崛起等方面的角色变迁，以及教育、人才和文化纽带在这一进程中的重要作用。第二部分探讨了中国在国际舞台上的崛起及其对全球治理的影响。作者分析了中国在多极化世界中的地位变化，风云激荡中的中国外交，中美关系的复杂性，以及中国在崛起的、更加一体化的亚洲中的角色。同时，还讨论了中欧关系的发展与挑战。第三部分审视了多边主义面临的挑战和改革。书中探讨了如何共同应对全球性挑战，寻找自由贸易的发展方向，以及“一带一路”倡议的发展。通过这些讨论，展示出中国在全球治理中的积极参与和贡献。

● 出版 | 中国科学技术出版社

● 编著 | 王辉耀、苗绿

图书介绍

《对话世界：理解新时代的全球化》全书分为三部分：第一部分“全球化发展史”回顾了全球化的历程，从古代贸易到现代经济转型，探讨了全球化的起源与演变。通过与耶鲁大学教授瓦莱丽·韩森、《金融时报》首席经济评论员马丁·沃尔夫和《世界是平的》作者托马斯·弗里德曼的对话，揭示了全球化的多层次发展。第二部分“弥合全球不平等与赤字”探讨了全球化带来的不平等和治理赤字问题。诺贝尔经济学奖得主安格斯·迪顿、巴黎和平论坛主席帕斯卡尔·拉米、亚洲协会副所长温迪·卡特勒等嘉宾，分享了他们对全球经济不平等、贸易体系和制度改革的看法。第三部分《权力转移与大国关系》分析了21世纪的权力转移和大国关系，特别是中美关系的复杂性。通过与哈佛大学教授格雷厄姆·艾利森、“软实力之父”约瑟夫·奈、布鲁金斯学会主席约翰·桑顿等专家的对话，讨论了大国竞争、合作以及全球治理的未来。

● 出版 | 中信出版集团

● 编著 | 王辉耀

图书介绍

作为海内外决策层和广大公众理解中美关系时广泛引用的框架，“修昔底德陷阱”将成为未来几十年对全球秩序有决定性影响的问题。在与全球化智库(CCG)理事长王辉耀的对话中，格雷厄姆·艾利森就中美关系和中美地缘政治竞争、中国崛起、美国外交政策、美苏关系、全球地缘政治、核武器、朝鲜问题、新冠疫情及影响等议题进行了深入阐述；全面、系统性地展示了艾利森对“修昔底德陷阱”和中美经济、金融、科技、军事、外交等多个方面存在的结构性矛盾和竞争的看法；深入而透彻地分析了中美双方实力的变化，以及发生战争的风险；坦诚而直率地提出了跨越“修昔底德陷阱”的方法和建议。

● 出版 | 中信出版集团

● 作者 | 王辉耀，苗绿

图书介绍

《我向世界说中国》是由全球化智库（CCG）主任王辉耀和秘书长苗绿基于“世界新格局下的中国对外叙事及话语权重塑”问题研究的重要成果，由中信出版集团出版。据悉，该书讲述了全球化智库近年来立足芒克辩论会、慕尼黑安全会议、巴黎和平论坛、达沃斯论坛等知名国际舞台，与各国政商学界知名人士畅谈国际时局与未来趋势，回应各方对于中国的关切和质疑，诠释中国的发展模式，降低外界对中国的误解，通过多层次、多主体、多元化、多渠道国际交流及传播，以全球视野讲述时代中国，积极塑造可信可爱可敬的中国形象的生动故事。同时，本书立足国际形势变化和全球传播新格局，针对中国应当如何开展对外交流和传播工作、如何创新外宣方式讲好中国故事等问题进行了深入浅出的剖析。