“人工智能末日论”背后的多重博弈与治理之道

作者：李岩

中国现代国际关系研究院研究员、总体国家安全观研究中心办公室主任

“人工智能末日论”并非单纯源于技术风险本身，其背后交织着大国战略博弈、资本商业诉求、科技巨头利益争夺等复杂因素。

人工智能技术迭代速度持续加快，大模型能力不断突破边界，在赋能经济社会发展的同时，各类潜在风险也逐步显现。“人工智能末日论”近期在全球舆论场持续发酵，引发广泛讨论。这一论调并非单纯源于技术风险本身，其背后交织着大国战略博弈、资本商业诉求、科技巨头利益争夺等复杂因素。透过末日恐慌的表象辨析各方利益诉求，探索兼顾创新发展与风险防控的治理路径，已经成为全球人工智能治理必须回应的时代命题。

“人工智能末日论”持续发酵，反映了人工智能高速发展背景下风险管控与全球治理的现实紧迫性。技术发展速度明显快于各国制度建设的步伐，规则供给滞后于技术实践，是全球性难题。一方面，前沿大模型训练成本动辄数十亿美元，技术迭代周期不断缩短，新能力、新风险层出不穷；另一方面，监管规则的制定需要充分论证、多方协调，难以做到同步跟进。面对人工智能带来的现实挑战，国际社会亟需建立有效的风险识别、评估、预警与约束机制。“人工智能末日论”客观上把人工智能治理议题推向全球议程中心，提醒世界不能只追逐技术红利，必须正视技术带来的各类风险，统筹创新发展与安全管控，构建适配智能时代的治理框架。

▲智谱公司在展示AutoClaw。（图源：新华社）

“人工智能末日论”的喧嚣背后，折射出国家之间、国家行为体与非国家行为体之间盘根错节的复杂博弈。美国国内的利益纠葛尤为典型。出于所谓“大国竞争”的战略考量，美国政府迟迟不愿对前沿人工智能施加必要、刚性的监管约束，放任部分科技巨头持续推进高风险大模型研发。美国将人工智能视作维持自身科技霸权的核心抓手，优先追求技术领先地位，将竞争逻辑置于安全治理之上，担心严格监管会削弱本国产业优势，给竞争对手留下追赶空间，因此更多依赖企业自愿性承诺，缺少具有强制约束力的法律规范，使得部分存在潜在风险的技术研发持续推进。

面对美国国内兴起的反人工智能社会浪潮，政府回避民众现实诉求。普通民众关心算力大规模消耗带来资源压力，关心人工智能加剧贫富差距、岗位替代、算法侵害权益等现实民生问题，但这些紧迫现实议题得不到政策层面的充分回应。部分美国政治力量甚至刻意转移矛盾，将国内反对人工智能无序扩张的社会情绪，简单归咎于外部势力干预，回避本国资本与产业自身造成的问题，扭曲公共讨论方向，阻碍理性的监管改革进程。

与此同时，美国头部科技巨头凭借资本优势对政府决策施加影响，资本、企业与部分行政力量相互勾连，形成特殊利益集团，持续制约人工智能监管政策落地。OpenAI、Anthropic等前沿大模型企业，则有着十分现实的商业算计。它们通过渲染末日风险，呼吁放缓大模型研发节奏，以维护自身市场优势，迟滞竞争对手发展，利用政府监管巩固技术垄断地位。这些科技巨头一边渲染人类灭绝等极端风险博取舆论关注，一边持续投入资源迭代自身产品，从而形成充满矛盾的现实图景。美国政府、科技企业、资本三者深度绑定，科技企业通过游说、人才旋转门等方式渗透政策环节，政策制定容易被产业利益裹挟，导致“监管俘获”现象出现，在这种情况下，很难出台真正代表普通民众利益、有效约束巨头的监管制度，美国人工智能治理因而陷入进退失据的困局，本应聚焦真实风险的人工智能安全讨论，沦为各方博弈的工具。

▲9月23日，美国开放人工智能研究中心（OpenAI）首席执行官萨姆·奥尔特曼在“人工智能与国际安全”高级别会议现场发言。（图源：新华社）

全球围绕人工智能的激烈争论，更加凸显中国人工智能治理理念的先进性。面对人工智能机遇与风险并存的局面，中国坚持统筹发展与安全，坚持以人为本、向上向善理念，走出一条创新与安全动态平衡的治理路径，为全球人工智能治理贡献可行方案。在国际层面，中国倡导在多边框架下开展人工智能全球治理，反对将安全议题工具化、意识形态化，反对借安全名义搞技术壁垒与科技霸权，主张各国平等参与规则制定，照顾发展中国家发展诉求，推动构建公正合理的全球人工智能治理体系。中国理念回归技术服务于人的本源，实现安全与发展辩证统一，为破解当前全球人工智能治理困境提供重要启发。

人工智能本身没有善恶，技术走向取决于人类如何治理与使用。“人工智能末日论”给世界敲响警钟，但真正的风险并非来自机器本身，而是来自利益失衡、规则缺失、治理失效。只有回归以人为本，平衡创新活力与安全底线，才能驾驭人工智能技术，让智能时代向着人类共同福祉的方向前行。

高端访谈

更多访谈（下滑查看）

中美聚焦网｜中美交流基金会