当人工智能不再仅仅回答问题,而是开始调用工具、操作系统并执行真实任务时,安全就不再只是上线前的合规检查,而是产品竞争力的核心组成部分。正在上海举行的2026年世界人工智能大会(WAIC)上,这一判断正成为产业共识。
今年大会的一大显著变化是,“人工智能全球治理高级别会议”与WAIC并列出现,而非简单增设一场安全论坛。随着AI进入关键基础设施、工业系统、智能终端和机器人领域,AI治理正从伦理倡议阶段,转向围绕标准、机构、开源和算力展开的制度竞争。
大会前一天,世界人工智能合作组织协定签署仪式在上海举行,29个国家代表签署协定,成为创始成员国。中国在推动全球AI治理中提出具体方案:继续强调开源模型和AI能力的普惠价值,降低发展中国家使用AI的门槛,同时提出保持人类监督,建立风险预警和治理机制。
为进一步支持全球人工智能发展,中国宣布未来5年将面向发展中国家提供5000个人工智能专题研修培训名额,面向东盟、阿盟、非盟、拉共体、上合组织和金砖国家建设国际人工智能应用合作中心,并推动气象智能预警方案“妈祖”在30个国家落地。
这一系列举措贯穿的政策逻辑清晰:人工智能治理应在开放创新与风险控制之间寻找平衡。一方面鼓励开源开放、合作共享,让AI赋能产业发展;另一方面建立法律法规、技术监测、风险预警和应急响应体系,防止技术被滥用,并确保关键决策始终处于人类监督之下。
![]()
本届WAIC期间,图灵奖得主、深度学习先驱约书亚·本吉奥重点推介并解读了联合国人工智能治理工作框架。相关报告指出,模型在推理、网络安全和生物等领域的能力仍在快速提升,但系统的可靠性、监控能力和可控性并未同步跟上——这一“能力与安全错位”的风险正产生实质性影响。
对企业而言,能够证明系统可信、可控、可审计,才更有机会进入金融、医疗、工业和公共服务等高价值场景。安全能力决定的不只是能否规避风险,也决定了产品能够进入哪些市场、承接哪些任务。治理规则已经不再游离于产业竞争之外。谁能够率先建立被广泛接受的安全标准、评测体系和责任机制,谁就可能掌握下一阶段的市场准入门槛,并在一定程度上影响AI产业的规则制定权。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.