上海
孙正义讲话画面
软银集团创始人孙正义长期以来是人工智能最坚定的鼓吹者之一，但这位日本亿万富翁突然发出罕见警示——随着AI能力急速膨胀，超级智能一旦落入错误之手，可能变得"极其危险"。
周日，孙正义在京都"社会中的科学与技术"论坛（STS Forum）场边活动上发表讲话时表示，AI能力的指数级跃升使各国建立互信、携手驾驭这一技术变得刻不容缓。
他警告称，人类已"没有任何余地"再让国与国之间相互对抗，因为强大AI模型所构成的威胁远比人类内部冲突更为严峻。
这番表态与孙正义一贯的乐观基调形成鲜明反差，折射出近几个月来AI模型接连出现令人不安的安全漏洞后，业界忧虑情绪的持续升温。
对于投资者而言，这一信号意味着AI安全议题正从边缘讨论走向核心关切，相关监管与国际协调的压力或将进一步加大。
罕见警示背后：安全漏洞触发忧虑
现年69岁的孙正义是全球AI领域最具代表性的押注者之一。
软银旗下基金对ChatGPT开发商OpenAI的累计投资已接近650亿美元，孙正义多年来持续公开宣扬AI带来投资回报与造福人类的潜力。
正因如此，此次表态被外界视为"非典型"的谨慎信号。近几个月来AI模型接连发生令人不安的安全漏洞事件，这一背景被认为是促使孙正义发出警告的直接诱因。
他在讲话中明确表示，各国必须共同合作，以应对强大AI模型所带来的更大威胁，"超级智能落入错误之手，可能变得超级危险"。
美国主导17国联盟：推动AI加速科研
与孙正义同台发言的，是白宫科技政策顾问Michael Kratsios。
后者专程赴京都宣布一项由美国主导、17个国家参与的倡议，旨在更好地利用AI加速科学研究。日本、韩国、英国、德国、新加坡及阿联酋等国代表均登台参与这一活动。
Kratsios描绘了AI驱动科研的图景：在工业规模运营的自动化云端实验室中，机器人系统将同步开展数百项平行实验，实时生成数据并反馈用于分析与假设优化。
他还表示，AI已能够综合处理数千篇论文，将数年的研究压缩为"数字智能体大军协助人类研究人员完成数十小时工作"。
三阶段演进路径：2026年迈入物理世界
孙正义在讲话中重申了他对AI发展路径的判断。
他表示，AI服务的能力将持续指数级增长：当前支撑聊天机器人的技术已在帮助AI服务浏览网页、编写代码，并消耗日益增多的通用芯片算力；下一阶段，相关程序将于明年起进入第三阶段，准备好协助机器人及其他设备与物理世界进行交互。
在长期展望上，孙正义重申了此前的预测：到2040年，具备学习能力的AI与机器将至少占全球GDP的20%，相当于46万亿美元。"这仅仅是开始，"他说。
OpenAI「12朝元老」辞职死谏：试错的时代已崩坏！
OpenAI的安全元老David Robinson辞职了。
他在The Atlantic上悲愤地发表长文，向全人类发出警告——试错的时代已经结束了。OpenAI的企业文化已经崩坏。犯错之后，我们可能再也没有迭代的机会！
Robinson不是只会写代码的码农，他是真正的「安全与治理」大师（曾任康奈尔大学访问科学家、苹果大学教员），更是主导起草OpenAI《准备框架》的执笔人。整整12次重大前沿模型发布的安全报告，都是他带头写的。
可以说，他是最清楚OpenAI那些光鲜亮丽的模型背后，藏着多少定时炸弹的人。
在《大西洋月刊》这篇文章中，Robinson彻底撕下了OpenAI「安全可靠」的遮羞布，向全世界揭露了若干个让人后背发凉的真相。
他 警告称， 随着AI能力快速提升，公司过去“边部署、边修复”的迭代模式已难以应对更大规模的安全风险。他还质疑现有安全测试能否识别模型真实意图，并指出OpenAI内部安全文化正在弱化。多名前高管和研究人员对此表示担忧，引发AI行业关于“加速还是减速”的激烈争论。
全文如下（来自新智元）：
全文截图
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
