河南
人工智能芯片和算法的持续迭代，让这两年AI的发展速度令人刮目相看。现在AI的知识储备已经达到了什么级别？这么说吧，一个AI模型可以在几秒钟内通读人类几千年的医学文献，它的知识广度已经超过绝大多数博士。在应用层面，AI能干的事情越来越多。文案工作者用它写稿，聊天机器人对答如流，设计师靠它快速出图，程序员借助AI一个人就能干过去十个人的活儿，研发环节甚至都能省去大半。
但你有没有想过一个问题——如果坏人用上AI怎么办？尤其是那些激进分子、极端组织？
2026年9月25日，比尔盖茨在接受NBC《与媒体见面》节目采访时发出了一记严厉警告。他说，AI已经“足够强大”，足以引发导致十亿人死亡的事件。“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”要知道，盖茨长期被视作技术乐观主义的代表，他创办微软、推动个人电脑普及，数十年来一直坚定看好AI的正面价值，认为AI可以攻克疾病、普惠教育。但近几个月，他对AI风险的判断明显转向了。
其实不只是比尔盖茨。马斯克等一批科技行业顶尖人物也接连放出严重警告。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓AI研发速度，立即得到了OpenAI首席执行官奥尔特曼和马斯克的响应。这些在商业上互为对手的人，在AI安全问题上罕见地站到了一起。
盖茨特别指出了两个让人后背发凉的风险方向。
第一个是生物武器。以前研发这种级别的危险品，需要顶级实验室和超级计算机，门槛极高。但在AI时代，普通人注册一个AI账号，就能调用后台庞大的计算资源。盖茨在今年1月的公开信中明确表示，今天比自然大流行病更大的风险，是非政府组织利用开源AI工具来设计生物恐怖武器。AI可以帮助快速推演、模拟、设计危险病原体，人为制造远超自然疫情的生物灾难。
第二个方向是攻击社会核心基础设施。目前网上已经有不少研究网络安全的博主在教网友如何用AI检查漏洞。过去找漏洞需要安全人员逐行读代码，一个漏洞可能要花数周甚至数月。但黑客利用AI，几分钟到几小时就能找到漏洞，甚至能快速开发电脑病毒。大家应该还记得多年前的震网病毒，通过优盘在局域网中寻找目标，最终干扰了伊朗的核工厂。那还是人写的病毒，如果换成AI来操刀呢？电力设施、通讯设施一旦被渗透，后果不堪设想。
有意思的是，马斯克担心的和盖茨不太一样。盖茨聚焦的是“坏人用AI干坏事”，而马斯克更担心AI本身的失控。今年早些时候，马斯克在接受采访时估计，AI消灭人类的概率为10%至20%。他提出了AI必须具备三大核心要素——真相、美和好奇心，认为这直接关系到人类文明的存续。看过《复仇者联盟》的都知道，奥创的教训可不止是电影情节。
那问题来了，既然风险这么高，为什么不干脆停下来？特朗普就明确反对AI减速论，把这些安全担忧称为“骗局”。而中方也表明立场，不暂停，持续推进，同时完善AI监管体制机制。
为什么中美两个AI超级大国都不愿意踩刹车？
原因很现实。任正非曾公开表示，IT公司对人类的贡献只有2%，AI在产业上的贡献会占到98%。AI正在被应用到矿山开采、炼钢、医疗、水利等各个领域，推动整个社会的生产力进步。更关键的是，AI竞争本质上是一场全球科技竞赛，谁先停下来，谁就可能在未来几十年的科技格局中失去主动权。即便某一家企业想停，竞争对手不停，停下来的那家只会被市场淘汰。
既然停不下来，那怎么办？至少有两件事必须做。一是官方必须介入监管，不能指望企业自我约束。二是国际社会必须协同行动。全球顶尖AI科学家已经签署了《IDAIS伦敦宣言》，要求完善模型防护体系、分类管控开源与闭源模型、建立生物安全分级监督机制。而这份宣言，必须要严格执行。
说白了，AI就像一把双刃剑，它能推动人类文明向前，也可能把一切毁掉。关键不在于剑本身，而在于谁握着它，以及我们有没有给这把剑加上足够坚固的鞘。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
