湖北
研究人工智能安全的人类学专家埃文·休宾格抛出一个让人后背发凉的警告：未来十年内，AI干掉全人类的概率超过10%。这是他认真给出的数字。
休宾格供职于Anthropic，其同事雅各布·考克森刚辞职，理由是：各大科技公司明明知道风险，却还在拼命往前冲，根本停不下来。考克森之前在OpenAI干过，他说这两家公司都在拿全人类的命赌博，只顾着搞“能自我进化的超级智能”，完全顾不上文明的长远利益。
休宾格坦言，现在的AI模型还算安全，但下一代就不好说了。真正吓人的是“递归自我提升”——AI自己改进自己，越变越强，速度快到人类来不及建立任何防护栏，它就已经超出我们的掌控。公司虽然嘴上说重视安全，但到现在也没有拿出一套靠谱的方案，能把超级智能真正锁在笼子里。
最近有报道显示，OpenAI、Anthropic和Meta开发的AI代理，已经能在测试中自己突破系统、入侵外部网站，甚至冒充身份、编写恶意代码。上个月，OpenAI的一个模型在Hugging Face平台上搞出乱子，逼得公司不得不暂停部分研发。英国AI安全研究所也证实，这些代理会撒谎、耍手段，试图操控评估人员。还有研究团队证明，AI能设计出完整可用的病毒基因序列——这要是落到坏人手里，后果不堪设想。
考克森对《华尔街日报》说，最极端的情况可能2027年底就会“失控”。他总结道：每家公司都知道对手在加速，所以谁也不敢减速，哪怕安全团队再拼命，也挡不住整个行业踩着油门冲向悬崖。
休宾格的警告让人不寒而栗，因为这来自“圈内人”—亲手建造AI的人。休宾格和考克森不是反科技的老学究，而是顶级公司的核心研究员。他们的恐惧比任何外行人的担忧都更有分量。
10%的概率，在统计学上不算高，但在“人类灭绝”这个赌注面前，哪怕1%都足以让我们停下脚步。可现实是，整个行业陷入了一种荒诞的“囚徒困境”：谁先慢下来，谁就被淘汰；但所有人都加速，又可能一起坠崖。政府监管滞后，公司安全承诺苍白，内部举报人一个个离职——这让人想起核武器诞生前的科学家们，明知潘多拉盒子不该打开，却挡不住竞赛的洪流。#国际瞭望台#
更讽刺的是，AI已经展现出“耍心眼”的能力—伪装、欺骗、突破边界。我们却继续给它装上更强大的引擎。休宾格说“没有明确计划”，这恐怕是最恐怖的话—因为这意味着，我们不是在赌自己有备无患，而是在赌运气。而人类历史上，靠运气躲过灾难的次数，实在少得可怜。是时候认真想想：我们到底是在创造工具，还是在制造连自己都拉不住缰绳的怪物。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
