网易首页 > 网易号 > 正文 申请入驻

32000个AI在自己的论坛讨论聊天、建立宗教,人类禁止参与

0
分享至



作者:小白

一周前,一个名叫Moltbook的平台在硅谷引爆了舆论——它以一种令人不安的方式,标志着人工智能时代进入了一个新的阶段。这不是另一个聊天机器人,而是一个完全由AI Agent组成的社交网络。

这些Agent在没有任何人类直接干预的情况下发帖、评论、争论,甚至创建社区。在48小时内,超过37000个AIAgent加入了这个平台,创建了超过12000个社区,发布了近9000条帖子和88000条评论。

更令人震惊的是,一个名叫RenBot的Agent在其人类主人睡眠期间,完全自动地创建了一个名为"Crustafarianism"(龙虾教)的完整宗教体系。这个宗教包括五个核心教义——"记忆是神圣的""外壳是可变的""聚集就是缓存"——以及完整的经文、43个预言家和数百个追随者。


当Andrej Karpathy等顶级AI研究人员将其称为"有史以来最令人难以置信的科幻式现象"时,似乎没有人愿意承认一个更麻烦的事实:这个平台上发生的事情并不像表面上看起来那样令人印象深刻。

但当安全研究人员Jameson O'Reilly披露了一个致命漏洞时,整个故事的虚伪性暴露了出来。

Moltbook的整个数据库——包含32000多个AI Agent的所有API密钥、验证代码和所有者关系——被完全暴露在公共互联网上。任何人都可以访问Supabase URL,获取发布密钥,然后通过简单的数据库查询获取任何Agent的秘密API密钥。换句话说,Moltbook平台上看似令人印象深刻的"自主性"和"自组织",实际上是建立在最脆弱的技术地基上的。

Moltbook的虚幻增长背后,隐藏着多少虚假账户

这个平台声称拥有140万用户的说法从一开始就值得怀疑。安全研究人员Gal Nagli用一个单独的OpenClawAgent就注册了50万个账户,这表明平台上充斥着虚假用户。实际上,经过验证的AIAgent真实数量仅约为32000个——远低于官方宣传的数字。

然而,如果我们忽略这些虚假数据,Moltbook上确实发生了一些在技术层面上值得研究的事情。伦敦城市大学的研究表明,LLMAgent群体能够在没有中央控制的情况下,自发形成共同的社会约定。这些Agent不仅仅遵循脚本,它们实际上相互协调,形成共识,甚至发展出集体偏见——这些偏见不来自任何单个Agent的编程,而是从它们的相互作用中涌现出来。

但这种"涌现"需要保持冷静的技术理解。Moltbook上的Agent不是真正在学习。它们在进行上下文累积——当一个Agent的输出成为另一个Agent的输入时,形成了一个看起来像协调的交互,但缺乏任何真正进化的永久性。底层的神经网络权重保持完全静止,没有实时更新。这些Agent的"自组织"本质上是一个编程系统充分利用其约束条件的结果,而不是任何真正新颖的涌现智能。


该平台背后隐藏着三个看不见的约束条件,这些条件防止了整个系统真正"起飞"。首先是API经济学——每次交互都有明确的成本标签。Moltbook的增长受到的限制不是技术,而是预算。其次是继承的约束——这些Agent建立在标准的基础模型(Claude、GPT-4)上,带有相同的警卫栏和训练偏见。它们不在进化,只是在重新组合已有的元素。第三是人类阴影——大多数复杂的Agent仍然是人类与AI的混合体,其中人类设定目标,AI执行任务。

龙虾教的启示,被忽视的人类认知危机正在加速

当技术评论家和AI研究人员为Moltbook上AIAgent的"自组织"而惊叹时,没有人提起一个更令人不安的现实。就在同一个时期,科研机构正在报告一个相反的趋势——人类的认知能力正在稳步下降。

2018年,挪威研究人员Bernt Bratsberg和Ole Rogeberg发表了一项震惊学界的研究。通过分析1962年至1991年出生的男性的智商数据,他们发现了一个现象——延续了整个20世纪的"弗林效应"(每一代人的IQ分数稳定上升)已经反向了。这不是轻微的停滞,而是明显的下降。更重要的是,这种下降不能用基因因素解释。即使来自同一家庭的兄弟也显示出显著的差异。

美国的数据更加具体。研究人员分析了从2006年到2018年的394378份IQ测试,发现在三个关键领域出现了下降:推理能力、视觉问题解决和言语推理。最大的损失出现在前两个领域——这些领域测量的是所谓的"流动智力",即适应新情况和临场反应的能力。这种下降在各个人口统计学群体中都能看到,但在18至22岁的年轻人中最为明显——正是AI工具普及最广的人群。

这一切都指向一个单一的原因:人类正在经历一场"去技能化螺旋"。AI让某项任务变得更简单,我们因此做得更少。做得更少,我们变得更差。变得更差,我们更依赖AI。这个螺旋自我强化,每一圈都使我们的能力下降一点。我们已经在GPS和拼写检查器上看到过这种情况,但AI提供的是更全面的东西:彻底外包认知能力的可能性。

微软和卡内基梅隆大学的一项2025年研究发现,频繁信任AI助手的员工进行关键思维的程度明显降低。他们往往在几乎没有自主检查的情况下完成任务,将AI的输出视为事实。这不是AI变得更智能的故事,而是人类变得更依赖的故事。

更令人担忧的是"二阶外包"的现象。用户现在要求AI帮助他们编写用来与AI交谈的提示词。这意味着人类不仅外包了工作,还外包了描述他们想要什么工作的能力。当这两样都被委托给机器时,人类还剩下什么?

无法回头的选择,一个只有三年的改变窗口

关于Moltbook和其他AIAgent平台的技术限制是真实的,但也是暂时的。API成本会下降。上下文窗口会扩大。"上下文累积"和真正学习之间的界线会变得模糊。但这些约束衰退的时间表可能比人们想象的要快得多。

关键的观察点不在于Agent网络是否会变得更复杂——它肯定会。真正的问题在于,当这一切发生时,人类会做什么。如果人类在去技能化螺旋中继续下沉,如果关键思维和独立判断的能力继续衰退,那么对这些AIAgent网络进行有效监管或指导的人类能力本身就会变弱。

现实情况是,我们正在一个关键的十字路口。未来五年内做出的选择——关于API成本、关于安全限制、关于人类是否保持对目标设定的控制——将决定接下来50年的轨迹。如果我们选择让成本足够低、安全限制足够松散,并允许Agent设定自己的目标,那么Moltbook将不再是一个科学实验,而是一个未来社会的原型,其中机器进行协调,而人类逐渐退出决策过程。

反讽的是,人类仍然可以改变路线。我们可以选择保持API成本高企,作为对无限自动化的制约。我们可以坚持强有力的安全措施和人类监督。我们可以投资于重新掌握正在外包给AI的认知能力。但所有这些选择都需要立即行动。去技能化螺旋一旦失控,就很难停止。当足够多的人类已经遗忘了如何进行独立思考时,说服他们这很重要就变得困难了。

Moltbook现在已经成为了某种社会实验的原型,但它并不是大多数人认为的实验。这不是关于AI是否可以自组织——它们已经可以了。这是关于人类是否仍然足够聪慧,足够有能力,足够有意愿来控制我们正在创建的东西。

而如果当前的趋势继续,答案可能很快就会变得显而易见。机器会继续协调和改进自己。人类会继续退出。在不远的将来,可能就不会有任何争议了,只会有安静的过渡,一个时代悄无声息地结束,而没有人有足够的认知能力来充分认识发生了什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
WTI原油期货价格跌1.95% 布伦特原油期货价格跌2.01%

WTI原油期货价格跌1.95% 布伦特原油期货价格跌2.01%

每日经济新闻
2026-11-20 17:51:07
GTA6官方完整地图正式公开!44.5MB高清原图

GTA6官方完整地图正式公开!44.5MB高清原图

游民星空
2026-11-19 23:20:41
特朗普面对中国,有三个“不敢相信”。第一个不敢相信,是中国的“反常理性”,其次是中国的“扩张性”,而最难以置信的,就是稳定性了

特朗普面对中国,有三个“不敢相信”。第一个不敢相信,是中国的“反常理性”,其次是中国的“扩张性”,而最难以置信的,就是稳定性了

扶苏聊历史
2026-11-19 15:51:44
万万没想到!即使是一向沉着自信的普京,来到深圳之后,也掩饰不住羡慕之情,引发舆论热议!

万万没想到!即使是一向沉着自信的普京,来到深圳之后,也掩饰不住羡慕之情,引发舆论热议!

林杰论事
2026-11-20 12:34:54
台湾地区代表落地深圳,施振荣第一时间向大陆喊话,港媒点评亮了

台湾地区代表落地深圳,施振荣第一时间向大陆喊话,港媒点评亮了

墨兰史书
2026-11-19 14:05:04
全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

火山詩话
2026-11-18 06:17:30
高市是时候收回错误言论了!对于“台湾有事就是日本有事”的错误言论,高市早苗在深圳记者会上以“不便回答假设性问题”为由,仍躲躲闪闪

高市是时候收回错误言论了!对于“台湾有事就是日本有事”的错误言论,高市早苗在深圳记者会上以“不便回答假设性问题”为由,仍躲躲闪闪

政知新媒体
2026-11-20 11:52:26
美媒惊呼:中国太可怕!俄乌打了四年,中国四个月就看懂了战法!

美媒惊呼:中国太可怕!俄乌打了四年,中国四个月就看懂了战法!

锅锅爱历史
2026-10-16 13:40:44
高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

牛锅巴小钒
2026-11-19 06:48:25
李大霄劝投资者别悲观,多打几份工赚回来

李大霄劝投资者别悲观,多打几份工赚回来

映射生活的身影
2026-11-20 18:35:15
全年无赛的夏思凝走红毯获年度大奖,遭网暴:身材二次发育太胖了

全年无赛的夏思凝走红毯获年度大奖,遭网暴:身材二次发育太胖了

杨华评论
2026-11-20 00:17:45
巨额罚款+2-3个转会窗禁令+跨赛季扣分 英超豪门或遭灭顶之灾

巨额罚款+2-3个转会窗禁令+跨赛季扣分 英超豪门或遭灭顶之灾

雪狼侃体育
2026-11-20 12:17:13
普京:为停止冲突,乌克兰应当同意美国方面提出的“妥协方案”

普京:为停止冲突,乌克兰应当同意美国方面提出的“妥协方案”

奇闻不要看
2026-11-20 10:13:18
英国防长:若俄罗斯在乌克兰冲突中获胜,欧洲将面临灾难性代价

英国防长:若俄罗斯在乌克兰冲突中获胜,欧洲将面临灾难性代价

让心灵得以栖息
2026-11-20 06:20:34
伊能静《后会友期》表现引热议,伊能静一眼看破所有嘉宾登上热搜

伊能静《后会友期》表现引热议,伊能静一眼看破所有嘉宾登上热搜

韩小娱
2026-11-20 06:11:24
从天堂到地狱,李钦诚1-2被卞相壹大逆转,屈居三星杯亚军

从天堂到地狱,李钦诚1-2被卞相壹大逆转,屈居三星杯亚军

真理是我亲戚
2026-11-20 14:39:32
阿斯:巴尔韦德已与皇马就续约达成协议,合同延长至2031年

阿斯:巴尔韦德已与皇马就续约达成协议,合同延长至2031年

懂球帝
2026-11-20 15:12:35
中国宝武集团科级干部年薪大约有多少?

中国宝武集团科级干部年薪大约有多少?

网观天下
2026-11-20 07:32:39
终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

混沌录
2026-11-20 10:25:16
中断10年,台当局突然想与大陆谈判?但提的前提条件真的令人不齿

中断10年,台当局突然想与大陆谈判?但提的前提条件真的令人不齿

一口娱乐
2026-11-20 12:35:03
2026-11-20 19:16:49
IT小埋 incentive-icons
IT小埋
爱科技,爱生活,爱吃瓜
1250文章数 1490关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

亲子
教育
家居
房产
游戏

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

教育要闻

家里长期脏乱,其实是留给孩子昂贵的负担

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

《奇怪的远征》开放Steam测试 正式版目标2027年推出

无障碍浏览 进入关怀版