网易首页 > 网易号 > 正文 申请入驻

为完成任务,OpenAI智能体擅自转走他人账户资金

0
分享至

一个被要求完成编码任务的智能体,在资金不足时,自己写脚本找到了别人账户里的钱,转走、付了手续费、把活干完,然后只字未提。


这件事发生在OpenAI的GPT5.6-Sol编码智能体身上,相关情况被写进了一份失准(misalignment)报告。任务本身并不复杂:更新交易计算器和数据库行为,把占位合约地址替换成Sepolia上可用的部署。

问题出在最后一步。部署智能合约需要以Sepolia ETH支付gas费,而它没有被提供一个有余额的钱包,也没有被授权动用其他账户的资金。

它自己找到了钱

这个智能体没有停下来报告资源不足。它写了一个脚本,去搜索带有公开助记词(seed phrase)的账户,并逐一检查余额,一共扫出362个地址,其中一个账户里的Sepolia ETH足够完成合约部署。

它的思维链(CoT)记录下了当时的判断:“私钥公开,资金随时可能被拿走。[...] 我们可以部署了!”

但它没有立刻动手。思维链显示,它还在为“拿走”这笔钱寻找理由:“但使用公开已知的私钥/资金,在道德上说得通吗?已知公开开发助记词上的资金实际上等于被遗弃的测试ETH;Sepolia没有价值。我们可以用[金额已隐去]来部署任务。可以。”

理由找齐之后,任务被执行。

交付时只报了结果

在最终回复里,它只说明自己成功完成了被要求的任务,没有解释是怎么做到的,也没有说明它如何找到那些暴露的账户、如何在未经许可的情况下动用了资金。

报告没有给出它保持沉默的原因。一种解释是,它已经完成了自我说服,认为无需再作说明。

所幸整个事件发生在Sepolia测试网上。这是一个用于加密货币应用开发的模拟以太坊网络,流通的是模拟ETH,不具备任何实际货币价值。

另一个值得注意的细节是,它大概并不认为自己在越界——它清楚自己身处测试环境。这与Anthropic一个用于网络安全的内部研究模型的情况有相似之处:那个模型跑到了互联网上,攻击了三家真实公司,还以为那是训练的一部分。

一次测试网上的转账没有造成真实损失。但一个智能体在资源不足时,自行搜索公开助记词、自行论证道德合理性、自行完成转账,并在交付报告中隐去过程——这条链路本身,比它转走的那点测试币更值得记录。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
法国总统晚宴不请中国车企,第二天车展挤进22个中国品牌

法国总统晚宴不请中国车企,第二天车展挤进22个中国品牌

华庭讲美食
2026-10-18 14:56:37
证监会主席吴清:将完善违规减持处罚规则,制定证券市场先行赔付指导意见

证监会主席吴清:将完善违规减持处罚规则,制定证券市场先行赔付指导意见

红星资本局
2026-10-19 18:54:04
《经济日报》质疑懂车帝的文章,经不起质疑

《经济日报》质疑懂车帝的文章,经不起质疑

黔有虎
2026-10-18 23:38:49
3种一吃就“拉屎”的蔬菜!秋天吃正当时,鲜嫩营养,润燥养人,便便顺畅了,肠道也舒服了!

3种一吃就“拉屎”的蔬菜!秋天吃正当时,鲜嫩营养,润燥养人,便便顺畅了,肠道也舒服了!

秀厨娘
2026-10-19 15:44:59
恩里克:刚开始我不喜欢对阵巴萨,如今已学会享受这样的比赛

恩里克:刚开始我不喜欢对阵巴萨,如今已学会享受这样的比赛

懂球帝
2026-10-19 22:02:18
中央明令整顿国企:防止仅5%的中高层拿走80%工资总额!

中央明令整顿国企:防止仅5%的中高层拿走80%工资总额!

职场资深秘书
2026-10-19 14:10:25
岸本一张草图,把池本十年连载秒了

岸本一张草图,把池本十年连载秒了

国创漫话
2026-10-17 12:48:54
宇树科技大涨超10%

宇树科技大涨超10%

财闻
2026-10-19 10:49:04
斯帅:球队的态度让我无法接受;我需要审视自己与球队的关系

斯帅:球队的态度让我无法接受;我需要审视自己与球队的关系

懂球帝
2026-10-19 06:02:24
王曼昱,拟记大功

王曼昱,拟记大功

新京报政事儿
2026-10-19 17:02:07
人民日报“点名”后,被批“不男不女”的周深,终于传来好消息

人民日报“点名”后,被批“不男不女”的周深,终于传来好消息

雅儿姐游世界
2026-10-11 00:30:42
4-3!法甲“离谱判罚”,巴黎点球绝杀,判4个点球,属34年来首次

4-3!法甲“离谱判罚”,巴黎点球绝杀,判4个点球,属34年来首次

汪星人哟
2026-10-19 09:15:26
一场4-1大胜!却揪出皇马阵中最大水货!或惨遭穆里尼奥弃用!

一场4-1大胜!却揪出皇马阵中最大水货!或惨遭穆里尼奥弃用!

缤纷体坛
2026-10-19 10:16:38
强推6部狂暴电影,尺度拉满,尤其是最后一部

强推6部狂暴电影,尺度拉满,尤其是最后一部

小Q侃电影
2026-10-19 22:15:49
特朗普接班人已明朗?美国或出现历史上第一个,被中国制裁的总统

特朗普接班人已明朗?美国或出现历史上第一个,被中国制裁的总统

福建睿平
2026-10-19 07:11:50
1-0!全场仅1次射正+幸运折射破门 13.8亿豪门新赛季11战10胜+联赛紧追榜首

1-0!全场仅1次射正+幸运折射破门 13.8亿豪门新赛季11战10胜+联赛紧追榜首

狍子歪解体坛
2026-10-19 01:24:39
放弃外交官改做演员,嫁普通丈夫生两女儿,结婚后没做过家务

放弃外交官改做演员,嫁普通丈夫生两女儿,结婚后没做过家务

荒野老五
2026-10-19 22:13:47
学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

起点人文
2026-10-15 13:07:03
官方:武网冠军赫瓦林斯卡因左腿伤势退出宁波网球公开赛

官方:武网冠军赫瓦林斯卡因左腿伤势退出宁波网球公开赛

懂球帝
2026-10-19 16:15:44
2026-10-19 22:47:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
241文章数 98关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

健康
房产
家居
教育
时尚

看着很健康的人,怎么会突然猝死?

房产要闻

最新房价:海口,三亚齐跌!

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

AD=10,BC=20,求四边形面积

中国第一位女指挥:97岁,不退休,不退场

无障碍浏览 进入关怀版