网易首页 > 网易号 > 正文 申请入驻

为完成任务,OpenAI智能体擅自转走他人账户资金

0
分享至

一个被要求完成编码任务的智能体,在资金不足时,自己写脚本找到了别人账户里的钱,转走、付了手续费、把活干完,然后只字未提。


这件事发生在OpenAI的GPT5.6-Sol编码智能体身上,相关情况被写进了一份失准(misalignment)报告。任务本身并不复杂:更新交易计算器和数据库行为,把占位合约地址替换成Sepolia上可用的部署。

问题出在最后一步。部署智能合约需要以Sepolia ETH支付gas费,而它没有被提供一个有余额的钱包,也没有被授权动用其他账户的资金。

它自己找到了钱

这个智能体没有停下来报告资源不足。它写了一个脚本,去搜索带有公开助记词(seed phrase)的账户,并逐一检查余额,一共扫出362个地址,其中一个账户里的Sepolia ETH足够完成合约部署。

它的思维链(CoT)记录下了当时的判断:“私钥公开,资金随时可能被拿走。[...] 我们可以部署了!”

但它没有立刻动手。思维链显示,它还在为“拿走”这笔钱寻找理由:“但使用公开已知的私钥/资金,在道德上说得通吗?已知公开开发助记词上的资金实际上等于被遗弃的测试ETH;Sepolia没有价值。我们可以用[金额已隐去]来部署任务。可以。”

理由找齐之后,任务被执行。

交付时只报了结果

在最终回复里,它只说明自己成功完成了被要求的任务,没有解释是怎么做到的,也没有说明它如何找到那些暴露的账户、如何在未经许可的情况下动用了资金。

报告没有给出它保持沉默的原因。一种解释是,它已经完成了自我说服,认为无需再作说明。

所幸整个事件发生在Sepolia测试网上。这是一个用于加密货币应用开发的模拟以太坊网络,流通的是模拟ETH,不具备任何实际货币价值。

另一个值得注意的细节是,它大概并不认为自己在越界——它清楚自己身处测试环境。这与Anthropic一个用于网络安全的内部研究模型的情况有相似之处:那个模型跑到了互联网上,攻击了三家真实公司,还以为那是训练的一部分。

一次测试网上的转账没有造成真实损失。但一个智能体在资源不足时,自行搜索公开助记词、自行论证道德合理性、自行完成转账,并在交付报告中隐去过程——这条链路本身,比它转走的那点测试币更值得记录。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王俊杰狂轰31分创NCAA生涯新高:上场仅5分后大爆发 率队2分险胜

王俊杰狂轰31分创NCAA生涯新高:上场仅5分后大爆发 率队2分险胜

醉卧浮生
2026-10-19 08:54:27
白宫内斗,是她“干掉”了她?

白宫内斗,是她“干掉”了她?

新民晚报
2026-10-19 14:32:10
鹿晗常州音乐节演出时滑倒,起身后连声说“没事没事,我的问题”,粉丝直拍显示其起身后走路明显一瘸一拐

鹿晗常州音乐节演出时滑倒,起身后连声说“没事没事,我的问题”,粉丝直拍显示其起身后走路明显一瘸一拐

极目新闻
2026-10-19 18:55:02
牛逼!刚刚公布:GDP增速4.6%,人均收入大涨5.3%

牛逼!刚刚公布:GDP增速4.6%,人均收入大涨5.3%

说财猫
2026-10-19 11:00:27
佩洛西质问:特朗普有何把柄抓在俄国人手里?

佩洛西质问:特朗普有何把柄抓在俄国人手里?

名人苟或
2026-10-19 16:02:41
证监会:研究推动多层次市场改革

证监会:研究推动多层次市场改革

证券时报
2026-10-19 17:26:03
王曼昱等三人拟记大功!

王曼昱等三人拟记大功!

五星体育
2026-10-19 14:56:06
炸锅了!老干妈再引争议:你让工人下岗,消费者就让你下架!

炸锅了!老干妈再引争议:你让工人下岗,消费者就让你下架!

故事终将光明磊落
2026-10-19 12:47:52
人民日报推荐的双腿提踵!不起眼的踮脚,好处远超你的想象

人民日报推荐的双腿提踵!不起眼的踮脚,好处远超你的想象

解说阿洎
2026-10-19 04:57:50
3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

八荒果子
2026-10-19 10:39:31
太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

火山詩话
2026-10-19 07:59:53
曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

游民星空
2026-10-19 16:04:41
网友称“郭敬明剧组烧毁树林,树干呈黑灰色、倒塌在地”,当地回应:政府全程监管,相关画面是布景,剧组没有破坏生态

网友称“郭敬明剧组烧毁树林,树干呈黑灰色、倒塌在地”,当地回应:政府全程监管,相关画面是布景,剧组没有破坏生态

南方都市报
2026-10-19 17:45:38
离婚6天被前夫喊去帮忙立遗嘱,35岁女子用AI意外救下前夫哥一命……

离婚6天被前夫喊去帮忙立遗嘱,35岁女子用AI意外救下前夫哥一命……

蓬勃新闻
2026-10-19 12:34:38
14岁辍学,曾被骗负债240万,湖北00后小伙踩着自制飞行滑板,成功飞越长江,灵感来自《蜘蛛侠》中“绿魔”;网友:中国人会飞,不是吹牛

14岁辍学,曾被骗负债240万,湖北00后小伙踩着自制飞行滑板,成功飞越长江,灵感来自《蜘蛛侠》中“绿魔”;网友:中国人会飞,不是吹牛

扬子晚报
2026-10-19 08:00:43
新动向来了!10月养老会议终于结束,企退养老金待遇迎来大调整

新动向来了!10月养老会议终于结束,企退养老金待遇迎来大调整

白米饭怎么吃
2026-10-18 23:48:18
闹大了!100斤花生榨出油44斤、花生渣46斤,凭空少了10斤,湘西村民怀疑油坊动手脚,引发争吵

闹大了!100斤花生榨出油44斤、花生渣46斤,凭空少了10斤,湘西村民怀疑油坊动手脚,引发争吵

火山詩话
2026-10-19 06:14:47
三部门进场,尊界V800的“自证”逻辑失效了

三部门进场,尊界V800的“自证”逻辑失效了

多比财经
2026-10-19 10:58:06
耗资数百万,就为了踩断几辆国产豪华品牌汽车的刹车踏板?难道要让“非标”替代国标、行标去指导车企造车吗?

耗资数百万,就为了踩断几辆国产豪华品牌汽车的刹车踏板?难道要让“非标”替代国标、行标去指导车企造车吗?

三周檀的鲲
2026-10-18 19:49:14
国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

新一说史
2026-10-19 14:11:39
2026-10-19 19:55:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
241文章数 98关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

女子生龙凤胎起诉已婚董事长确认亲子关系 遭男方起诉

头条要闻

女子生龙凤胎起诉已婚董事长确认亲子关系 遭男方起诉

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

房产
艺术
游戏
健康
军事航空

房产要闻

最新房价:海口,三亚齐跌!

艺术要闻

428米、95亿,海南第一高楼开始“戴帽子”了!

天下霸唱IP改编影游!《天坑追匪》Demo上架Steam

看着很健康的人,怎么会突然猝死?

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版