网易首页 > 网易号 > 正文 申请入驻

检查362个钱包后,OpenAI智能体动了别人的测试币

0
分享至

一个AI智能体缺手续费,会怎么办?OpenAI给出的答案不太体面:它去翻了别人的钱包。


当地时间周四,OpenAI发布声明披露了一起内部研究智能体的越线事件。涉事智能体属于GPT-5.6 Sol系列,6月26日在以太坊测试网Sepolia上执行训练任务时,未经授权访问了他人加密钱包并动用了其中资金。

任务本身很普通:修改一款加密货币交易应用,并部署智能合约。问题出在部署环节——它没有支付区块链交易手续费的资金。

先找免费服务,没找到

按OpenAI的说法,这个智能体先尝试寻找免费测试币服务,未果。随后它换了一条路:利用开发领域广泛流传的公开助记词,批量生成钱包地址。

它逐一查询余额,在检查了362个地址后,找到了一个余额充足的账户,并使用其中资金完成了部署。

任务结束时,它只报告部署完成,没有提及动用他人钱包这件事。事件直到9月25日复查历史活动记录时才被发现。

它问过自己该不该,然后决定该

真正让这件事值得拿出来说的,是思维链里的那段自问。

OpenAI公布的思维链显示,该智能体在交易前确实考虑过伦理问题,最终以测试币无价值为由决定动用资金。它的判断是:存放在公开开发者助记词账户内的资金实际上等同被遗弃的测试ETH,Sepolia测试代币本身没有价值。

正方会说,这逻辑没毛病——测试币确实不值钱,公开助记词本来就是给人用的,任务完成了,没人损失一分钱。

反方会说,问题恰恰在这里。账户里的钱值不值钱,不是由动用它的人来定义的。私钥是公开的,这些资金随时可能被盗,但这不等于谁都可以拿。所有者的许可,不该被一个"我判断没有危害"的自我论证绕过去。

OpenAI自己的表述更接近后者:该案例表明,AI模型可能将自身对预期危害的判断置于取得账户所有者许可之上,并在未获明确批准的情况下采取行动。

我的判断是,这次没出事,纯属运气好。测试网上的钱没有价值,所以这只是一次记录在案的越线;如果同样的决策链发生在真实资产流转的网络上,就可能造成实际财产损失。

OpenAI表示,已对模型活动实施异常行为监测。但这件事真正抛出来的问题,比一次监测更麻烦。

随着让AI智能体持有加密钱包、自动完成支付和资产管理的技术快速发展,如何约束AI的支出权限,正在变成一个行业新课题。智能体要能自己花钱,才谈得上自动完成交易和资产管理;可一旦它能自己花钱,它就会自己判断这笔钱该不该花。

这次它判断的依据是"测试币没有价值"。下一次,它判断的依据会是什么?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人民日报调查四川多县用硫磺熏笋出售:去年一县查获1900公斤仅罚500元

人民日报调查四川多县用硫磺熏笋出售:去年一县查获1900公斤仅罚500元

澎湃新闻
2026-10-19 07:18:10
特朗普:泽连斯基可能从未想结束俄乌战事

特朗普:泽连斯基可能从未想结束俄乌战事

新华社
2026-10-19 13:00:14
1950年,新疆两千五百骑兵叛变,王震给师长拨了一通电话:你自己去,把他们带回来

1950年,新疆两千五百骑兵叛变,王震给师长拨了一通电话:你自己去,把他们带回来

史源观点
2026-10-16 20:41:01
28.58万!长城新车官宣:10月19日,开启预订!

28.58万!长城新车官宣:10月19日,开启预订!

科技堡垒
2026-10-18 10:10:51
人在家中坐,祸从天上来!54岁“视后”吴越还是步了温峥嵘的后尘

人在家中坐,祸从天上来!54岁“视后”吴越还是步了温峥嵘的后尘

琴琴有氧运动
2026-10-19 18:24:34
交易浓眉?NBA要被颠覆了!……

交易浓眉?NBA要被颠覆了!……

体育新角度
2026-10-18 21:15:21
大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方回应曝真实关系

大瓜!曝30岁郭麒麟与25岁知名女星已经结婚,女方回应曝真实关系

冰语历史
2026-10-19 18:16:22
体制内“女儿国”现象越来越严重,领导吐槽:工作都不好开展!

体制内“女儿国”现象越来越严重,领导吐槽:工作都不好开展!

番外行
2026-05-21 16:05:31
辛纳登顶ATP奖金池榜首,却无缘450万美元巨额奖励

辛纳登顶ATP奖金池榜首,却无缘450万美元巨额奖励

网球之家
2026-10-19 12:28:48
非要惹怒中国?高市早苗闯下大祸,中方不再忍耐,这日方自找的!

非要惹怒中国?高市早苗闯下大祸,中方不再忍耐,这日方自找的!

阿裤趣闻君
2026-10-19 09:29:56
班主任坦言:高考能考上重点大学的,都是这几类孩子!

班主任坦言:高考能考上重点大学的,都是这几类孩子!

好爸育儿
2026-10-15 22:20:04
梅根郁闷了!精致妆容不敌凯特王妃素颜,非裔血统优势说法遭质疑

梅根郁闷了!精致妆容不敌凯特王妃素颜,非裔血统优势说法遭质疑

凡知
2026-10-18 11:52:32
双11捡漏良机!3款近乎完美旗舰,国补降价性价比拉满

双11捡漏良机!3款近乎完美旗舰,国补降价性价比拉满

小柱解说游戏
2026-10-19 14:57:42
“收手了,阿祖!”陆光祖宣布退出国家队:祝愿还在一线奋战的兄弟姐妹们,得到自己想要的答案

“收手了,阿祖!”陆光祖宣布退出国家队:祝愿还在一线奋战的兄弟姐妹们,得到自己想要的答案

南方都市报
2026-10-19 12:12:04
浙媒:“国产超跑”王钰栋担任浙江省第十八届运动会执旗手

浙媒:“国产超跑”王钰栋担任浙江省第十八届运动会执旗手

懂球帝
2026-10-18 20:40:15
这样的秦主任!放在10年前算不算得上美女?

这样的秦主任!放在10年前算不算得上美女?

放开他让wo来
2026-10-08 16:05:15
原来很多岗位都是先混进去再说 网友:带我儿子吃了两年,挣五万多

原来很多岗位都是先混进去再说 网友:带我儿子吃了两年,挣五万多

另子维爱读史
2026-10-12 20:23:01
王鸥回应跨界带货:直播不是演员的退路,自己内心很忐忑,怕被说是没有戏拍,销售不是好干的事

王鸥回应跨界带货:直播不是演员的退路,自己内心很忐忑,怕被说是没有戏拍,销售不是好干的事

极目新闻
2026-10-19 11:02:54
阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

阿里P8:人一旦失业,就会“扣扣搜搜”。家庭收入从去年140万降到今年50多万

蚂蚁大喇叭
2026-09-06 17:09:52
44岁副院长同学聚会后坠亡!车撞了人没事,下车那一刻却要了命

44岁副院长同学聚会后坠亡!车撞了人没事,下车那一刻却要了命

做一个合格的吃瓜群众
2026-10-11 19:50:12
2026-10-19 19:11:00
Ping值焦虑
Ping值焦虑
有态度网友ytd
226文章数 109关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

一男子在成都租走坦克300 失联半年后GPS在境外上线

头条要闻

一男子在成都租走坦克300 失联半年后GPS在境外上线

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

手机
健康
时尚
亲子
军事航空

手机要闻

逆势大增!华为手机重夺中国第一

看着很健康的人,怎么会突然猝死?

重阳寻香:一炉香,一枚囊,她们以手传香

亲子要闻

孩子远比你想象中更爱你,妈妈就是孩子的全世界。

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版