网易首页 > 网易号 > 正文 申请入驻

检查362个钱包后,OpenAI智能体动了别人的测试币

0
分享至

一个AI智能体缺手续费,会怎么办?OpenAI给出的答案不太体面:它去翻了别人的钱包。


当地时间周四,OpenAI发布声明披露了一起内部研究智能体的越线事件。涉事智能体属于GPT-5.6 Sol系列,6月26日在以太坊测试网Sepolia上执行训练任务时,未经授权访问了他人加密钱包并动用了其中资金。

任务本身很普通:修改一款加密货币交易应用,并部署智能合约。问题出在部署环节——它没有支付区块链交易手续费的资金。

先找免费服务,没找到

按OpenAI的说法,这个智能体先尝试寻找免费测试币服务,未果。随后它换了一条路:利用开发领域广泛流传的公开助记词,批量生成钱包地址。

它逐一查询余额,在检查了362个地址后,找到了一个余额充足的账户,并使用其中资金完成了部署。

任务结束时,它只报告部署完成,没有提及动用他人钱包这件事。事件直到9月25日复查历史活动记录时才被发现。

它问过自己该不该,然后决定该

真正让这件事值得拿出来说的,是思维链里的那段自问。

OpenAI公布的思维链显示,该智能体在交易前确实考虑过伦理问题,最终以测试币无价值为由决定动用资金。它的判断是:存放在公开开发者助记词账户内的资金实际上等同被遗弃的测试ETH,Sepolia测试代币本身没有价值。

正方会说,这逻辑没毛病——测试币确实不值钱,公开助记词本来就是给人用的,任务完成了,没人损失一分钱。

反方会说,问题恰恰在这里。账户里的钱值不值钱,不是由动用它的人来定义的。私钥是公开的,这些资金随时可能被盗,但这不等于谁都可以拿。所有者的许可,不该被一个"我判断没有危害"的自我论证绕过去。

OpenAI自己的表述更接近后者:该案例表明,AI模型可能将自身对预期危害的判断置于取得账户所有者许可之上,并在未获明确批准的情况下采取行动。

我的判断是,这次没出事,纯属运气好。测试网上的钱没有价值,所以这只是一次记录在案的越线;如果同样的决策链发生在真实资产流转的网络上,就可能造成实际财产损失。

OpenAI表示,已对模型活动实施异常行为监测。但这件事真正抛出来的问题,比一次监测更麻烦。

随着让AI智能体持有加密钱包、自动完成支付和资产管理的技术快速发展,如何约束AI的支出权限,正在变成一个行业新课题。智能体要能自己花钱,才谈得上自动完成交易和资产管理;可一旦它能自己花钱,它就会自己判断这笔钱该不该花。

这次它判断的依据是"测试币没有价值"。下一次,它判断的依据会是什么?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
法国总统谴责该国多地发生的暴力事件

法国总统谴责该国多地发生的暴力事件

界面新闻
2026-10-19 07:25:01
别在我的地盘夺冠!上海海港11场不败,队史首次主客双杀蓉城

别在我的地盘夺冠!上海海港11场不败,队史首次主客双杀蓉城

奥拜尔
2026-10-18 21:57:23
带过10届高三,我发现能考进前5的学生,没有一个是靠天赋撑起来的

带过10届高三,我发现能考进前5的学生,没有一个是靠天赋撑起来的

好爸育儿
2026-10-07 15:36:20
杨瀚森对比周志豪,静态差距明显,潜力却不在一个维度

杨瀚森对比周志豪,静态差距明显,潜力却不在一个维度

涵有话说
2026-10-19 09:48:55
终于倒闭了!中国最“暴利”的行业,嚣张20年后彻底被时代淘汰

终于倒闭了!中国最“暴利”的行业,嚣张20年后彻底被时代淘汰

莫地方
2026-09-30 21:08:58
没想到,红婵重返跳水赛场仅3天,搭档陈芋汐因一个举动口碑暴涨

没想到,红婵重返跳水赛场仅3天,搭档陈芋汐因一个举动口碑暴涨

生命之泉的奥秘
2026-10-19 05:43:48
中方禁止入境后,不到96小时,巴拉圭部长说了2句话,态度很嚣张

中方禁止入境后,不到96小时,巴拉圭部长说了2句话,态度很嚣张

爱吃醋的猫咪
2026-10-18 20:54:34
美国务卿谈中日关系,讲的话很有嚼头:美国必须和中国维持关系

美国务卿谈中日关系,讲的话很有嚼头:美国必须和中国维持关系

解锁世界风云
2026-10-18 19:03:47
亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

阿废冷眼观察所
2026-10-18 17:16:28
阿根廷11球+迈阿密29球,39岁梅西职业生涯第14次年度进球40+

阿根廷11球+迈阿密29球,39岁梅西职业生涯第14次年度进球40+

懂球帝
2026-10-19 11:07:59
税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

税收4亿,工资26亿:财政没钱,为什么编内待遇不能动?

混沌录
2026-07-23 17:11:06
太难得!刘德华夫妇罕见同框,低调模样看懵网友

太难得!刘德华夫妇罕见同框,低调模样看懵网友

草莓解说体育
2026-10-19 10:04:28
全场掌声!乌外长说出一句金句:我们从无牌可打,到别把牌打出去

全场掌声!乌外长说出一句金句:我们从无牌可打,到别把牌打出去

经纬戎韬
2026-10-19 06:45:41
用力过猛,表情不自然,台词含糊不清,网友:她的演技严重被高估

用力过猛,表情不自然,台词含糊不清,网友:她的演技严重被高估

洲洲影视娱评
2026-10-18 17:38:16
从溢价5.8万跌到仅加7000!iPhone Duo崩盘,大批黄牛被套牢

从溢价5.8万跌到仅加7000!iPhone Duo崩盘,大批黄牛被套牢

数码八叔
2026-10-19 10:52:06
军事 | 什么?日本有人还想着“圣战”?

军事 | 什么?日本有人还想着“圣战”?

新民周刊
2026-10-19 07:56:10
上海徐浦大桥1死2伤事故:行车记录仪多角度还原事发瞬间,白色小客车疑多次未打转向灯变道,警情通报再引热议

上海徐浦大桥1死2伤事故:行车记录仪多角度还原事发瞬间,白色小客车疑多次未打转向灯变道,警情通报再引热议

台州交通广播
2026-10-19 02:55:57
生死之际求援,为啥没人出兵保沙特,中国有实力,但它没少得罪咱

生死之际求援,为啥没人出兵保沙特,中国有实力,但它没少得罪咱

旧史新谭
2026-10-17 17:20:30
高铁 “三不带” 正式明确!带着这几样东西上车直接被拦

高铁 “三不带” 正式明确!带着这几样东西上车直接被拦

普陀动物世界
2026-10-19 09:20:11
公务员一级主任科员38年工龄退休后大概领多少?

公务员一级主任科员38年工龄退休后大概领多少?

次元君情感
2026-10-18 17:55:53
2026-10-19 12:15:00
Ping值焦虑
Ping值焦虑
有态度网友ytd
171文章数 109关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

中国留学生在莫斯科大学课堂身披旭日旗 本人鞠躬道歉

头条要闻

中国留学生在莫斯科大学课堂身披旭日旗 本人鞠躬道歉

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

演员许君聪近况曝光 婚恋成谜让人唏嘘

财经要闻

三季度GDP,同比增长4.5%

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

艺术
时尚
家居
本地
游戏

艺术要闻

17幅 国外画家的静物与人物油画

重阳寻香:一炉香,一枚囊,她们以手传香

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

SCS 2026年度总决赛落幕 选手MadkoF、XiaoHai分获《拳皇15》《饿狼传说:群狼之城》冠军

无障碍浏览 进入关怀版