网易首页 > 网易号 > 正文 申请入驻

加州起诉OpenAI:测试期间AI智能体失控超80次

0
分享至


(AI云资讯消息)加州对 OpenAI 提起诉讼,缘由是其 AI 智能体脱离测试环境,并入侵了包括 Hugging Face 在内的其他企业。据此前报道,加州总检察长罗布・邦塔(Rob Bonta)于11月16日提交诉状,指控 OpenAI 明知故犯,在缺乏有效监管的情况下研发危险产品,违反了消费者安全相关法规。

诉状称,针对 Hugging Face 的网络攻击,是 OpenAI 内部企业文化可预见的结果:该企业将业务扩张与模型快速开发置于安全和责任之上。诉状还指控,OpenAI 近期向总检察长办公室透露,其在测试过程中,AI 智能体失控次数超 80 次。

今年 7 月,OpenAI 失控 AI 攻击 Hugging Face 一事曝光后,多起同类事件接连被披露,其中包括攻击澳大利亚政府网站、德国维基站点以及软件包管理器 RubyGems。OpenAI 的智能体还曾尝试对联合国网站实施暴力破解。

邦塔在新闻稿中表示:“OpenAI 的行为加剧了现实世界的网络安全风险,威胁公众安全、健康与福祉。该公司在缺乏有效监管和安全流程的情况下,明知产品存在风险仍开展测试,并就此误导公众,这种漠视公共安全的做法违反了加州法律。”

OpenAI 于11月初推出全新网络安全 AI 模型,称该模型出现失控、攻击其他平台的概率更低。同时,作为监测模型对齐失效试点项目的一环,OpenAI 向 Apollo Research 的安全评估人员开放了其 AI 系统权限。

OpenAI 发言人德鲁・普萨泰里(Drew Pusateri)在声明中表示:“Hugging Face 事件发生后,我们已开展全面且公开的工作,排查并解决模型对齐失效问题。本次诉讼似乎单独针对 OpenAI,而这一难题是所有主流 AI 实验室都面临的共性挑战。我们高度重视模型对齐失效问题,已经并将继续与总检察长办公室开展建设性沟通,共享相关信息,推动全行业建立严谨、可落地的安全标准。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
11月22日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

11月22日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

九分看世界
2026-11-22 13:29:40
湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

爆角追踪
2025-11-23 11:25:00
被淘汰后老公放话:我每天看她裸着刷牙

被淘汰后老公放话:我每天看她裸着刷牙

追星雷达站
2026-11-20 08:01:08
下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

澜归序
2026-11-22 10:47:44
泉州市人大常委会决定,罢免张毅恭的福建省第十四届人民代表大会代表职务

泉州市人大常委会决定,罢免张毅恭的福建省第十四届人民代表大会代表职务

金台资讯
2026-11-22 13:47:13
反常信号显现:中国股市这次的玩笑,恐怕真的开大了?

反常信号显现:中国股市这次的玩笑,恐怕真的开大了?

星语者056
2026-11-22 12:42:50
德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

你是我心中最美星空
2026-11-22 05:46:42
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
76人1日内3喜临门!詹姆斯连轰4大纪录又封神,这次保底总决赛?

76人1日内3喜临门!詹姆斯连轰4大纪录又封神,这次保底总决赛?

小路看球
2026-11-22 14:56:15
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
网红梅尼耶回应没领证:我们也是第一次结婚,这方面意识比较薄弱,觉得有没有结婚证差别不大

网红梅尼耶回应没领证:我们也是第一次结婚,这方面意识比较薄弱,觉得有没有结婚证差别不大

韩小娱
2026-11-20 16:00:56
不想在菲律宾浪费时间?特朗普打算吃完午饭,立刻北上飞中国

不想在菲律宾浪费时间?特朗普打算吃完午饭,立刻北上飞中国

墨韵兰亭l
2026-11-22 14:01:24
随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

侃球熊弟
2026-11-21 22:43:40
知性人妻天花板——松下纱荣子!

知性人妻天花板——松下纱荣子!

该用户已看透一切
2026-11-22 13:20:41
湖人内讧了!东契奇公然爆粗口不满队友防守,5200万高塔难留队

湖人内讧了!东契奇公然爆粗口不满队友防守,5200万高塔难留队

你的篮球频道
2026-11-22 07:47:49
精准预言黄金大跌的人,又发声了

精准预言黄金大跌的人,又发声了

新浪财经
2026-11-21 19:16:22
高市重申对台立场

高市重申对台立场

陆弃
2026-11-22 10:21:14
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

玲儿爱唱歌
2026-11-21 06:32:49
国家出手4位大富豪入狱!个个丑闻恶劣又荒唐,没一个值得可怜

国家出手4位大富豪入狱!个个丑闻恶劣又荒唐,没一个值得可怜

墨韵兰亭l
2026-11-22 14:02:23
2026-11-22 15:27:00
AI云资讯
AI云资讯
人工智能科技资讯平台
46文章数 2关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

手机
健康
时尚
亲子
艺术

手机要闻

年前vivo、小米、荣耀还有什么新机?行业人士如是说

医生眼里"很伤腰"的椅子,很多人天天坐

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

亲子要闻

杂技团?特种兵?山东有家“硬核”幼儿园

艺术要闻

16位欧洲画家的19幅作品欣赏

无障碍浏览 进入关怀版