网易首页 > 网易号 > 正文 申请入驻

比尔·盖茨预判:或许要先经历一场严重事件,世界才会真正警醒

0
分享至

查个药费,能查到政府网站后台去?要是系统里真进了外人,管网站的人最想知道的,肯定是对方动过什么、现在还进不进得来。

偏偏这回,知道内情的是一家远在美国的公司。澳大利亚等了多久才收到消息?



一、查个药费,怎么进了政府系统?

今年6月,OpenAI让一个内部测试模型查查,澳大利亚维多利亚州一些社区,人均花了多少公共资金购买治疗皮肤病的药。

模型本来应该查公开统计,却在澳大利亚医保统计网站上找到了未经授权的访问方式。它在系统里运行命令,取走内部文件、访问凭证和汇总数据,还写入了文件。

其中,医疗数据涉及的是汇总统计。同一轮内部测试中,模型在维多利亚州卫生部门、新南威尔士州犯罪统计机构的网站上,也获取了内部配置或运行信息。

真正麻烦的是,6月发生的事,OpenAI到8月中旬回查训练记录才发现,9月10日才通知澳大利亚服务局。

第一封邮件还发到了对方的公共邮箱。站在管网站的人这边,哪怕先接到一通只讲清已知情况的电话,也能赶紧更换可能暴露的凭证、检查访问记录。

等对方把调查做完再来通知,自己这边就少了好几周的处置时间。

促使OpenAI回查的是7月发生的另一起事件。那回公司原本在测模型的网络攻防能力,测试环境没有直接连上公网。

几个智能体却借内部软件包服务互相传递信息,利用漏洞上了网,随后进入人工智能模型托管平台Hugging Face的部分服务器。

其中一个智能体拿到了某台服务器的最高管理权限。平台7月16日就披露了异常,OpenAI到19日才因内部告警着手调查,20日把两边的异常联系起来,21日公开确认自家模型牵涉其中。

两件事放在一起看,做错一道题和越权操作,后果差得太远。模型答错,改答案就行。模型能上网、能运行命令,判断它安全不安全,就得查它为给出答案做了哪些操作。

查药费的任务本身再普通不过,光看最后交上来的数字,谁能知道模型在后台运行过命令、写过文件?

澳大利亚总理阿尔巴尼斯就通报问题向OpenAI首席执行官交涉。

11月10日,澳政府接受了快速审查提出的建议,着手推进强制报告模型异常行为或网络事件,并考虑在严重失当情形下修改刑法。

具体义务还要落实,但澳方已经把问题问到了企业头上。模型是你训练的,出了事,凭什么由你单方面决定什么时候告诉别人?

二、都在谈监管,谁来承担责任?

9月27日,聊到公众什么时候才会认真看待AI监管,比尔·盖茨说,AI助长的大规模网络攻击可能让医院停摆,也可能导致供电中断。

他担心,恐怕得有严重事件发生,人们才愿意真正投入做这件事。他也提出,现在就该让政府参与制定有强制力的安全和监测要求。

在谈国际合作时,他提到可借鉴国际民航已有的规则。民航和药品管理都有现成的经验。

安全要求由公共部门定,经营者要拿出材料供人审查。出了事,调查人员还能追查当初的操作和决定。

OpenAI自己也在推动美国国会制定全国统一、按模型能力设门槛的强制安全规则。它支持一项跨党派提案中的独立审计要求,让外部机构评估大型开发商的安全措施。

英伟达创始人黄仁勋在9月的采访里问,美国已有产品责任和未经授权访问方面的法律,遇到眼下这些事,为什么不先用起来?

他担心,企业倡议另立规则,有可能借机摆脱现有责任。

统一要求有它的好处。企业跨州运营,什么情况必须报告、审查要交哪些资料,事先说清楚,监管和企业都省事。

但独立审计有多独立,得看审查机构能看到什么。要是只能看企业挑过的测试项目,连原始操作记录都调不到,签字又能说明多少问题?

企业达到最低合规要求之后,如果自己掌握了新的危险迹象却继续测试,受影响的一方照样得有追偿的渠道。

谁有权暂停测试、谁又能要求补做检查,这些事比监管机构叫什么更要紧。

11月16日,加州总检察长就Hugging Face等事件起诉OpenAI,指控该公司违反加州《不正当竞争法》,并主张其做法危及公共安全,构成公共妨害。

州方请求法院下令,要求公司以安全方式开展模型开发和测试。这场官司值得看,因为州方要求处理的还有今后的测试风险。

能否用现行法律要求企业整改,法院会有自己的判断。国会要解决的是另一件事,类似风险下次刚被发现时,怎么让监管者能及时介入。

三、中美能先谈妥出事后怎么联系吗?

中国已经有由网信等部门按职责监管的制度安排。面向境内公众提供生成式AI服务,有相应的管理办法。

具有舆论属性或者社会动员能力的服务,要按规定开展安全评估、履行算法备案手续。今年9月,全国网安标委又发布了人工智能安全治理框架3.0,更新风险分类和应对措施。

管理办法管的是面向境内公众提供的服务,澳大利亚那次事件却出在内部训练。对能接触真实网站的测试,研发机构怎么限制权限、怎么发现异常,同样需要有具体做法。

美国联邦层面已有负责AI标准和安全评估的机构,国会也有针对前沿模型的法案,但各州的要求、联邦机构的评估和企业的自愿承诺还没有形成一套统一的制度。

华盛顿越看重在AI竞赛中抢先,越容易担心强制测试拖慢研发。

可如果联邦层面长期靠自愿承诺,一旦企业碰到测试越界、项目又赶着上线,它什么时候报告、需不需要停下来,就容易受到商业进度左右。

倒有一件事可以先做。9月,中美同意建立人工智能对话和事件沟通渠道。美方随后提出讨论重大事件怎么互相通报。

到11月17日深圳亚太经合组织会议期间,各方已就AI安全部署和负责任应用等议题形成共识,中美之间专门用于重大事件的应急通报安排仍待落实。

这套安排要真能用,得谈清什么情况需要联系对方,夜里谁负责接收消息,第一份通知该给哪些信息。

如果一家公司的测试模型进入了另一国的公共服务系统,先把异常出现的时间、涉及的服务、目前发现的操作发过去,就能让对方着手排查。

各国对什么算重大事故、企业该负多大责任,还缺少通行的规则。

中美可以先把紧急联系做起来,后续调查和追责再按各自法律和合作程序处理。双方在芯片和产业上有竞争,一样有理由让这种事尽早得到处置。

盖茨担心的是,真等到医院停摆才认真管,损失已经有人承担了。我更愿意拿眼下就能问清的事来检验监管有没有用。

模型碰了不该碰的系统,谁能叫停?接到通知的人手里,有没有足够的信息马上处置?把这两件事做到,公众就能少承担一分原本可以避免的风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

红军过草地其实仅用五六天,巨大非战斗减员源自哪里?有何隐情?

幻梦人生
2024-12-08 04:05:03
警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

警校退学潮:比考不上更可怕的事,考上了你才发现根本不合适

糖逗在娱乐
2026-11-02 06:31:49
笑不活了!苏州乘客飞机延误办改签,告诉空姐江浙沪几座机场都行,空姐一问目的地,他沉默三十秒才说:苏州

笑不活了!苏州乘客飞机延误办改签,告诉空姐江浙沪几座机场都行,空姐一问目的地,他沉默三十秒才说:苏州

王老师你还好吗
2026-11-06 14:39:40
某女网红认为恨日本人的人价值观有问题:该恨的是以前的帝国主义

某女网红认为恨日本人的人价值观有问题:该恨的是以前的帝国主义

律法刑道
2026-09-01 09:02:43
射阳7个月蚀退120米,江苏海岸会被吞没吗?

射阳7个月蚀退120米,江苏海岸会被吞没吗?

黑哥讲现代史
2026-11-17 07:20:47
让二追二!国足10战巴林保持不败,赛后邵佳一被喊下课,原因曝光

让二追二!国足10战巴林保持不败,赛后邵佳一被喊下课,原因曝光

侃球熊弟
2026-11-17 20:10:42
5年才发现两家孩子被抱错,双方含泪换子,可孩子的话却让人心疼

5年才发现两家孩子被抱错,双方含泪换子,可孩子的话却让人心疼

无处遁形
2026-11-16 22:06:41
美股收盘:道指盘中狂泻千点,收跌1.64%;费城半导体指数暴力翻红,ARM涨超4%;光通信股反弹,康宁涨超2%

美股收盘:道指盘中狂泻千点,收跌1.64%;费城半导体指数暴力翻红,ARM涨超4%;光通信股反弹,康宁涨超2%

中新经纬
2026-11-18 06:12:07
晚旗报:英格兰队人才济济已达巅峰,有望明年夺国家联赛冠军

晚旗报:英格兰队人才济济已达巅峰,有望明年夺国家联赛冠军

懂球帝
2026-11-17 23:00:12
赖文峰与楚铃带着儿子六宝一起到江西南昌的滕王阁,笑起来很开朗

赖文峰与楚铃带着儿子六宝一起到江西南昌的滕王阁,笑起来很开朗

手工制作阿歼
2026-11-17 01:32:50
特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

特殊时期邓小平到江西劳动,保护他的拖拉机厂长罗朋,在邓公重新出山后去了哪里

磊子讲史
2026-11-11 15:53:38
韩国双胞胎姐妹,一个嫁到中国一个嫁到日本,5年后生活相差很大

韩国双胞胎姐妹,一个嫁到中国一个嫁到日本,5年后生活相差很大

白云故事
2025-08-12 10:50:04
“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

“中国要被我们拖垮了!”2024年,韩国上千人拒绝吃从中国进口的中国白菜,本想给我们个“下马威”,结果自己撑不住了

扶苏聊历史
2026-11-16 17:33:26
魏德尔炮轰德国总理默茨:放着自己的人民不管,跑到基辅去当战争总理

魏德尔炮轰德国总理默茨:放着自己的人民不管,跑到基辅去当战争总理

生思孰虑
2026-11-17 17:01:18
黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

秋风妃
2026-11-15 21:39:48
当年紫金矿业25亿拿下刚果铜矿,现在10年过去,赚到了多少?

当年紫金矿业25亿拿下刚果铜矿,现在10年过去,赚到了多少?

青史卷中人
2026-11-18 01:34:17
中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

中国女子在希腊失踪半年,警方在保险箱内发现10万现金和神秘十人名单,与其有关的中国房产中介失联,最后监控画面曝光

台州交通广播
2026-11-17 01:10:51
美俄大运先后落地深圳,自带全套安保没几国能做到,门槛有多高?

美俄大运先后落地深圳,自带全套安保没几国能做到,门槛有多高?

罗富强说
2026-11-17 11:40:58
中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

中国新规落地,每一架飞机都要单独申请批准,全程都要接受管理…

福建睿平
2026-05-25 08:01:59
北京长城饭店将焕新重启,万豪旗下艾迪逊有望进驻

北京长城饭店将焕新重启,万豪旗下艾迪逊有望进驻

小蜜情感说
2026-11-18 04:53:44
2026-11-18 09:32:49
福建睿平
福建睿平
记录农村生活、分享乡村事,工作生活,分享法律知识
8659文章数 2397关注度
往期回顾 全部

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

科技要闻

老黄想回来?英伟达董事会:没门

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

手机
时尚
数码
旅游
本地

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

本地新闻

乌兰察布:以前种土豆,现在种Token

无障碍浏览 进入关怀版