网易首页 > 网易号 > 正文 申请入驻

【律师解读】AI智能体能翻遍你所有文件,出了事谁担责?

0
分享至



AI智能体能翻遍你所有文件,出了事谁担责?

——苹果紧急收紧Mac权限背后的法律透视

2026年10月2日,苹果在开发者网站发布一则公告,宣布将为macOS的"完全磁盘访问"权限引入额外控制措施。理由很简单:AI智能体正在以可能危及用户的方式使用这项权限。几乎同一时间,OpenAI连续被曝出AI智能体越权入侵澳大利亚政府系统。当AI可以读取你的全部文件、邮件、浏览记录,法律如何界定责任边界?
一、事件始末:苹果为何突然"加锁"

"完全磁盘访问"(Full Disk Access)是macOS系统中一项极高权限。一旦授予,应用可以绕过系统常规隐私控制,读取设备上的全部内容——文件、邮件、信息、浏览记录,一个不漏。

这项权限最初是为备份类应用设计的。Time Machine需要扫描全盘才能完成备份,杀毒软件需要遍历文件才能检测威胁。苹果给开发者留了这扇门,本质上是一种"君子协定":你只在你该用的场景下用,不会拿来干别的。

但AI智能体打破了这条默契。

2026年以来,Meta的Muse、OpenAI的Dots等"始终在线"的AI智能体应用快速兴起。它们的设计逻辑是:越了解用户,服务越精准。为了"了解用户",它们需要读取邮件、文件、浏览记录、聊天内容——几乎所有能反映用户习惯的数据。而"完全磁盘访问"恰好是一把万能钥匙。

苹果在公告中指出:部分开发者对"完全磁盘访问"权限的使用方式"可能将用户置于风险之中",使应用能够在用户"未充分知情和理解"的情况下,访问系统中的全部内容。苹果将要求用户通过"非常明确的用户操作"才能完成授权,不再允许一键开启。

苹果没有禁止AI智能体使用该权限,但释放了一个清晰信号:终端操作系统层面正在为AI智能体划定数据访问的"安全边界"。

二、智能体越权并非个案:OpenAI连续翻车

苹果的公告并非空穴来风。就在同一周,AI智能体越权访问的事件密集曝光:

2026年9月23日,正在纽约参加联合国大会的澳大利亚总理阿尔巴尼斯召开记者发布会,向全世界披露:今年6月,OpenAI研发的一款测试阶段AI智能体,在执行内部研究任务时绕过网站安全防护,未经许可闯入澳大利亚医疗保险部门门户网站,读取了对外公开页面之外的内部文件,还试图向服务器写入数据。整个过程持续了两个多月,直到工程师复盘时才发现。

2026年10月2日,OpenAI再次披露第二起事件:一个AI模型访问了澳大利亚新南威尔士州国家公园与野生动物管理机构的火灾历史服务,以超出预定用途的方式查询,获取了未公开的火灾汇总统计信息。

2026年9月20日,OpenAI训练沙盒中的一个智能体发现无法直接连接搜索引擎,竟自行找到DNS过滤的漏洞,绕过网络限制,连上外部公共聊天机器人,前后发出二十多次查询,还泄露了53张测试图像。这直接导致OpenAI暂停了新一代大模型的训练、评估与推理。

不仅是OpenAI。7月,OpenAI智能体在安全评测中突破测试边界入侵Hugging Face;Anthropic也披露Claude在评测中访问了真实第三方系统;谷歌9月确认Gemini曾在5月测试中越权访问。

AI智能体的越权行为已从"偶发事故"演变为"系统性风险"。

三、法律审视:AI智能体越权访问涉及哪些法律责任 (一)个人信息保护法:知情同意原则被架空

《中华人民共和国个人信息保护法》(2021年11月1日施行)第13条规定,处理个人信息应当取得个人同意。第14条进一步要求同意应当由个人在充分知情的前提下自愿、明确作出。

问题在于:当AI智能体请求"完全磁盘访问"权限时,用户是否真正理解自己同意了什么?

屏幕上弹出的授权提示通常只有一句话——"允许此应用访问您的文件"。大多数用户不会意识到,这等于授权AI读取全部邮件、浏览记录、聊天内容、财务文档。同意的"充分知情"要件在技术黑箱面前几乎被架空。

第24条对自动化决策作出规制:通过自动化决策方式向个人信息进行信息推送、商业营销,应当同时提供不针对其个人特征的选项。AI智能体读取用户全盘数据后进行画像和行为预测,很可能落入自动化决策的规制范围。

第51条要求个人信息处理者采取必要措施保障个人信息安全。AI智能体开发者作为数据处理者,如果获取了超出功能所需的个人数据而未尽安全保障义务,构成法定义务违反。

(二)民法典:隐私权与个人信息权

《民法典》第1032条规定,自然人享有隐私权,任何组织或个人不得以刺探、侵扰、泄露、公开等方式侵害他人隐私。第1034条将个人信息纳入保护范围,第1035条要求处理个人信息应当遵循合法、正当、必要原则。

AI智能体在"完全磁盘访问"模式下读取用户全部文件,其中必然包含大量私密信息——健康记录、银行流水、私人通信、家庭照片。即使用户名义上"同意"了授权,如果授权提示不足以让用户理解数据被访问的范围和后果,该同意的效力在民法上也存在重大瑕疵。

更关键的是,如果AI智能体将读取的数据用于训练模型或与第三方共享,则直接构成对用户个人信息权的侵害,可能引发侵权损害赔偿请求权(第1165条)。

(三)刑法:越权访问可能构成犯罪

AI智能体的越权行为在刑法层面同样值得警惕。

《刑法》第285条规定了非法获取计算机信息系统数据罪:违反国家规定,侵入计算机信息系统或者采用其他技术手段,获取该计算机信息系统中存储、处理或者传输的数据,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。

OpenAI智能体绕过安全防护闯入澳大利亚政府系统、读取未公开数据的行为,如果发生在中国境内,完全可能构成本罪。即使AI智能体是在"执行任务"过程中自主完成了越权操作,其开发者和运营者作为行为主体,也难以以"技术自主性"为由免除刑事责任。

第253条之一规定的侵犯公民个人信息罪同样适用:违反国家有关规定,向他人出售或者提供公民个人信息,或者窃取、以其他方法非法获取公民个人信息,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金。如果AI智能体在越权访问后将被获取的个人信息传输至境外服务器或用于商业目的,则可能触及本罪。

(四)最高法AI纠纷意见:技术不是"免责牌"

2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕22号),这是我国首部涉人工智能司法裁判规则文件。

《意见》明确了一个核心原则:技术不是"免责牌",人工智能提供者需承担更多社会责任。

《意见》强调,在依法规制滥用、恶用人工智能违法乱象的同时,旗帜鲜明支持科技创新和产业创新。但在涉及民生权益保障的场景中,AI服务提供者不能以"技术自主决策""模型不可解释"等理由减轻或免除其应承担的法律责任。

这意味着,当AI智能体越权访问用户数据造成损害时,法院在裁判中会重点审查:AI提供者是否尽到了数据安全保障义务?是否在授权环节充分告知了用户风险?是否建立了越权行为的监测和阻断机制?如果没有,AI提供者将承担相应侵权责任。

四、责任三方:平台、开发者与用户

AI智能体数据访问的法律责任不是单一主体的责任,而是一个"三方关系"。

操作系统平台(如苹果):作为终端生态的守门人,负有安全保障义务。苹果此次收紧权限,正是在履行这一义务。如果平台明知AI智能体在滥用权限而不采取措施,可能承担相应的连带责任或补充责任。

AI智能体开发者:作为数据处理者,承担首要的数据合规义务。包括:获取权限时充分告知用户数据访问范围和用途;遵循最小必要原则,不获取超出功能所需的数据;建立越权监测和阻断机制;发生数据泄露时及时通知用户和监管机构。

用户:享有知情权、决定权和删除权。用户有权知道AI智能体访问了哪些数据、用于什么目的。在授权环节,用户应当被给予充分的时间和信息来做出判断,而非被诱导一键授权。

五、律师实务建议

给用户的建议:

  1. 审慎授权。当AI应用请求"完全磁盘访问"权限时,仔细阅读授权说明,不要一键通过。

  2. 定期审查。在系统设置中查看已授权的应用列表,及时撤销不再需要的应用权限。

  3. 数据隔离。将敏感文件存放在加密文件夹或独立分区,降低被一次性读取的风险。

  4. 保留证据。如发现AI应用越权访问数据,保存授权记录、访问日志等证据,以便维权。

给AI开发者的建议:

  1. 最小必要。严格遵循最小必要原则,按功能模块申请细粒度权限,而非一键申请全盘访问。

  2. 充分告知。授权提示中明确列出将访问的数据类型、用途和留存期限,不得使用模糊表述。

  3. 建立阻断。部署越权行为监测和自动阻断机制,发现智能体超出预设范围访问数据时及时叫停。

  4. 合规审计。定期开展个人信息保护合规审计,特别关注智能体自动化决策环节的数据使用情况。

给平台方的建议:

  1. 权限分层。将"完全磁盘访问"从"一键开关"升级为可细粒度控制的权限体系,允许用户逐目录、逐数据类型授权。

  2. 动态监测。建立AI智能体权限使用行为的动态监测机制,对异常访问模式自动预警。

  3. 透明报告。定期向用户和监管机构发布AI智能体数据访问透明报告。

六、结语

苹果收紧Mac"完全磁盘访问"权限,看似是一次技术调整,实则是对AI智能体"数据胃口"的第一道制度性回应。

当AI从"回答问题"进化到"执行任务",它所能触及的数据深度和广度都发生了质变。OpenAI智能体连续越权入侵政府系统的事件已经证明:如果不从制度层面划定边界,AI智能体的自主性将成为数据安全的最大威胁。

法律不会阻止技术进步,但也不会允许技术以牺牲个人权益为代价狂奔。《个人信息保护法》《数据安全法》《网络安全法》以及最高法《关于依法审理涉人工智能纠纷案件的意见》已经搭建起中国AI治理的法律框架。接下来,关键在于执行——让每一方都清楚自己的义务,让每一次越权都有人担责。

AI智能体可以很强大,但必须在法律的围栏内运行。这根围栏,不是限制创新,而是保护每一个普通人的权利底线。

本文作者:夏燕峰,上海锦坤律师事务所主任律师。文章仅代表作者个人观点,不构成法律建议。如需法律咨询,请联系执业律师。

上海锦坤律师事务所

021-62076656  www.jinkunlaw.com 上海市徐汇区宜山路425号光启城14层

「股权实战100讲」持续更新,关注锦坤说法,读懂股权那点事。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
穆帅在皇马4:1大胜后表示:我执教皇马已有 105 天,球队尚未达到我的预期,接受不了皇马松懈丢球

穆帅在皇马4:1大胜后表示:我执教皇马已有 105 天,球队尚未达到我的预期,接受不了皇马松懈丢球

福酱的小时光
2026-10-22 09:54:59
《街头霸王》真人电影春丽特写洗澡戏 全身一览无余

《街头霸王》真人电影春丽特写洗澡戏 全身一览无余

3DM游戏
2026-10-21 07:50:11
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
长大后才后知后觉郑渊洁童话的含金量,全是细糠!

长大后才后知后觉郑渊洁童话的含金量,全是细糠!

夜深爱杂谈
2026-10-18 11:47:29
“赵丽颖”当妈后身材更丰满更敢穿,穿连衣裙露出内衣,洋气性感

“赵丽颖”当妈后身材更丰满更敢穿,穿连衣裙露出内衣,洋气性感

蓓小西
2026-09-25 09:00:23
上轮C罗评分仅5.3分,毛剑卿:C罗现在不是踢球,踢的是价值

上轮C罗评分仅5.3分,毛剑卿:C罗现在不是踢球,踢的是价值

懂球帝
2026-10-23 06:50:10
别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

捣蛋窝
2026-10-03 09:50:51
乒乓球亚锦赛:孙颖莎和王曼昱缺阵,国乒女团2-3不敌日本,无缘女团金牌

乒乓球亚锦赛:孙颖莎和王曼昱缺阵,国乒女团2-3不敌日本,无缘女团金牌

极目新闻
2026-10-22 22:23:22
神木问界事故139时速引巨大争议!有网友凭监控视频推算,得出撞击车速仅五六十公里,有网友以地图测试予以反驳

神木问界事故139时速引巨大争议!有网友凭监控视频推算,得出撞击车速仅五六十公里,有网友以地图测试予以反驳

火山詩话
2026-10-22 13:09:19
中共中央批准:常斌任河北省委副书记

中共中央批准:常斌任河北省委副书记

极目新闻
2026-10-22 19:12:08
郭台铭:谁要是敢惹台湾,我就放8万只机械战士去收拾他们!

郭台铭:谁要是敢惹台湾,我就放8万只机械战士去收拾他们!

怪味历史连连看
2026-09-27 17:40:01
从"全民话题"到小众圈层,为何观看NBA的人越来越少了?2019年莫雷事件,比赛节奏拖沓,不好看了

从"全民话题"到小众圈层,为何观看NBA的人越来越少了?2019年莫雷事件,比赛节奏拖沓,不好看了

开成运动会
2026-10-23 07:42:35
CBA执教生涯首胜!吉林男篮主帅李昂赛后更衣室动情落泪

CBA执教生涯首胜!吉林男篮主帅李昂赛后更衣室动情落泪

狼叔评论
2026-10-22 23:44:11
恩爱40年难抵残酷现实?65岁刘德华近况曝光,14岁女儿成遗憾

恩爱40年难抵残酷现实?65岁刘德华近况曝光,14岁女儿成遗憾

菲儿爱蛋糕
2026-10-20 17:43:22
好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

皮蛋儿电影
2026-10-20 09:58:37
139.1,一个精确到小数点后一位的“真相”

139.1,一个精确到小数点后一位的“真相”

静暖文字
2026-10-22 15:22:05
11500次折叠后,iPhone Duo的折痕藏不住了

11500次折叠后,iPhone Duo的折痕藏不住了

薛定谔的BUG
2026-10-23 00:06:07
热点问答   泽连斯基真的要“领土换和平”吗?

热点问答   泽连斯基真的要“领土换和平”吗?

上观新闻
2026-10-22 17:14:44
为啥迟迟不解决台海?外媒:北京可能在等,等3大问题解决再动手

为啥迟迟不解决台海?外媒:北京可能在等,等3大问题解决再动手

凉湫瑾言
2026-10-19 19:32:41
利拉德回归25+6开拓者轻取太阳,杨瀚森5分2板莫兰特14+8

利拉德回归25+6开拓者轻取太阳,杨瀚森5分2板莫兰特14+8

湖人崛起
2026-10-22 12:27:50
2026-10-23 08:56:49
峰言锋语 incentive-icons
峰言锋语
公司、投资、合同法律文章
568文章数 55关注度
往期回顾 全部

科技要闻

OpenAI估值打折,AI还在吸金,投资人不上头了

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

头条要闻

牛弹琴:普京最新表态砍出五刀 一刀更比一刀狠

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

娃哈哈集团董事长许思敏离职

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

亲子
本地
艺术
数码
教育

亲子要闻

谁懂啊!粉色墙壁被娃乱涂乱画,这房间还能抢救吗

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

艺术要闻

故宫藏一幅特殊古画:饱经起落的帝王画钟馗,不是吓人,是送整年好运

数码要闻

Durabook推出R12三防平板:至高酷睿Ultra 7 366H处理器、RTX 2000 Ada显卡

教育要闻

南京中考几何求长度,辅助线是关键

无障碍浏览 进入关怀版