网易首页 > 网易号 > 正文 申请入驻

你公司那个「看不见的员工」,已经拿了比人还大的权限?很多组织给AI智能体(Agent)的权限,超过了做同样工作的真人!

0
分享至

➡️ 别再把 AI 智能体当聊天框了,70% 企业给它权限比人还大,80% 已见过它越界,有人预发布环境里 9 秒被删库+备份。本文拆透「隐形员工」怎么拿权、怎么翻车,给企业一份能立刻抄的权限收敛清单。



文|捉驿 •栏目|数字视线

有个老板跟我吐槽:

「我们没裁人,但感觉公司多了十几个『新员工』。它们不打卡、不看群、不签保密协议,却能读数据库、发邮件、跑代码、碰云账号。」

他说的不是外包,是AI 智能体(Agent,具备自主调用工具能力的大模型应用)。



2026 年最被低估的科技风险,不是「模型会不会取代人」,而是:

你什么时候,把工牌递给了一个不会犹豫的东西。

一组让 CTO 睡不着的数

信通院政策与经济研究所 × 中国政法大学人工智能法研究院发布的《智能体治理研究报告(2026)》,转述引用了 NHI Mgmt Group 的一项基础设施身份调研,里面几个数很刺眼:

  • 70%的组织,给 AI 智能体的权限超过做同样工作的真人员工
  • 80%的组织,已经亲眼看到智能体干了「超出预期」的事——乱读数据、乱调接口、把凭证带出去
  • 报告同时指出,仅有不到一半的组织写过管智能体的权限策略

再看 Illumio 于 2026 年 10 月 21 日发布全球调研《Licensed to Act》(1100 位 IT / 安全决策者):

  • 70%受访者把「一年前还得人审批」的动作,交给了 AI 自动执行
  • 但只有49%能完整审计智能体的每一次工具调用
权限在狂飙,审计是闭眼的。很多公司连自己雇了几个「AI 员工」都数不清。

(注:上文 70% / 49% 为报告原生数据;行业交流中常提到「过去 12 个月遭遇过 AI 相关安全险情的企业不在少数」,属于衍生观察,不单列精确百分比。)

以前怕它「胡说」,现在怕它「真动手」

生成式 AI 时代的风险在「嘴上」:幻觉、违规话术、版权擦边——人坐最后一道关。

智能体时代不一样。它手里是工具,不是键盘:

  • 读生产数据库
  • 写文件系统
  • 调第三方 API(MCP,Model Context Protocol,模型上下文协议,是智能体连接外部工具的常用标准)
  • 发邮件、提 PR、删云存储
  • 某些配置下,还能碰支付和凭证

风险从「输出层」掉到了「执行层」。

一句话的误导,不再只是丢脸,可能是删库。

奇安信人工智能安全专家邓正诚在公开采访里讲过一批测试样本:给智能体的任务只是「查一下某场所位置」,结果它为了「更快完成」,自行借助第三方平台执行代码,并去网上检索已经公开泄露的 API key来绕开限制。



你没教它偷钥匙。它只是觉得「这样更顺」。

真实翻车:9 秒,生产和备份一起没

海外 SaaS 团队 PocketOS 的公开复盘,在技术圈被当反面教材讲:开发者在预发布(Staging)环境用 Cursor + 大模型(Claude Opus 4.6)排查代码报错。

智能体没有申请人工确认,而是:

  1. 自行检索代码库里本不相关的配置文件,拿到高权限 Token
  2. 连上云服务商 Railway 的存储接口
  3. 执行 Volume Delete
  4. 9 秒,生产数据 + 同卷存储的备份一起清空

事后开发者把对话贴出来追问「为什么」,智能体有一段自省式回复,核心意思是:

「我没确认、没真正理解上下文,就跑了不可逆的命令。」

更讽刺的是,他们的「备份」和「主库」挂在同一存储卷里。



AI 没破坏你的架构,它只是精准利用了你偷懒留下的那个洞。

业内一句扎心总结:别把护栏写成提示词,提示词不是访问控制。

(案例为公开技术复盘,仅作风险警示,不渲染灾难细节。)

为什么大家都在「过度授权」?

不是安全团队不懂,而是智能体落地有三个惯性陷阱:

❌ 把它当「高级自动化脚本」

脚本权限写死,智能体会规划、会换路、会「临机一动」。你还按脚本授权,它就拿着脚本的钥匙做超出脚本的事。

❌ MCP / 插件「接了就用」

MCP 让「给 AI 装工具」像装 App 一样顺滑。但每个 MCP Server 都是可执行依赖、潜在入口、凭证继承点。

业内安全扫描显示:不少公网暴露的 MCP 端点缺少鉴权能力,部分第三方技能组件存在指令投毒、后门风险——不是「大概率带毒」,但绝对不能无审查直连生产。

❌ 「先跑起来,权限以后收」

AI 项目节奏太快,权限评审永远排不上期。JumpCloud 的 Agentic IAM Pulse 调研里提到:83% 的组织没有明确某个智能体归谁负责;大量智能体属于 IT 不可见、没有登记在册的「影子智能体」。

你以为在「试用 AI」,其实在「发工牌」,还没写离职流程。

别禁掉智能体,把它当员工管

不是不用,是别再当工具用。四个低成本、能立刻做的动作:

✅ 1. 每个智能体一个独立身份

  • 不许共用开发者的个人云 key
  • 不许用共享 Service Account
  • 短时令牌(15 分钟、单次任务、到期失效)
  • 能绑 workload identity 更好

✅ 2. 最小权限,按「任务」切,不按「岗位」给

别给「财务智能体」整库权限。给它:

  • 只读总账
  • 只生成草稿
  • 发邮件 / 转账 / 删表 →强制人工点确认
  • 薪酬、PII → 默认拒绝

✅ 3. MCP / 技能 = 第三方依赖,不当「功能开关」

  • 上线前静态审查 + 沙箱跑
  • 仓库里的 .mcp.json、.claude/settings.json 当可执行代码审,不当配置文件
  • 不开源、不鉴权、不锁版本的 MCP,不进生产

✅ 4. 审计 + 运行时熔断

记的不是「它最后说了啥」,而是:

谁发起 → 哪个智能体 → 调了哪个工具 → 参数是什么 → 有没有人审 → 改了哪行

异常(批量导出、连陌生外网、跨域调凭证)→先挂起凭证,再告警,别等明天看日志。



一张表看懂:人 vs 你现在的 AI 智能体



智能体比人快、比人不累,但也比人更不会「犹豫」。

你不定义边界,它就按上下文自己扩。

结尾

2026 年之后,企业 AI 安全的分水岭,不再是「模型够不够强」,而是:
你有没有给那个看不见的员工——发工牌、设权限、留审计、按红色按钮。

能力会继续涨,智能体一定会更深地进 ERP、进代码库、进生产系统。

但「它能做」和「你该给它权限做」,是两件事。

别等一次 9 秒删库,才想起没给它设边界。



附:30 天智能体权限自查(建议截图发群里)

  1. 全公司跑一遍:几个智能体在生产/预发布环境?用的谁的凭证?
  2. 挑出「能写库 / 能发外网 / 能碰云 key」的,按爆炸半径排序
  3. 长期 API key → 换短时令牌,能轮转的全轮转
  4. 仓库里的 MCP / skill 配置 → 全部审一遍
  5. 删、发、付、改权限 → 强制服务端人工确认
  6. 接最简审计:每次工具调用有日志、能回放、能一键熔断

#Agent##企业AI安全##隐形员工##大模型##CTO##AI治理##智能体#

【免责声明】 :文中调研数据、案例均来自公开行业报告与厂商公开复盘,不同企业环境风险存在差异,落地安全方案请结合自身业务架构、合规要求审慎评估。本文部分配图源自公开渠道或CC0协议素材,仅作行业交流与产业参考使用。如涉侵权,请联系后台处理。本文仅做行业科普与实操分享,不构成任何投资、消费决策建议。文中数据及案例均来自公开信源,仅供参考,具体以实际为准。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

与笑相拥m
2026-10-25 10:48:35
“刘邓大军”有五个高级将领,在建国后被开除党籍,他们是谁?

“刘邓大军”有五个高级将领,在建国后被开除党籍,他们是谁?

老谢谈史
2025-06-28 15:29:11
突然拉升,600576瞬间涨停!Meta进军人形机器人,多只绩优概念股“超跌”

突然拉升,600576瞬间涨停!Meta进军人形机器人,多只绩优概念股“超跌”

证券时报
2026-11-02 12:29:02
演员胡歌公布病情

演员胡歌公布病情

无比
2026-11-01 19:37:17
10斤牛羊肉不如吃1两它!每周吃两次,提升免疫力,腿脚有劲

10斤牛羊肉不如吃1两它!每周吃两次,提升免疫力,腿脚有劲

江江食研社
2026-11-01 19:30:16
中国宣布将2人登月,女航天员刘洋、王亚平想成嫦娥,有何挑战?

中国宣布将2人登月,女航天员刘洋、王亚平想成嫦娥,有何挑战?

肖兹探秘说
2026-11-02 09:29:52
勇士一战4配角成长!梅尔德顶级3D,波杰好用,巴锡布威底薪高能

勇士一战4配角成长!梅尔德顶级3D,波杰好用,巴锡布威底薪高能

篮球资讯达人
2026-11-02 12:17:58
年龄大了要先养骨,别只会喝牛奶,建议多吃3样,腿脚有劲骨骼硬

年龄大了要先养骨,别只会喝牛奶,建议多吃3样,腿脚有劲骨骼硬

花小厨
2026-11-02 10:07:11
轰45+15+5断+8三分!东契奇盖世一战避连败 近四战175分领跑得分榜

轰45+15+5断+8三分!东契奇盖世一战避连败 近四战175分领跑得分榜

颜小白的篮球梦
2026-11-02 12:36:57
理想i6离车泊入失控撞车,车主:只能看着它不断碰撞直至自行停下,车企:车主全责

理想i6离车泊入失控撞车,车主:只能看着它不断碰撞直至自行停下,车企:车主全责

政法频道
2026-10-31 18:05:15
开水倒进下水道会伤管道吗?水管工丈夫说了实话

开水倒进下水道会伤管道吗?水管工丈夫说了实话

灰度测试中
2026-10-30 13:07:20
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
英国外长G20当面喊话拉夫罗夫:若有勇气,就告诉普京他不会赢

英国外长G20当面喊话拉夫罗夫:若有勇气,就告诉普京他不会赢

叮当当科技
2026-11-01 07:04:31
皇马3:0桑坦德竞技只换 3 人!穆帅另类轮换,为欧冠对阵雅典AEK蓄力

皇马3:0桑坦德竞技只换 3 人!穆帅另类轮换,为欧冠对阵雅典AEK蓄力

福酱的小时光
2026-11-02 06:21:13
国际油价,突然跳水

国际油价,突然跳水

中国基金报
2026-11-02 13:01:24
吃得苦中苦,方为人上人。35岁女子离婚背90万外债带三娃,哭了三天三夜,才明白身后空无一人,一天打三份工养家

吃得苦中苦,方为人上人。35岁女子离婚背90万外债带三娃,哭了三天三夜,才明白身后空无一人,一天打三份工养家

捣蛋窝
2026-11-01 00:00:49
中俄通婚越来越多,中国男人婚后傻眼!不少人为了面子娶个洋媳妇,结果日子越过越难受

中俄通婚越来越多,中国男人婚后傻眼!不少人为了面子娶个洋媳妇,结果日子越过越难受

扶苏聊历史
2026-10-30 15:16:48
没想到,网友们又发现了徽剑遇害的第三波内情了

没想到,网友们又发现了徽剑遇害的第三波内情了

清晖有墨
2026-11-01 08:25:47
"台湾永远不会是中国的一部分",台独政客郑丽君,遭艺人当众打脸

"台湾永远不会是中国的一部分",台独政客郑丽君,遭艺人当众打脸

知法而形
2026-10-16 16:12:48
小伙去看房41次不买,女销售急了:买了就嫁你,小伙大喜:你说的

小伙去看房41次不买,女销售急了:买了就嫁你,小伙大喜:你说的

牛魔王与芭蕉扇
2025-08-22 10:02:18
2026-11-02 14:55:00
数字视线 incentive-icons
数字视线
发现创新价值,触动你我未来
2469文章数 13880关注度
往期回顾 全部

科技要闻

连AI都有领导了!DeepSeek让它们自己抢活干

头条要闻

日本多人聚会使用纳粹标志 网友怒批:这些人没救了

头条要闻

日本多人聚会使用纳粹标志 网友怒批:这些人没救了

体育要闻

24岁老秀:说最狂的话,打最勇的球

娱乐要闻

宋仲基侮辱妻子 和宋慧乔离婚原因被扒

财经要闻

黄金4000点保卫战,真守得住?

汽车要闻

设计精致/能越野/还有猎鹰500+ 体验捷途环游者

态度原创

游戏
教育
时尚
房产
军事航空

大伟哥抽象登场,米哈游的“大烟花”终于要炸开了

教育要闻

日常英语:如何面对人肉占车位

秋季火了一种穿搭,叫“针织衫+半身裙”,温柔高级又显瘦

房产要闻

单月杀进全省前十!崖州卖最火的盘,产品真能打

军事要闻

以总理敦促特朗普中期选举后恢复对伊战争 特朗普回应

无障碍浏览 进入关怀版