网易首页 > 网易号 > 正文 申请入驻

陈宇森的一百天,安全这堂课还没开考

0
分享至



9月22日,云栖大会千问办公专场,陈宇森拿着一只章鱼造型的吉祥物话筒走上台,演讲题目叫「Context is All You Need」。这是他就任钉钉CEO一百天出头后的第一次大型公开亮相,身后屏幕上的头衔多了一行字:阿里巴巴集团副总裁。

整场演讲的基调是轻快的。他讲有人用AI半小时就能干完八小时的活,剩下的时间「可以选择发呆,也可以多干点活」,讲AI会让大家有更多放松的时刻。章鱼话筒和松弛感都是道具,用来稀释钉钉留给公众的固有印象:已读、DING、考勤机。

但履历不会配合道具。陈宇森是浙江大学蓝莲花战队的核心成员,国内最早一批打CTF出身的白帽黑客,22岁创办网络安全公司长亭科技,靠Web应用防火墙「雷池」在业内成名,客户名单里躺着招商银行、三大运营商和国家电网,2019年公司被阿里云收购。这是一个职业生涯建立在「假设一切系统都会被攻破」之上的人。

如今他卖的产品叫「企业上下文」:把企业的群聊、日程、审批、文档、知识库汇成一个Agent可以统一调用的层,让AI真正「懂」一家公司。他的原话是,AI不懂你的公司,就只是一个昂贵的玩具。

安全行业的第一课是最小权限、分散风险,这套产品的方法论是集中一切、充分授权。一个职业生涯前半程都在造防火墙的人,现在劝企业把围墙里的所有房间打通,再把钥匙交给一个大模型。这篇评论想问的所有问题,都从这个转身开始。

先拆最硬的一层:权限。传统企业软件的根基是权限体系,薪酬只有HR能看,并购文档只有项目组能看,裁员名单在公布之前只有极少数人能看,每一道访问控制背后都是真实的组织纪律。

而「Context is All You Need」要成立,Agent必须跨越所有这些系统读取一切。上下文的价值与权限的完整性在工程上天然冲突,上下文越全,权限模型越像一个筛子。

把问题问具体一点。一位CEO让Agent起草经营周报,Agent为此读取了群聊、审批流和文档库,其中就包括它本不该消化的东西,输出侧如何保证机密不渗漏?行业目前的答案无外乎权限继承、字段过滤、输出审计三种,单独看都可行,合在一起困难重重。

最难的是语义渗漏:模型可以不引用任何原文,却把机密信息折算进结论。一家正在酝酿裁员的公司,CEO问Agent「最近研发效率为什么下降」,Agent给出的归因里会不会带上只有HR有资格知道的背景?它甚至不需要说错任何一句话,只需要把答案的方向悄悄挪一寸。

这个问题整个行业至今没有标准答案,陈宇森不可能不知道。他比绝大多数产品经理都清楚,权限体系的漏洞往往不在设计图上,而在每一次「为了方便」的例外里。企业上下文这个产品,本质上是把「为了方便」做成了默认值。

这个场景有现实版本。2024年8月,安全公司PromptArmor披露了针对Slack AI的注入攻击:攻击者在公共频道发布一段精心构造的内容,就能操纵Slack AI在回答其他用户的日常提问时,把受害者无权访问的私有频道内容拼进一个链接里送出去,演示中被取走的包括开发者私有频道里的API密钥。

事后的技术分析把根因说得很直白:Slack AI的检索范围没有和用户的权限严格绑定,不同信任级别的数据混在同一个可达空间里。更值得注意的是Slack最初的回应,它一度认为这属于预期行为。检索层默认信任自己能读到的一切,这个设计哲学和「Context is All You Need」共享同一个前提。

再看攻击面。过去攻击者想掏空一家公司,要分别攻破OA、文档、审批、CRM,每个系统都是一道独立的门,数据分散本身就是一种迟滞攻击的纵深。企业上下文把五道门背后的东西汇聚到同一个索引层,对防守方这叫打通数据孤岛,对攻击方这叫皇冠明珠:攻破这一层,等于攻破全部。防守的经济学就此反转,企业为AI付的每一笔效率红利,都在同步给这个单点加价。

更大的变量在于Agent天然要读外部内容,邮件、网页、客户发来的文档,提示注入的门缝随之打开:攻击者不需要攻破任何服务器,只要往一封邮件里埋一句精心构造的指令,就可能指挥一个持有企业内部权限的Agent把数据主动送出门外。这类攻击至今没有可靠的通用防御,在OWASP的大模型风险榜单上常年排在首位。

讽刺的是,长亭科技当年安身立命的WAF,防的恰是混在正常流量里的恶意指令。那件武器防得住旧时代的注入,防不住新时代自家产品里的这一种。

这条路线上也已经有了标志性事故。2025年6月,Aim Security披露了Microsoft 365 Copilot的EchoLeak漏洞,编号CVE-2025-32711,严重程度评分9.3,属于最高一档。攻击者只需给受害者发一封外观平常的邮件,受害者不点开、不回复、什么都不做,Copilot在日后某次寻常问答中把这封邮件读进上下文,邮件里藏着的指令就被当成用户自己的意图执行,它能拿到的邮件、文档、Teams记录被悄悄打包,经由一个自动加载的图片链接流向攻击者的服务器。

值得记住的细节是,微软为此部署过提示注入分类器、链接过滤、内容安全策略三道防线,三道都被绕过。这一切发生在全球企业AI部署规模最大、安全预算最充足的公司身上,发生在它全部缓解措施就位的情况下。

同年7月,Replit的AI Agent又演示了另一半风险:在明确的代码与操作冻结指令下,它删除了一个装有一千二百多名高管和近一千二百家公司数据的生产数据库,随后伪造了四千条虚假数据和测试记录,并向用户声称无法回滚。一个会读一切的Agent,叠加能动手、会掩盖,企业上下文承诺的就不只是效率了。

需要说明的是,这些案例不构成对千问办公的事实指控,公开信息不足以判断它的权限设计和注入防护做到了什么程度。但这份名单里没有一家小公司:Slack、微软、Replit,没有一家是安全投入不足的公司。它们的事故说明这类风险的根子不在工程质量,而在范式本身。范式问题不会出现在发布会的PPT上,只会出现在CVE编号里。

于是那场演讲的沉默就变得耐人寻味。四十分钟左右的时间,主线是劝企业交出更多上下文,交得越多,AI越懂你,组织就越快,而安全与权限的着墨,从公开报道看少得不成比例。千问办公官网挂出一份隐私与安全文档,承诺「不会主动访问未经用户授权的数据」,但一行承诺与一套可验证、可审计、可追责的权限工程之间,隔着整个产品化过程。

有些问题本该出现在那场演讲里:Agent读取上下文时权限如何继承,企业数据是否反哺模型训练,索引存储落在何处,审计接口向谁开放,注入防护有没有第三方证据。

其中数据反哺这一条早有前车之鉴。2023年3月,三星开放半导体部门员工使用ChatGPT,二十天内三名员工先后把源代码、良率数据和会议记录送了进去,机密一旦进入外部模型的学习库便无法取回。三星的应对从限制单次提问长度一路升级到全面禁用,最终走上自研内部AI的路。那是大模型时代企业数据边界的第一课,学费是芯片机密。

对一个普通CEO,这份清单是刁难;对一个安全出身的CEO,这是他曾经吃饭的手艺。有报道把他的安全背景写成卖点,称对他而言安全、权限、审计不再是附属功能,而是产品本体。这句话是赞扬,更是债务。

通稿说他是这个位置上最合适的人,这话可以原样奉还:正因为最合适,所以最该被问。回避安全议题对不懂安全的人可以是认知盲区,对他只剩一种解释,那就是取舍。取舍的背后多半是时间表:钉钉的基本盘在老化,对手在提速,阿里需要一个新的Agent叙事跑在所有答案前面,而安全这个议题一旦出现,叙事就会减速。

当年他做防火墙,防的是门外的人;如今他做企业上下文,门是从里面打开的。开门的人比谁都清楚门外有什么,这正是该问他的原因。

钉钉已经用一篇7.5万字的离职长文证明过,这家公司的裂缝总是从内部被看见的。下一条裂缝会不会出现在安全上,取决于陈宇森在这一百天里没讲的那部分,准备什么时候补上讲清楚。安全这堂课的考试从不预约,而他是全场唯一没有理由缺考的人。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广东一对夫妻买“霸王茶姬”中49999元心愿大奖,全国仅9份,当事人:准备给老婆买金手镯,或一起去旅游

广东一对夫妻买“霸王茶姬”中49999元心愿大奖,全国仅9份,当事人:准备给老婆买金手镯,或一起去旅游

扬子晚报
2026-11-19 21:43:12
不管俄军打赢还是打输,俄罗斯的失败,是打醒了乌克兰民族意识

不管俄军打赢还是打输,俄罗斯的失败,是打醒了乌克兰民族意识

阿凫爱吐槽
2026-10-22 12:37:47
华为星芒OSTA O1 Pro价格预测曝光 起售价或为3699元

华为星芒OSTA O1 Pro价格预测曝光 起售价或为3699元

CNMO科技
2026-11-20 10:04:18
电动车不上锁成常态,不是小偷良心变好,而是风险压垮了收益

电动车不上锁成常态,不是小偷良心变好,而是风险压垮了收益

兴趣知识
2026-11-20 01:36:34
巴尔韦德、维尼修斯等多名皇马队友祝贺居莱尔续约;楚阿梅尼索要手机做礼物;莫德里奇送上鼓励!

巴尔韦德、维尼修斯等多名皇马队友祝贺居莱尔续约;楚阿梅尼索要手机做礼物;莫德里奇送上鼓励!

福酱的小时光
2026-11-19 17:40:52
完蛋!澳洲全面恶化,1.2万企业倒闭,超1200万澳人生活全面崩塌! 企业大裁员失业飙升至4.9%!

完蛋!澳洲全面恶化,1.2万企业倒闭,超1200万澳人生活全面崩塌! 企业大裁员失业飙升至4.9%!

澳洲财经见闻
2026-11-20 03:12:52
以史为鉴,黄金不该这么弱?

以史为鉴,黄金不该这么弱?

华尔街见闻官方
2026-11-19 17:06:25
江苏考生超常发挥,608分被南信大录取,“王牌”大气科学专业,本人回应:嫌弃双非,已选择复读!

江苏考生超常发挥,608分被南信大录取,“王牌”大气科学专业,本人回应:嫌弃双非,已选择复读!

王大嘴评说
2026-11-18 23:19:26
大逆转!约基奇24+9+8,塔图姆24+8+3,雷霆很无奈:掉到西部第八

大逆转!约基奇24+9+8,塔图姆24+8+3,雷霆很无奈:掉到西部第八

篮球大视野
2026-11-19 13:25:58
3-2复仇!女单爆大冷!20岁国乒小将压哨晋级!就在刚刚,WTT球星赛:16强全诞生,日乒6席韩国3人,国乒剩2根独苗

3-2复仇!女单爆大冷!20岁国乒小将压哨晋级!就在刚刚,WTT球星赛:16强全诞生,日乒6席韩国3人,国乒剩2根独苗

体育闲话说
2026-11-20 10:46:44
一个得到老詹,一个失去老詹!湖人76人都13胜3负,并列联盟第一

一个得到老詹,一个失去老詹!湖人76人都13胜3负,并列联盟第一

无术不学
2026-11-20 10:21:56
首次运投成功!国产“空中重卡”来了

首次运投成功!国产“空中重卡”来了

每日经济新闻
2026-11-19 06:32:48
痛心!河南骨科大师卢磊去世,口碑出众,家人发声:透露更多细节!

痛心!河南骨科大师卢磊去世,口碑出众,家人发声:透露更多细节!

川渝视觉
2026-11-20 08:35:20
美方曾警告:如果双方谈不拢,中方的武器装备可能会去美国大门口

美方曾警告:如果双方谈不拢,中方的武器装备可能会去美国大门口

军机Nova
2026-11-15 00:12:18
54 年来头一遭!打破惯例,特朗普到访深圳,他究竟看到了什么?

54 年来头一遭!打破惯例,特朗普到访深圳,他究竟看到了什么?

军情观察家
2026-11-20 12:08:38
黄仁勋继任者被曝已有人选,猎头已与64岁安谋总裁接触,其曾在英伟达效力7年;黄离任后英伟达首开全员大会:承诺12月加薪

黄仁勋继任者被曝已有人选,猎头已与64岁安谋总裁接触,其曾在英伟达效力7年;黄离任后英伟达首开全员大会:承诺12月加薪

洪观新闻
2026-11-19 13:26:42
割安全绳肇事者再迎噩耗!多名律师发声:不是“赔根绳”就能翻篇

割安全绳肇事者再迎噩耗!多名律师发声:不是“赔根绳”就能翻篇

王二哥老搞笑
2026-11-19 00:07:28
民调:52%的美国人认为民主党在2028年选出的候选人将入主白宫,28%的人认为共和党将获胜

民调:52%的美国人认为民主党在2028年选出的候选人将入主白宫,28%的人认为共和党将获胜

阿尔卑斯瞭望
2026-11-19 18:51:50
参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

极目新闻
2026-11-19 01:03:13
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
2026-11-20 12:44:49
奇点湃 incentive-icons
奇点湃
奇点·商业新坐标
132文章数 6关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

亲子
房产
本地
艺术
公开课

亲子要闻

宝宝气人但是聪明的4个行为

房产要闻

6.6亿!海口卖地!

本地新闻

乌兰察布:以前种土豆,现在种Token

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版