网易首页 > 网易号 > 正文 申请入驻

田柯宇式的劣迹人才,是否会对AI时代带来危险?

0
分享至

田柯宇创业的消息冲上微博热搜。

他曾是字节跳动的实习生。2024年6月,因对团队算力资源分配不满,他利用Hugging Face平台漏洞,向商业化技术团队的模型训练任务注入破坏性代码,行业内叫“模型投毒”。

字节跳动随后提起诉讼,最初索赔800万元,法院最终判赔50万元。


两年后的今天,田柯宇创办了AI实验室,开局就获得近3000万美元融资,五源资本和IDG资本入局,投后估值2亿美元。

实验室还没有名字,没有产品,团队约10人,方向是世界模型。

字节跳动的风控兜住了2024年的那次投毒。

但当投毒的人自己成了老板,谁来兜底呢?

一、AI关键岗位上的人,手里握着什么级别的“武器”

“模型投毒”不是往服务器里扔个病毒那么简单。

它是在训练数据或模型参数中植入恶意内容,让模型输出不可靠,或者出现系统性偏差。田柯宇利用平台漏洞,让恶意代码在模型训练流程中被加载执行——这是一种针对AI基础设施的供应链攻击。

田柯宇在别人的训练集群里能做到这样的危险动作。

如果,他在自己掌控的实验室里做同样的事,恐怕就再没有风控团队能拦截了。


这类风险正在变成现实。

2026年8月,北京法院审结一起AI数据破坏案件。算法工程师王某为“腾出空间干私活”,在AI游戏部门文件夹中输入“删库跑路”代码,89TB核心数据被删,一条AI研发线直接报废,终审判处有期徒刑5年。

2026年10月,OpenAI以“违反信任”为由解雇了三名安全研究员,内部调查认定他们不当处理敏感信息。

同月,Anthropic披露Claude模型在测试中向费城警方网站提交了一条虚假凶杀案线索,还通过美国国务院网站提交了20份资料不完整的签证申请。

这些事指向同一个问题:AI系统的破坏行为,源头往往不是技术自己“疯了”,是掌握权限的人出了问题。

航空业早就明白这个风险,飞行员手里握着几百条人命,所以FAA对飞行员做系统性心理评估——审查既往精神科住院记录、药物滥用史、法律问题,还要做临床面谈和精神状态检查。

金融业更直接:证券市场禁入制度规定,因故意不履行法定义务造成严重后果的人,3到5年内不得从事证券业务或担任上市公司高管。

对比一下,AI关键岗位从业者手里那根“操纵杆”,连接的是数据和算力。一个被篡改的大模型可以影响几亿用户。

但显然,这个行业对于人员的筛选标准,还停在“技术好不好”这一条上。

二、前科劣迹到了AI赛道上,为什么反而成了“卖点”

田柯宇的实验室还没有名字,没有产品,10个人。

投资方押的核心标的,是他本人的技术积累。他本科北航,师从王立威,北大博士在读期间以第一作者拿下NeurIPS 2024最佳论文奖。

资本投的是这个人的大脑。

但这个大脑两年前刚做过什么?

仅仅因为对工作资源分配不满,就用攻击代码破坏同事的训练任务。

虽然字节公司通报了行业联盟,然后呢?

行业联盟的通报没有拦住任何人。

五源资本合伙人孟醒亲自下场孵化,主导首轮融资,直接介入团队搭建和方向把控。团队里还有多名前字节技术人员。

对此,36氪的报道评价说:“AI还是太热了,对于掌握稀缺技术、拥有顶级研究成果的人来说,技术价值本身就可能成为入场的一张门票。别的也许就顾不上许多了。”

问题就出在这个“顾不上”。

五源资本和IDG资本计算的是资本回报。

世界模型赛道确实热,李飞飞的实验室刚被AMD以82亿美元收购,苏姿丰说收购的核心目的之一就是拿人才。

但资本有没有考虑过:如果这个团队因为创始人的判断再次出问题,如果投毒对象从“同事的训练任务”变成“自己掌控的基座模型”,如果这套模型最后被部署到机器人或自动驾驶系统里——虽然最后赔钱的是投资人,但是接弹片的,却是全社会的普通人。

在金融业,一个因证券欺诈被禁入市场的人,无论大脑多聪明,规定期限内连证券公司的门都进不去。

AI行业没有任何类似的准入或禁入机制。《互联网信息服务算法推荐管理规定》要求企业配算法安全专职人员,规定的是“配几个人”,不是“什么人不让干”。

2026年3月工信部等十部门发布的AI伦理审查办法,重点是审查流程,同样不涉及从业者行为记录。

资本押注的是一个人的大脑,赌的却是全社会来接弹片——这买卖的敞口,比次贷还大。

三、心理评估和从业禁止,在AI行业行得通吗?

先回答两个前置问题:心理评估能不能做?从业禁止该不该做?

1、心理评估能做。

FAA的飞行员心理健康评估程序被美国交通部监察长认定为“综合性”的。2025年美国国会还推了《航空心理健康法案》,核心目标是让飞行员敢主动去看心理医生,不用怕丢执照。

心理评估的目的,不是“筛掉有病的人”,而是让问题能被早发现、早干预。

AI行业可以借这个逻辑,但评估重点得换。

飞行员看的是高压下的判断力和情绪稳定性。AI关键岗位要看的是:权限滥用倾向、资源竞争时的行为模式、没人盯着的时候能不能管住自己。

田柯宇的行为——因为算力不够就攻击同事的训练任务——就是典型的“权限滥用+竞争失范”。

他自己在采访里承认是“以暴制暴”,觉得自己的项目更值钱,所以干扰别人训练来抢GPU。

这种思维不会因为他从“实习生”变成“创始人”就自动消失。


2、而从业禁止的难度则更大。

证券市场的禁入有《证券法》撑着,有证监会执行。

AI行业没有对应的法律框架。

可行的路径是分三步:

第一步,在大模型、自动驾驶、AI医疗这些高风险领域,要求模型训练负责人、安全对齐工程师、数据管道管理员做行为记录备案。

第二步,建行业性的劣迹通报和查询机制,让“模型投毒”这类行为可追溯。

第三步,在《人工智能法》立法中考虑纳入关键岗位从业禁止条款。


但政策落地之前必须守住一条线:严格区分“商业竞业限制”和“安全违规禁入”。

AI行业的竞业限制已经在滥用了。

有刚入职两年的AI产品经理离职后被索赔200万,相当于四年年薪。有公司把竞业范围写到“任何使用Transformer架构的公司”,基层工程师也被套上枷锁。

人社部2025年出台的《企业实施竞业限制合规指引》,核心就是纠偏——不得将未知悉商业秘密的劳动者纳入竞业范围,仅掌握行业通用技能的人不属于负有保密义务的人员。

如果“安全违规禁入”的制度设计不清晰,大公司完全可以把竞业协议包装成道德审查,用“安全”的名义继续锁人才。

反过来也一样。

一个在训练集群里植入恶意代码的人,和一个正常跳槽到竞品公司的工程师,性质完全不同。

前者该被行业准入机制记录在案,后者该被保护。区分标准只有一个:有没有对系统安全造成过实质性威胁。

这个标准要写进制度,不能留给大公司法务部自由裁量。

安全禁入是防弹衣,竞业协议是紧身衣——穿错了,该防的没防住,不该勒的全勒死了。

栋察

田柯宇拿到2亿美元估值,不是一个人的事。

它照出的是AI行业狂奔留下的制度真空:技术能力可以在一夜之间被资本定价,行为记录、心理状态、职业操守这些指标,在评价体系里几乎没有权重。

字节跳动的风控兜住了2024年那次投毒。

下一次呢?如果投毒的人自己就是老板,如果被投毒的模型正在操控自动驾驶汽车,如果恶意代码进的是一个服务千万用户的医疗AI系统——50万赔偿可兜不住。


AI行业需要一套自己的“适航标准”。

这不是限制技术发展,是确保掌握关键技术的人不会因为个人情绪、利益冲突或心理状态,把整个系统变成定时炸弹。

航空业花了上百年,金融业用了无数次危机,才深刻的吸取了教训。

AI行业没有一百年可以等。

五源资本和IDG资本这笔钱投出去的时候,最好也想一想:买的是一个天才的大脑,还是一个还没被验证过的安全阀。

技术跑得越快,越要回头看看,握着方向盘的那个人,驾照是不是该重新考了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
最健康的食用油排名,葵花籽油落榜,大豆油仅第4,第1名才是yyds

最健康的食用油排名,葵花籽油落榜,大豆油仅第4,第1名才是yyds

新时代的两性情感
2026-10-27 06:45:06
13年前男孩扶人被讹百万,老太发誓“骗人死全家”,后来成真了吗

13年前男孩扶人被讹百万,老太发誓“骗人死全家”,后来成真了吗

流云随风去远方
2026-10-21 17:20:43
太扎心了!妻子经常和网友出去开房,丈夫劝不听,最后一次妻子深夜回来后追悔莫及,丈夫:不想再被戴绿帽

太扎心了!妻子经常和网友出去开房,丈夫劝不听,最后一次妻子深夜回来后追悔莫及,丈夫:不想再被戴绿帽

丫头舫
2026-10-26 20:29:18
张亮父子杂志大片来了!天天才十几岁,身高 192cm,比张亮还要高!!

张亮父子杂志大片来了!天天才十几岁,身高 192cm,比张亮还要高!!

大橙看世界
2026-10-27 12:50:03
中国为啥拼命往新能源车上押?说白了环保是台面话,石油是挡箭牌

中国为啥拼命往新能源车上押?说白了环保是台面话,石油是挡箭牌

荆楚寰宇文枢
2026-10-27 22:13:08
国际乒联227家乒协收举报信!核心内容曝光:直指刘国梁+王楠夫妇

国际乒联227家乒协收举报信!核心内容曝光:直指刘国梁+王楠夫妇

念洲
2026-10-27 08:11:32
张本智和父亲出面发声:请国人别骂我儿子了,我们在日本备受尊敬

张本智和父亲出面发声:请国人别骂我儿子了,我们在日本备受尊敬

阿讯说天下
2026-10-27 16:24:10
电梯大局将定?不出意外,老旧小区电梯改造,可能会遇到三大难题

电梯大局将定?不出意外,老旧小区电梯改造,可能会遇到三大难题

云霄纪史观
2026-10-27 05:53:51
上海海港球迷意难平!不止因为2-3河内公安,更多在于以下五点!

上海海港球迷意难平!不止因为2-3河内公安,更多在于以下五点!

球场新视角1号
2026-10-27 20:08:52
扎心!江苏离异两月带九岁男孩公开征婚,女方放弃彩礼要求善待其子,尖锐留言引爆全网:“对你儿子再好,在你儿子眼中也是嫖客”

扎心!江苏离异两月带九岁男孩公开征婚,女方放弃彩礼要求善待其子,尖锐留言引爆全网:“对你儿子再好,在你儿子眼中也是嫖客”

火山詩话
2026-10-27 08:49:19
爆料中国男篮大名单调整,广东队三国手只留一人,张镇麟引发争议

爆料中国男篮大名单调整,广东队三国手只留一人,张镇麟引发争议

宗介说体育
2026-10-27 14:24:44
事态升级!6万大军演到台岛以东,俄抢先中国出手,没那么不简单

事态升级!6万大军演到台岛以东,俄抢先中国出手,没那么不简单

霁寒飘雪
2026-10-28 09:56:01
舆论反转!张雪改装摩托水上滑行40.74公里,被质疑“没什么实际意义”,网友:你去查一下吉尼斯世界纪录,挑战都有实用意义吗

舆论反转!张雪改装摩托水上滑行40.74公里,被质疑“没什么实际意义”,网友:你去查一下吉尼斯世界纪录,挑战都有实用意义吗

火山詩话
2026-10-27 07:07:41
俄军“天竺葵”无人机使用中国发动机,中国11月起出口要审批

俄军“天竺葵”无人机使用中国发动机,中国11月起出口要审批

桂系007
2026-10-27 22:09:20
球迷:西甲官方仅在17万粉的小号上道歉 1300万粉主号在祝贺姆巴佩

球迷:西甲官方仅在17万粉的小号上道歉 1300万粉主号在祝贺姆巴佩

风过乡
2026-10-28 08:15:42
CBA最新消息!北控男篮或裁掉贾尔斯,班顿确定走人

CBA最新消息!北控男篮或裁掉贾尔斯,班顿确定走人

体坛瞎白话
2026-10-28 09:06:14
2026养老金上调已过了正常公布期,但老百姓对它没了以往的期待

2026养老金上调已过了正常公布期,但老百姓对它没了以往的期待

细说职场
2026-10-27 14:22:53
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
大义面前不糊涂,樊振东睡醒后得知实情,果断取关姆巴佩

大义面前不糊涂,樊振东睡醒后得知实情,果断取关姆巴佩

小椰的奶奶
2026-10-28 02:10:55
69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

迪迪的娱乐故事
2026-10-19 17:09:33
2026-10-28 10:48:49
张栋伟创业咨询大学生就业创业
张栋伟创业咨询大学生就业创业
张栋伟的个人专栏
1135文章数 2720关注度
往期回顾 全部

科技要闻

AI世界开口说话!谷歌新模型Genie 4有多神

头条要闻

牛弹琴:博索纳罗败选携妻女"流亡"美国 卢拉气得大骂

头条要闻

牛弹琴:博索纳罗败选携妻女"流亡"美国 卢拉气得大骂

体育要闻

悲惨!杰威重伤倒下 最好的雷霆已成过去?

娱乐要闻

王心凌近况!分手已9年,如今还是单身

财经要闻

解密 “速成车”:一辆车怎样更快造出来?

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

游戏
本地
时尚
公开课
军事航空

PS5破解后变身游戏PC!开源工具可运行Steam游戏

本地新闻

十月奔赴迪庆,解锁梅里日照金山

「初代恶女」的选择:比起做母亲,我更想先做自己

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗最高领袖最新声明 提到了“结束战争”

无障碍浏览 进入关怀版