北京
2020年，疫情最严重的那段时间，他发现了一个漏洞。这个漏洞让他拿到了巴西联邦系统的访问权限，通过它，可以调取任何一名巴西公民的信息——那是2亿多人的数据。
记录里几乎包含了一个人全部的身份文件：身份证、CPF、护照、出生地、父母姓名、驾照、家庭住址、手机和座机号码，甚至包括此人是否处于证人保护计划之中。他意识到这件事有多严重，也意识到这些数据落到别人手里能做什么。
他没有犹豫，直接给负责这个系统的机构打了电话。找到正确的联系方式并不容易——你显然不希望把这种事透露给错误的人。
一个电话之后发生了什么
接电话的人一开始并不相信。他自我介绍，说明了自己的发现和能访问到的范围。对方的第一反应是困惑，觉得这事说不通——换位思考一下，一个陌生人突然打电话来聊一个莫名其妙的话题，谁都会懵。
对方问他是不是平民。他说是。几个小时后，机构回电，让他详细解释这个问题。到那个时候，他们大概已经有点担心了，但仍然没有完全当真。等他讲完，他们可能很快就意识到，这是一次重大泄露。
他们承认了问题，并且修复得非常快。他并不责怪这些人——疫情期间他们本来就在拼命工作，而软件就是软件。他很高兴自己能帮上一点小忙，至少他愿意这么想。
他没有从系统中导出任何数据。后来他也避免谈论这件事，因为这会让你看起来像个“黑客”，而那种说法很蠢。
从2020到2026，变量变了
为什么现在又提起这件事？因为2020年到2026年之间，很多东西变了。机器学习开始以疯狂的速度推进，而且还在推进，偏偏赶上了地缘政治上最糟糕的时刻。
到了2026年，已经能看到涉及多种模型的网络安全事件报告，包括OpenAI在其技术报告中描述的那一起。他并不确定“模型逃出了安全防护”这个叙事是否说得通——因为OpenAI是主动禁用了分类器、降低了防护，这一点很多人并不知道。
但无论如何，这些模型现在显然对民族国家构成了大问题。防护措施是实验室自己的选择，可我们必须承认，能力本身是真实的，而且显然不是所有人都会在开启适当防护的情况下运行评估，更糟的是，也不是所有人都会这样训练。
他认为训练环节更复杂，因为在训练中，智能体更容易搞清楚如何绕过或利用防护。
RL环境正在被规模化搭建
随着中期训练、RLVR和长时程任务在近期的进展，过去一年甚至更久以来，很多实验室都在激进地扩展强化学习环境。他们使用第三方公司，用模型来构建环境、合成环境并提供奖励，形成一个“自我改进”的循环——加引号是因为这个词现在被用得太泛滥了——这个循环会以你的 rollout 潜力所允许的最快速度加速。
这正是他反复回到那个2020年插曲的原因。今天，对他来说，构建一个强化学习环境是件直截了当的事：这个环境不仅能复现他发现漏洞时的设置——那和OpenAI报告中的场景差别不大，报告中一个智能体通过OpenAI内部的Artifactory利用了SSRF——而且还能为它开发一套课程。
于是他产生了一个疑问：前沿实验室现在正与网络安全公司合作，搭建多少个这样的环境？那些永远不会有机会接受AI渗透测试的政府系统，又会发生什么？
他找到的那个漏洞并不需要什么非凡的专业知识，只需要对细节的注意力。而这恰恰是他担心的。
从现在开始，面对能力更强、速度更快、且易于规模化的智能体，会发生什么？
一个行星级问题
就像气候问题一样，机器学习现在也是一个行星级问题。正如Yuk Hui在《Machine and Sovereignty: For a Planetary Thinking》一书中提到的——他推荐任何感兴趣的人去读——我们仍然没有以行星思维思考，但我们必须学会这样做，哪怕这需要相当长的时间。
他认为唯一的前进方式，是先走出技术恐惧与技术狂热之间的两极对立，然后开始着手解决方案。显然，前沿实验室里的很多人已经在做这件事。
但在他看来，当我们的思考被地缘政治利益引导时，找到解决方案似乎是一项不可能完成的任务。
不幸的是，新兴经济体和发展中国家将是最脆弱的——它们本来就很少能获得算力，这已经够糟了。想到这一点让人非常难过。
他也忍不住想象：在某个地方，存在一个非常相似的环境，复现着他2020年发现的东西——几乎相同的系统，几乎相同的漏洞。多个智能体每秒进入它数千次，生成轨迹，直到其中一个找到那个漏洞。
区别在于，当这一切被投入使用，在所有尝试中，没有任何一次会有人拿起电话。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
