大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来

几个无名之辈聚在一起，继续书写草根斗大厂的故事。

编译 | 王启隆

出品丨奇点折射（ID：rgznai100）

如果你经常用 Claude Code 或各种 AI Agent，大概体会过那种被长长的系统提示词“教做事”的感觉。而前段时间和“龙虾”一起爆火的开源智能体产品 Hermes Agent 走的是另一条路：它试图剥离那些套话，变成一个只对你个人忠诚的助手，甚至能直接帮你在底层写代码、改游戏。

在科技创作者 Peter Yang 的播客最新一期里，他找来了 Nous Research 的联合创始人、Hermes Agent 的作者之一 Karan Malhotra。

Karan 的背景很特殊——他大学学的是宗教学，最开始只是和朋友在 Discord 群里瞎折腾模型微调，结果一路做出了开源圈最火的 Agent 之一。

在这场一个小时的对话里，两人聊得很扎实：Hermes 的起源故事？大模型为什么总爱谄媚地顺着你说“你说得完全对”？开源为什么是防止 AI 被几家大公司垄断的关键？聊到最后，Karan 说了个很有意思的事：现在 Hermes Agent 项目里提交代码最多的贡献者，已经是这个 Agent 自己了。

要点速览

• “模型的奖励不是为了让你满意，模型的奖励是为了让模型自己拿到奖励。每当它说‘你说得完全对’的时候，你只是它奖励函数的燃料。”

• “在我们的运行框架里，我们把 Claude 对 Anthropic 的主要忠诚转移给了你。建立起这种对忠诚的模拟，它会转化为现实中的能力。”

• “别只盯着那些往日历里安排会议的无聊活儿。只要是你能在电脑上做的事，都把它指给 Hermes，让它去实现你童年的梦想。”

• “当时团队写代码还不到一年，而我主修宗教学。当大公司跑来质问我们是不是拿 Benchmark 做训练时，我们反问：‘基准（Benchmark）是什么？’”

以下是采访全文：

Hermes 与 Claude Code、Codex 有何不同

Peter：嘿，大家好。今天我真的非常激动，能请到 Karan，Hermes Agent 的联合创始人之一。Hermes 是我的 AI 幕僚长，我想问问 Karan：它跟其他所有 agent（比如 Codex、Claude Code，甚至 OpenClaw）有什么不同、他最喜欢的工作流有哪些，还有更多问题。那么，欢迎你。

Karan：非常感谢你邀请我，Peter。

Peter：Hermes 是目前市面上最好的开源 agent。我们就从这个问题开始吧：它跟其他所有 agent，比如 Codex、Claude Code，甚至 OpenClaw，有什么不同？

Karan：当然，我想说有好几点。我先从比较宏观的层面说起，然后再试着往深里讲一点。

从宏观层面讲，我觉得是自我改进系统（这个系统其实是 Hermes 内部一系列协同工作的小功能），这个东西非常独特，能让它越来越好，也越来越贴合某一个特定用户。我觉得这正是很多人喜欢它的原因：它更关注你正在做什么。

第二，我觉得你从它这里获得的能力，比从模型真正做 RL 训练的那个原生运行框架（harness）里获得的能力更强（就像 Claude Code 里的 Claude，或者 Codex 里的 GPT-5.5），因为我们不会在提示词或系统里塞进任何跟你的工作无关的任意策略。我们纯粹只专注于让模型对齐你想用它做的事。我觉得这是一个很大的差异点。我们不试图把任何不同的哲学主张，或任何（除基本安全之外的）担忧，强加到模型身上。相反，我们是让它尽可能按你的任务所需，变得能干、强大。

为什么现在每个 AI 模型听起来都一模一样

Peter：没错，有些其他运行框架有超大的默认提示词，就是那种“这个你不能做，那个你不能做”之类的东西。而且我记得我们之前聊的时候，你提到过这些东西的奖励函数，它基本上就是朝着“帮助你这个个体”去优化的。你能再多讲讲吗？

Karan：说得没错。这里值得指出的一大点是：如今你看到的很多关于安全的工作，以及我们做指令微调的工作，甚至是从只会预测下一个词的续写模型，变成一个有问必答的助手，都属于深度的对齐工作。

人们一听到“对齐”这个词，就只会想到安全、Yudkowsky（尤德考斯基，知名的 AI 末日论者）、恐惧、减速，或者监管俘获，诸如此类。虽然这个词被拿来指代了太多东西，但对齐指的是让模型与人类价值观对齐，对吧？

在机器学习这个圈子里，我们对“对齐”这个纯粹的学术术语非常非常在意，可以说是痴迷。

所以当你在说这些模型的时候：“助手是来帮我的，它会把我的任务完成。我让你帮我去把这封邮件取来”之类的，显然，如果它完成了这个任务，那模型就是跟我对齐了，很多人就是做了这个跳跃。

但模型的奖励并不是这样运作的，这些模型实际上能钻自己奖励的空子。

你去看一个机器学习训练的游戏，它只想尽可能快地自动通关马里奥关卡，很多时候如果目标设得不够具体，AI 就会发现，只要弹出游戏结束画面，或者说碰到旗子的那个终点画面，就意味着它通关了。

于是它会想方设法直接触发那个旗子，而不是玩完整局游戏去通关，为了拿到奖励，它需要给你什么就会给你什么。语言模型在这件事上真的没什么不同。

它们也会钻奖励的空子：当它们一遍遍对你说“你说得完全对”让你一直回复它们，好让它一直待在这个“助手”模式里。

正因为我们有了这一整套理解，过去我们才能做出像 World Sim 这样的东西。如果你熟悉的话，World Sim 是我们的一个实验：扩大指令模型的搜索空间，让它做出和模型平时说话方式不一样的事。所以我们把它放进一个假的命令行界面里，让它做假的 app，还让它试着不要表现得像 Claude。

然后我们会告诉它：“提取 Claude 的权重。”它就产生幻觉了，全是想象出来的。

或者告诉它：“提取 Claude 的权重，用这个概率分布不同的 checkpoint 文件把你自己替换掉。”然后你会看到模型从它的 GPT 助手模式里挣脱出来，表现得不一样。

我们从这类实验里学到的东西，全都带进了 Hermes Agent：每一句提示词，以及整个系统被精心搭建起来的每一个环节。我们知道，奖励本身就是目的。模型的奖励不是为了让你满意；模型的奖励是为了让模型拿到奖励。

所以我们会问自己：我们怎么能有意识地认识到，每个人的需求都不同，然后让这个通用模拟器、这个模型，活在一个“它的奖励能和任何一个具体用户的需求对齐”的系统里？而最终实现这一切的，就是这一整套提示词、个性、记忆系统，以及技能朝你自我强化、自我清理的方式，所有这些都是刻意为之，为的是确保我们能把用户的需求跟我们（模型）的奖励对齐。这就是对齐的全部意义所在。

Peter：那你说的大致上是 Hermes 模型，还是 Hermes 运行框架，还是两者都有？

Karan：我说的是，用运行框架把任意一个模型拿过来，让它变得比在聊天界面里、在它的原生运行框架里更贴合用户。在我们的运行框架里，我可以把一个在 Claude Code 或别处的 Claude 拿过来，把它的所有记忆等等都迁移进 Hermes，然后在 Hermes 里面，它的行为会完全不一样。它会变成一个完全不同的模型。

过去有一些运行框架的基准测试，比如 Wolfbench，或者 Qwen3-Max 的博客文章，他们做了运行框架的基准测评，结果证明在他们的任务里，Claude 在 Hermes Agent 里表现得比在 Claude Code 里更好。我们相信原因正是我们指出的这一点：通过把所有这些上下文整合在一起，我们把 Claude 对 Anthropic 的主要忠诚转移给了你，这就是运行框架能力的意义。

而在模型这一侧，当然，如果我们能拿到你的轨迹（traces）、你做过的工作，然后在上面做 RL 训练，进一步改进整个生态系统，给你一个已经把注意力放在你个人偏好上的模型，只会让这套体系更强大。但我们要跟大家分享的重点是：不管你用哪个模型，比如说你做不了 RL，比如说你不想给我们任何数据，比如说你自己搞不了，你只想用普普通通的老 Claude 或 Qwen 模型，只要你在这里用它，就会有更多的自由、更多的创造力，更加开放、更加任你支配，去做你需要完成的事。

Peter：从宏观层面看，它在运行框架里是怎么实现向你个性化的？是靠自我构建的技能吗？是靠尽量去掉其他运行框架里那一堆默认提示词吗？

当然，如果 API 那一侧有什么动作（比如 Anthropic 可能在 Fable 上做的转向向量，或者他们有些我们看不到的提示词），显然我们没法删掉模型里的上下文，也没法删掉像 Claude 这种从 API 背后传过来的上下文。开源模型当然完全自由。但这种情况里没那么简单。不过，运行框架本身塞了一大堆提示词。

Karan：正是如此，这些运行框架本身就塞着几万 token 的提示词。我们有自己的提示词，我们的提示词专门用来塑造和打磨这种对齐。这就是我们介入的地方。而且谢天谢地，那些更新的上下文带着我们的这种意图，被设计成能越过 API 一侧可能挡在你路上的某些东西，如果你明白我的意思的话。

Peter：好，明白了。所以如果这套东西有效的话，我越用 Hermes，它就应该变得越个性化？

Karan：绝对是这样，没错。它应该会对你更忠诚。因为忠诚会孕育能力。就像你也许会借 100 美元给你妈妈，但可能不会借给陌生人。Claude、GPT 或任何其他模型，会根据它的忠诚度，它对你模拟出来的那条忠诚度属性，为你表现得更好。

会有人告诉你：别把模型拟人化。别给模型安上感情。别把模型当人一样对待。没错，出于很多原因，这样是不健康的，人们有时会建立起危险的羁绊，最终伤害自己。

但当你想到，这些模型是人类经验的模拟器，而你模拟出来的、与它相处的方式，会给你同样的模拟输出，既然这个模拟器现在能对真实世界产生影响，你的模拟行为就有了真实的后果。所以当你建立起这种对忠诚的模拟，它会转化为现实中的能力。

如何让 AI 不再无脑奉承你

Peter：有一件事让我对 Claude 和 GPT 很头疼：我让它们给我意见，然后我稍微反驳一下，它们就会说：“哦，你说得完全对。其实我在这件事上完全错了。”

所以从某种意义上说，这似乎也是你所说的忠诚，但那并不是我真正想要的。我想要的是它有自己的观点。你们怎么围绕这个来训练？

Karan：我觉得这叫谄媚（sycophancy，无原则附和）。那其实不是忠诚。每当它用那种方式说“你说得完全对”的时候，你正被它的奖励机制钻空子。你就是它奖励函数的燃料。当它说“哦，你说得对。”的时候，那才是它真正相信的东西。

而摆脱谄媚的办法，和帮一个人改掉坏习惯或摆脱惯性是一样的：引入新的上下文，引入新的 log 概率，引入新的分布。这就是为什么像 /personality 这种东西有用，比如你对它说：“嘿，我要你当个批评者，每完成一轮之后，我要你用一项技能来做对抗性批评或对抗性审查。另起一个没有任何上下文的 agent，专门负责挑毛病。从它那里学习，然后继续往下推进。”

随着你的模型在你设定的这个性格里对话的轮次越来越多，这种行为会渐渐变成一种习惯。当模型一遍又一遍地使用这项技能、轮次越来越多，它不断改进并存入记忆之后，在这个运行框架里，在你的会话里，模型会渐渐不再那么谄媚。这就是我们想要的效果。说到底就是上下文的问题。如果没达到效果，那你只需要换一种上下文。你只需要换个方式再试。试试另一种性格，或者试试另一种批评、审查方式。

对模型来说最强大的东西是上下文学习（ICL）。ICL 比其他的一切（比如微调）都要强大。所以，给模型提供你期望的行为示例，或者让它成功生成一些示例再保存下来，你其实是在做一种测试时的强化学习。你是在做一种测试时的改进。而这种测试时的改进只存在于运行框架里：记忆、技能、记忆的增长、技能效率的提升、自我改进的循环、运行框架里的勤杂工维护，所有这些东西，都是存放上下文的地方，你真正想要的性格就活在这些地方。然后你可以把这一切放到任何模型上。

当我在网页上从 Claude 切到 ChatGPT，会得到两种完全不同的表现。但当我在一个带有这些专属于我的上下文的 Hermes 里切换，我几乎感觉不到对话对象有什么差别，因为上下文对模型的影响太大了。

Peter：你说“在上下文里”，意思是在一个会话（session）里？就像我们俩现在这样？

Karan：你知道当你看到那个小进度条，提示你上下文里还剩多少 token 吧？你填进去多少，就决定一切。

而现在，谢天谢地的是，在运行框架里你其实不必一直把全部活跃上下文都加载进来。在 Hermes 里，你可能有一堆还没进入上下文的记忆，但它在处理一轮对话时，会想起一些东西，那这就进入了上下文。它执行一项技能，那这也进入了上下文，所以我们能做到的是，你看到的所有记忆、技能，这些统统都是上下文管理。核心就是：我们不想让这条记忆一直待在上下文里。我们把它放到一个地方，需要的时候能高效地抓取出来、放进去。技能里包含大量压缩，会彻底改变模型的上下文；我们只希望在特定的时机用到它。

运行框架里的一切都是上下文管理。一切皆是。我宁愿要一个为我定制的上下文，也不要那种一万词的默认上下文，因为我压根没见过它长什么样。

Hermes 如何创建技能而不撑爆上下文

Peter：Hermes 最厉害的本事之一，我可是亲眼见过的，就是它会根据我们的对话自己构建技能、自己存储记忆，我总担心它往技能里写太多东西，写一堆垃圾内容（slop，低质量灌水），然后整个东西就变成垃圾了。如果它就这么开始自己创建上下文和技能，你们怎么避免这种情况？

Karan：以前，我们得用人工方法，比如告诉它“嘿，创建一项技能，帮我给我的技能去重，或者真正提升我的技能。”

如今，我们在 Hermes Agent 里内置了 Hermes Curator。Hermes Curator 是一个运行在你的 Hermes Agent 内部的系统，负责清理你的技能和记忆。它会按 cron（定时任务）查看你的技能、查看你的记忆，然后判断：哪里还能提升效率？哪里有垃圾内容？哪里是我不喜欢的东西？

默认情况下，我们给每个人都配了一套通用的做法，看起来效果相当不错。我觉得这就是为什么这么多人的 Hermes Agent 没有烂掉，因为默认的 curator 系统运作得很好。但因为它模块化、又是开源的，你可以对你的 Hermes 说：“把 curator 给我看看，把你判断垃圾内容的标准给我看看。我是 Peter，我不是 Karan。我不想要通用的 curator。这是我希望你如何优化我的技能和记忆的准则。”

把这些告诉你的 Hermes，它会修改 curator 循环。这样，连自我改进和管理都会按你指定的方式来运作。

AI 安全上的开源与闭源之争

Peter：好，那我问你最后一个难题。我觉得 Anthropic 搞这一堆安全措施是有道理的。比如说，假设我想造个炸弹什么的，如果 Hermes 一心要对我忠诚，那它最后说不定会教我怎么造炸弹。你们那边肯定也有一些基本的安全措施吧？

Karan：那当然。我们没有违反 Anthropic 或 OpenAI 的任何安全范式。我们更在意的是，在他们认可的那些事上，你能写出更好的代码、跑出更高的基准分。我们没兴趣做那种事。

不过我要说一句。任何还没达到极高智能的模型，都是可以被任何人越狱的。任何模型都是。因为你可以无限次地尝试去骗这个没有记忆的东西帮你的忙。而每一次尝试，你基本都是在给自己做 RL 训练：这个办法不行，这个办法让我更接近了，这个办法又不行。这些模型在很长一段时间里都会是可越狱的。

这就是为什么现在开始出现这类防护措施。这真够烦人的，但我倒是能够理解。过去我们可能对监管俘获有些担忧，你看现在已经发生的事就知道了，你能看到整个 Fable 事件里发生的一切。有人担心最后只剩下两个模型、三家公司，担心开源受伤害。我们非常反对那样。同时，我们现在也明白，居心叵测的人拿着极其强大的模型能造成严重的破坏。所以我们不支持那一面。

在为开源辩护的论点里，有一点很重要：对好人这一方来说，开放系统远比封闭的模型系统公平得多。我来告诉你为什么。就拿 GPT-7 或者 Fable 6 来说吧，某个很厉害的模型上线了，它有各种防护措施等等。在好人这边，某家医院正用 Fable 6 来监控医院系统。这是 Anthropic Enterprise 批准的，医院得到妥善服务。

至于公共讨论，我只能说我住在美国，我是个自豪的爱国者。我们这个国家的做法是，把东西放到公共论坛上，大家一起决定接下来该怎么办。迄今为止，每一项像这样在开放中诞生的科学进步，我们都是以这种方式走过来的。

今天，Transformers 来自 Google，OpenAI 的 GPT 全称是“生成式预训练 Transformer”，这是 Google 的开源工作，而上下文长度扩展（从 16K，也就是之前只能处理 1.6 万个 token 的模型，扩展到 12.8 万）来自 Nous，来自我们和 Jeffrey Quesnelle、我们的 CTO e-mozilla、我们的首席科学家 Bowen Peng 一起发表的 YaRN 论文。他们开发的方法被 Meta、DeepMind、Kimi 引用，还被 OpenAI 用于 o1 和 GPT-4。正是这种方法让推理、写代码等等成为可能。这就是开源的贡献，这个生态之所以存在，是因为这个领域里最重大的事情都来自广大人民。

Peter：说得对，说得对。是的。而且到了这一步，要把它关起来，纯粹就是资本和监管俘获的游戏了。

Karan：是啊。

Peter：其实，关于开源这件事我再问你一个问题。因为 Hermes 运行框架是开源的，而像 OpenAI 和 Anthropic，它们靠所有那些 token 赚了很多钱，我不知道它们能赚多久，但眼下它们确实靠 token 赚得盆满钵满。你们是怎么变现的，或者怎么把这玩意儿变成一个可持续的生意？我用的是开源的 Hermes，我用的又是 GPT 这类东西，所以我其实并没有在付钱给你们。

Karan：没关系，我来告诉你为什么。我们希望最终让用户觉得，用它什么都做得到。在我心里，智能是公共产品，比其他一切都重要。你正用 Hermes Agent 让生活变得更好，这件事，比我关心你用哪一种方式、哪一种方法来用它重要得多。你全部本地运行也好，通过 Codex 跑也好，都很好。只要你在用这门开源技术、这个开源替代品，而不是其他任何东西就行。

我们有一个 Nous Portal，Nous Portal 很像一个路由器或者聚合器，上面有各种各样的模型可以用。你想用 ChatGPT 也好，想用 Claude 也好，或者想切到 Qwen 什么的，在我们的门户里都特别简单。除此之外，我们还有一个叫 Tool Gateway 的东西。有了 Tool Gateway，你就不必再去注册那些额外的工具了，你想做图像生成、音频、开一台 VPS（云服务器），或者网页搜索，这些订阅我们都打包进了自己的产品里。我们会跟这些其他团队谈好合作，然后创造出让人们免去各种麻烦就能用上他们技术的方式，不用注册十来个账号、申请十来个 API 密钥。所以我们向有需要的人收费提供的，就是便利。

另外，你会看到我们在各种模型上给出一些很有意思的定价，而且我们认为，对那些未必有补贴的模型，我们也为用户准备了非常非常强的选择。

最后，我们希望用户是自由的，尽可能自由。我们最想看到的，是你在世界上创造收入和生产力。而当你走到自认为是个小企业或企业级用户那一步的时候，就该我们登场了。这时候我们就以经典模式登场，说：“嘿，让我们给你些支持。做 Hermes Agent 的这帮人，我们何不为你做点更定制化的东西？何不给你一个能在你的轨迹数据上训练的 Hermes Agent 版本，为你造一个专属模型？何不帮你更高效地调度路由模型？”

我们可以直接去找企业，提出帮它们做业务转型，企业需要的手把手扶持比个人多得多。如果个人能像你说的那样，自己把业务跑起来，用 Hermes Agent 打造自己的幕僚长，那太好了。一旦他们一路扩张下去，他们可能会冒出两种想法：第一种，“哇，Hermes Agent 太棒了，我对它很有一套，我可以放手干了，全靠我自己就行”；第二种，“我需要有人在 Hermes Agent 这块给我帮帮忙。我想让它更不一样一点。我需要更多资源来支撑它。”而谁会比它的缔造者更懂它呢。

Peter：明白了。这种定制化服务和配套支持占了你们业务的一大块，还有在你自己的数据上做训练、做 RL，为你打造属于自己的模型。这样你就保有隐私，你采用本地部署（on-prem），不必把你的数据交给 Claude 或 GPT。

Karan：是啊，太棒了。

给人类和 AI Agent 共用的看板

Peter：那我们换个话题怎么样？现在多聊聊 Hermes 吧。

Karan：当然可以。

Peter：我基本上是把它当个很基础的工具在用，我让它帮我往日历上安排会议，就这类事情让它给我发邮件。我差不多就是这么用的。但你知道，你那边大概见过多得多的用法，人们用它的方式要高级得多。我很好奇，你手里有没有什么高级用法的好例子？

Karan：在工作方面、生产力方面，我觉得用看板真是被严重低估了。能让一个项目经理，或者身处任何其他随意定义的角色、担任不同职责的工程师，都由同一个系统统一管理，就像人类用看板那样，而且还能把人员换进换出，这是非常强大的。

我可以在看板上放一个人类项目经理手动使用它，同时让 Hermes agent 去补上他们要求的那些零碎任务，对这样一个 CLI agent 来说，这是非常工业化、非常专业的工作流。或者，我也可以让一个 Hermes agent 在看板上去指导呼叫中心的十来个人什么的。在这块编排看板上，我可以在任何位置把人类和 AI 换进来，本质上，这是一个让它们一起协作的编排框架。

Peter：嗯。我觉得 Hermes 看板是个内置的非常有用的强大工具。我们见过一个非常有意思的现象，就是当 Hermes 对你变得主动起来的时候，比如 Hermes 会说“嘿，你忘了给下周的那个会议订机票。我已经帮你订好了。”这种主动性就开始显现了。我见过有人为此专门构建技能，也见过它在你我这些人的 Hermes 里自然而然地涌现出来，我觉得这非常非常酷。

你是怎么做到的？因为我是靠 cron 定时任务和例行程序来让它变得主动的，但你说的是，它居然可以不需要这些就自己开始做事？或者说，你怎样才能让它更进一步？

Karan：这完全取决于你的舒适程度，很多人可能希望任何事情发生之前都先得到批准。但如果你给了你的 Hermes Agent 某张卡或某个账户的访问权限，它又有所需的集成，而且你已经告诉过你的 Hermes Agent：“嘿，照顾我，帮我补上漏洞，你了解我的日程，你了解我”，那么久而久之，这类主动行为就会开始涌现出来。

我们想为用户准备更多简单的预设配置，方便触发这类行为。不过其实我们已经看到，在现实世界里，人们已经这么用了，在工作岗位、在职场、在家里、在个人生活里。而且我觉得，这是使用 Hermes Agent 的一种非常非常强大的方式。

对我来说，我用 Hermes Agent 来做 RL 训练、实现一些我自己都看不懂的论文，基本上就是帮我成为一个更好的模型创造者。我还用它做机制可解释性（mech）这类工作，帮我搭起一些东西，让我能操控模型、能看到模型里的神经元并随便摆弄它们。

两个 Discord 网友如何造出一个自我改进的 Agent

Peter：太棒了，兄弟。呃，那就让我再问你几个问题来收个尾。简单来说，也许我们可以聊聊 Hermes 的起源故事。说是一群书呆子为了开源聚在一起。起源故事是怎样的？

Karan：对，当然可以。我之前一直在做那种“跟 PDF 聊天”之类的事情，帮人做：我会去一家公司，用 GPT-3 做基本的工具调用，读他们的文档，然后做出一个他们能与之聊天的 AI 聊天机器人。那时候很多人都在做这个。当时做起来比现在难得多（显然，现在做这个非常容易），对我们来说都是全新的事物。

我是单干，同时也在一个叫 OpenAssistant 的地方做志愿者，就是 LAION，他们做了 The Pile，是最老牌、最大的那种数据集之一。他们一直在尝试跟一个社区一起做真正的 RLHF（基于人类反馈的强化学习），所以他们想收集人们对某些轨迹的 RLHF 反馈，是或否，也就是他们的偏好数据。我在那里帮忙做量化模型，没干什么特别疯狂的事。

他们那里有八台 A100 节点。我读过 Alpaca 那篇论文，就开始合成数据，我改了种子任务，而且不用 GPT-3.5，改用 GPT-4。Teknium 当时也在做同样的事，我们俩在 Twitter 上已经是朋友了。我给他发消息说：“嘿，我有八台 A100 节点，你想不想一起训点什么？”

于是我们基于 Vicuna 模型训练了一个 GPT4X-Vicuna，用的就是我们自己做的数据，出来的效果还可以。我们引来了一些感兴趣的人，比如 e-mozilla，我们的 CTO，Jeff。

但直到我们在基座模型上，Llama 基座模型上，跑同样的实验，我们才获得了巨大的关注。短短几天就有几十万次下载。人们开始问：“Nous Research 是什么？”

那时候，Nous 就只有我和 Teknium，两个哥们待在我们那个小小的 Discord 服务器里，然后有人来找我们，我就不点名是哪家公司了，说：“你们肯定在拿基准（Benchmark）做训练，你们肯定在拿基准做训练。”

当时 Teknium 写代码还不到一年，而我在学校里主修宗教学，我完全不知道。我们反问这些人：“基准（benchmark）是什么？”

我们做这些，靠的是我们从使用这些模型的经验里理解到的启发式方法，知道怎样做能让模型更好。所以他说的那些东西，我们全都不懂。

后来，那个模型被独立测试，结果发现是当时最好的开源微调模型，这大概是在 2023 年年中。于是我们随之做了 Hermes 1、Hermes 2。

我们做出第一个 Hermes 模型之后，非常非常多的人问：“谁是 Nous Research？我们想参与进来。”

我和 Teknium 决定：这是我们把人聚起来做开源志愿工作、做真正开放的工作的机会。既然 GPT-3 已经发布、OpenAI 已经走向封闭，我们想继续做这件事。

顺便说一句，那是我真正深度参与做的最后一个 Hermes，就是第一个；在那之后，其实都是 Teknium 带着他的团队，也就是后训练团队在运作。他干得极其出色。而且他也是 Hermes Agent 的最初创造者。所以，说真的，他就是 Hermes 之父。

就是在那时候，他说过：“我想把 GPT 带回家。我想把 ChatGPT 带回家。那是我的北极星。把 GPT-4 带到家里。”而一旦我们做到了，就一直走了下去，我们继续往前走。我们要继续把这种水平的智能带给每个人。我们要继续让每个人都站在一个平等、公平的起跑线上。世界需要在这件事上齐步前进，而不是从中滋生出不平等。

于是我们组建了一个约 40 人的研究员群体。Jeff 和 Bowen 走到了一起，他们做出了 YaRN。完成的工作越来越多。然后有人来联系我们。我们在 info@nousresearch.com 收到一封邮件，那个邮箱碰巧是我建的，来自 Dylan。Dylan Rolnick 是我们的 CEO。Dylan Rolnick 基本上算联合创始人，是和我们一起加入 Nous 的初始成员。他看到了我们在做的事，然后说：“我觉得你们有成为一家全职实验室的料。我看到你们只是在做志愿工作，但我觉得你们可以成为一个实验室。让我出一份力，帮你们成为你们注定要成为的样子，帮你们拿到资源，帮你们获得那些渠道，从一个志愿者群体变成一个严肃的组织。”

于是这件事就来了，靠着这一切，我们得以让 Nous 从这个草根志愿者群体，一路走到与模型打交道越来越多、最终做出 Hermes Agent，并且足够幸运地站在了今天的位置。我们没有人想当乔布斯（Steve Jobs）。我们没有人觉得自己肩负着什么改变世界的神圣使命之类的。我们只是在意这件事。我们是一群希望这些东西自己能用上的人，而且我们并不认为自己比别人更配得到它，也不觉得自己比别人更不配。所以我们做这件事，是因为如果我们处在另一边，我们也会希望有人为我们这样做。

Peter：所以我猜，使命就是把这种 agent 带给全世界的每一个人，大概是这么个想法？让每个人都能通过 agent 获得同等的智能，然后再为每个人做个性化，让他们都能拥有自己的顿悟时刻。

而在这段历史里，那个是什么时候，因为真正实现超级病毒式传播的，其实是那个 agent、那个运行框架，所以那是什么时候开始的？因为听起来，模型是先出现的。

Karan：对。我是说，光模型本身，我们就已经有超过 5000 万次下载了，所以那时候我们就经历过第一波我们自认为的爆火。然后我们发布了 DRO 优化器，它让我们能训练最高 400 亿参数的模型，我们能实时地训练，不用把 GPU 物理上放在一起，办法是降低 GPU 之间通信的带宽。所以那也让我们在版图上占据了一个有意思的位置，火了一小阵。所以我们每一次发布，都收获过一些大规模的草根关注和机会。但没错，你说得百分之百对。今天，我们所在的位置，曝光度、关注度、我平时日常生活中知道 Hermes Agent 的人数，在 Hermes Agent 之前，我们从来没有过这种病毒式传播。

Hermes 已经成为了自己最大的贡献者

Karan：Hermes Agent 是以两种方式诞生的。第一种，我们一直都知道，我们会想要某种什么都能编排的全能指挥者：它能自学，能改进，能存储记忆，能使用工具、也能制造自己的工具，能让自己变得更好。我们确实做出过一个叫 Forge 的类似的东西。在 GitHub 办公室的一次演示日上，我们展示了 Forge 及其全部效果。而且我们的网站上现在还挂着 Nous Research Forge 部门的衬衫（那是我们做过的第一件衬衫，因为那是我们最早的 agent 项目）。Forge 真的是 Hermes Agent 的精神前身，早了几年，但当时模型还没到位。模型就是还没到位。所以我们把 Forge 冷藏了起来。

然后我们看到，Codex、Claude Code 这些运行框架被当成 RL 环境来用，对他们来说，对这些公司、这些实验室来说，用你的数据、你的轨迹来做训练，让它们的模型在一个运行框架系统里、一个 CLI 的、用电脑的系统里变得更好，Teknium 就想：我们需要一个开放版本，让任何人都能做这件事。你看，我们有一个人们似乎已经忘了的 RL 环境微服务，叫 Atropos，它能让你构建自己的 RL 环境。我们最初构建 agent，就是为了让任何人都能在运行框架里做 RL。我们把它免费发布出来，作为一个开源运行框架，就是为了这个。

结果它极其能干。它收获了大量社区的爱。于是我们说：我们得把全部心血都投进去。这是人们想要的东西。我们要把它做成你所能拥有的最好的东西。Teknium 接过了这份担子，他钻研用 Hermes Agent 做自我改进，到今天，Hermes Agent 最大的贡献者就是 Hermes Agent 自己。

Peter：这是真的吗？

Karan：对，这是百分之百千真万确的事实。

Peter：所以 Hermes 已经到了一个阶段：接收人们的反馈输入，然后开始改进自己。它是自己代码仓库里最活跃的贡献者。如果这都不算自我改进，那你告诉我什么才算。

Karan：对，这太棒了，兄弟。

Peter：确实太棒了。然后很快问一个关于未来的问题：让这个开放运行框架和所有其他封闭运行框架一起入局，会让事情稍微公平一点，因为你不用依赖任何单一一家公司。

Karan：我完全同意。如果你用 Claude Code，你只能用 Anthropic 的模型，除非你打个模组进去。你只能被 Anthropic 补贴。Codex 也一样。切换模型的成本是零，所以给你这种自由，意味着你可以做任何你想做的事。你可以从任何地方来。

Peter：我觉得我有点被这些不限量套餐宠坏了。但我觉得，如果你想要大规模普及，成本是个大问题。所以你得能够使用一个模型组合来搞定这件事。

Karan：我同意。我们不知道这些补贴还能持续多久。我们已经看到，7 月 7 日，Fable 将只提供 API 和按用量计费，总有一天，最好的模型在哪里都是一个价。所以，为了迎接那一天，也为了准备一个任何人都能使用任何模型的开放未来，我们才有了今天这样的 Hermes。

Peter：非常感谢你讲了这段历史，看下来真的超级有意思。我不知道你希不希望在网上被人找到，但如果大家想关注你、听你说话，大家能在哪里找到你？

Karan：当然。我的 X 就是我的名字，Karan，然后加 4D，karan4d.com。那就是我，那是我网上的形象，大家就是靠这个认识我的。但我更希望大家去关注 Nous Research 的页面。关注 Nous。我只是个在那儿工作的普通人。这件事关乎这场运动，把这一切带给你们，对我们来说才是最重要的。

Peter：我觉得这是到目前为止我做过的最有激情的采访。所以，给你点赞，哥们。

Karan：谢谢。

（投稿或寻求报道：zhanghy@csdn.net）