一篇文章讲清大语言模型发展史

2022年11月30日，OpenAI发布了ChatGPT，轰动一时。

到今天，只不过三年多。但很多人的体感里，AI好像已经换了好几个世代。

这几年里，大语言模型已经从技术圈里的新鲜东西，变成了几乎每天都在刷屏的基础技术。ChatGPT、Claude、Gemini、DeepSeek、Qwen、Kimi，各种模型名字层出不穷；预训练、微调、RLHF、Scaling Law、MoE、RAG、Agent、Reasoning Model，各种技术词也越堆越高。很多人关心AI，却被这些名词追着跑，越看越乱。

这篇文章想做一件事：把Transformer架构出现以来，大语言模型技术发展的主线讲清楚。

本文不会覆盖每一个模型、每一篇论文、每一个创业公司。那样写出来只会变成技术名词年表。真正重要的是那几次关键转向：语言模型怎么从“预测下一个词”走到通用智能入口，为什么规模会变成核心变量，ChatGPT到底改变了什么，开源模型为什么突然追上来，推理模型又意味着什么。

本文伴随者你，把这几年大语言模型的发展从一堆散乱名词，整理成一条清楚的主线。

一、架构的胜利（2017–2020）

1.1 一个为翻译而生的架构

Google翻译不是从神经网络开始的。它2006年上线，最早做的是大规模短语统计机器翻译：先从海量双语文本里统计词组和词组之间的对应关系，再把句子切成一段段短语拼起来。这个方法撑了Google翻译差不多十年。

到2016年，Google开始把核心系统切到基于神经网络的GNMT（Google Neural Machine Translation）。GNMT用的是RNN和它的升级版LSTM，不再只是一段段短语匹配，而是把整句作为序列读进去。这套办法是从左到右一个词一个词处理，比如，"我喜欢北京的烤鸭"要先读"我"，再合"喜欢"，再合"北京"，最后用末尾的隐藏状态生成翻译。两个工程硬伤显而易见：处理是串行的，GPU的并行能力用不起来；长句子里前面的词到了后面会被稀释，距离一长信号就糊了。

Long short-term memory架构

2017年6月，Google翻译组的八个人发了一篇叫《Attention Is All You Need》的论文。标题里的"All You Need"是挑衅：他们提议把RNN这套循环结构整个扔掉，只留下注意力机制。这套新架构他们叫Transformer。

Transformer是一个堆叠式神经网络。所谓堆叠，就是把同样结构的"层"重复放很多次，让每一层都在上一层的结果上继续加工。原论文里为了做机器翻译，encoder和decoder各堆了6层。每层只有两个核心模块：self-attention（自注意力）和feed-forward（前馈网络）。输入塞一段文字，输出端就拿到每个词的"上下文向量"，也就是这个词在这句话里的意思被周围所有词调整之后的表征。

Figure 1: From ‘Attention Is All You Need’ by Vaswani et al.

Attention是这套架构里最关键的一步。还是拿"我喜欢北京的烤鸭"举例。"烤鸭"两个字单独看就是"烤的鸭子"，但这句话里它特指"北京烤鸭"。模型怎么把"北京"那层意思塞进"烤鸭"里？办法是让"烤鸭"环顾一圈，给每个词打分："北京"最高，"喜欢"中等，"我"和"的"几乎为零。再按这套分数把每个词的信息按比例吸收过来。"烤鸭"原本那个泛指"烤的鸭子"的向量，就被改写成"这句话里那只我喜欢的北京烤鸭"，它从此知道自己在这一句里的精确含义。句子里6个词同时各做一遍，一轮跑完，每个词都从通用含义升级成了"在这句话里的具体含义"。这就是attention这一步的产出。

跟RNN比一下就能看出狠在哪里。RNN处理同一句话是这样：先读"我"记一笔，读"喜欢"合并进来，读"北京"再合并，一路滚到"烤鸭"，最后只剩一笔总结。这里有两个毛病：必须一个词一个词串着读，前一步没算完后一步动不了，GPU几千个核心闲着干瞪眼；等滚到"烤鸭"时，"我"已经被压缩了5次，信号早就糊了，想回头看清楚已经看不到。Attention把两件事一次解掉，每个词一步直达每个词，没有压缩也没有先后，6个词的计算打包成一次大矩阵乘法塞给GPU，并行完成。这就是 "Attention Is All You Need" 那句标题的真正意思：扔掉RNN的循环结构，问题反而都解决了。

原始Transformer分两半。Encoder（编码器）负责"读原文"：用6层self-attention把英文每个词的上下文榨出来，输出一组"原文向量"。Decoder（解码器）负责"写译文"：每生成一个词做两件事，一是看自己已经生成的前面那些词（self-attention加遮罩，不让偷看未来），二是看encoder输出的原文向量（cross-attention，把译文跟原文对齐）。读 + 写连起来就是机器翻译的天然分工。

论文发出来当年，Transformer在WMT标准翻译测试上一下把英德、英法的BLEU分推到新高。BLEU是机器翻译里常用的自动评分，粗略说，就是看机器译文和人工参考译文有多接近。它的训练成本也只用之前SOTA模型的几分之一。SOTA是state of the art的缩写，意思是当时公开结果里最强的模型。学术界很快意识到这套架构的潜力，2018年起就有人开始把它从翻译里搬出来，试着改造给别的任务用。

1.2 两半分家，两个学派

Transformer原本是为翻译设计的，天然分成两半：encoder负责读原文，decoder负责写译文。2018年之后，大家很快发现，这两半其实可以拆开，各自发展成一条路线。

Google先拿走了encoder那一半。原因很直接：当时NLP里最值钱的问题不是"写一段话"，而是"读懂一段话"。比如判断两句话是不是矛盾，找出一句话里的公司名、人名、地名，或者在一段材料里回答问题。这类任务不需要模型从左到右生成新文本，更需要模型把整句话、甚至整段话看明白。

这就是BERT的出发点。BERT全称是Bidirectional Encoder Representations from Transformers，直译过来就是"来自Transformer的双向编码器表示"。重点有两个词：encoder和bidirectional。encoder说明它只用Transformer左边那半套读文本的结构；bidirectional说明它读一个词时，可以同时看左边和右边的上下文。

BERT的训练方式像完形填空。给一段话，随机遮住一些词，让模型猜被遮住的是什么。比如"我喜欢北京的[MASK]"，模型要从"我、喜欢、北京、的"这些上下文里猜出"烤鸭"这类词。它还做过另一个训练任务，叫next sentence prediction，让模型判断两句话是不是自然相邻。后来的模型不一定保留这个任务，但BERT最早就是靠这两件事训练出来的。

所以BERT并不是简单做一个固定embedding。早期NLP里的word2vec、GloVe更像是给每个词发一张固定身份证："苹果"这个词无论出现在"吃苹果"还是"苹果公司"里，向量大体是同一个。BERT做的是contextual embedding，也就是上下文相关的表示。同一个"苹果"，放在水果句子里和公司句子里，最后出来的向量不一样。

BERT出来之后，使用方式主要有两种。第一种是fine-tuning：在BERT后面接一个很小的任务头，然后把整个模型拿去微调，做分类、问答、命名实体识别、自然语言推理。第二种是feature extraction：把BERT当成一个强大的文本特征提取器，抽出某一层或者几层的向量，再交给别的模型使用。

OpenAI走了另一条路。他们拿走的是decoder那一半。decoder和encoder最大的区别，是它不能偷看未来。它生成第N+1个词时，只能看前面已经出现的词。这正好适合一个极其简单的训练目标：给你前N个词，猜第N+1个词。

这就是GPT系列的起点。GPT是Generative Pre-trained Transformer的缩写。Generative表示它是生成式模型，目标是继续往后写；Pre-trained表示它先在大量无标注文本上预训练，再拿去适配具体任务；Transformer表示它用的是Transformer架构。这个名字其实把路线说得很清楚：先用海量文本训练一个会续写的Transformer，再看这个续写能力能不能迁移到各种语言任务上。

OpenAI为什么要反着BERT干？三个理由。一是BERT那条路Google已经占住了，OpenAI当时是小玩家，跟Google同方向硬拼资源拼不过，必须找一条Google没在做的路。二是生成比理解更难：BERT的完形填空左右两边的上下文都给你，相当于做选择题；GPT只能看左边猜右边，是开放题。能把开放题做好，做选择题是顺带的事。三是BERT不能生成、GPT能；当时大多数人觉得"生成"用处不大，OpenAI赌的是只要模型够大，"生成"才是通用智能的入口。

这里把"预训练"是什么也说清楚。预训练就是用海量没标注过的文本，让模型从零开始学语言。"训练"调的是Transformer里所有矩阵的参数（attention里的W_Q、W_K、W_V，feed-forward里的权重，加起来几亿到几千亿个数），最开始是随机的，训完会被调成能完成任务的状态。GPT的训练数据是从互联网扒来的几千亿token文本（Common Crawl、Wikipedia、书、论文），训练任务只有一个：根据前面的词预测下一个词，预测错了就反向传播微调那几千亿个参数。整个过程只用decoder那半，encoder被扔掉。

OpenAI在2018年6月发布了GPT-1，论文题目是《Improving Language Understanding by Generative Pre-Training》。GPT-1只有1.17亿参数，按今天标准很小，但它提出了一个关键思路：先用"预测下一个词"做通用预训练，再用少量标注数据做任务微调。2019年2月，OpenAI发布GPT-2，参数涨到15亿，训练数据换成约40GB互联网文本。GPT-2的重点不再只是做分类任务，而是展示模型可以写出长段落，甚至在没有专门训练的情况下，表现出一点问答、摘要、翻译的能力。

那GPT-1和GPT-2在benchmark上打得过BERT吗？打不过。GPT-1比BERT早4个月发布，在少数任务上短暂拿过SOTA，但2018年10月BERT一出来就被全面压过。2019年GPT-2涨到15亿参数，但同期Facebook发的RoBERTa（优化版BERT，只有3.55亿参数）反过来在GLUE、SQuAD这些主流榜单上把GPT-2继续压着。从参数量看GPT-2大4倍，从分数看反而输。

GPT-2真正出圈靠的是另外两件事。一是文本生成质量肉眼可见地强，能写出连贯的长段落、风格切换自如，能以假乱真。二是OpenAI当时声称模型"太危险不能完全开源"，分阶段放出权重，一时刷屏。但在NLP学术圈眼里，整个2018到2020年，学界主流的判断仍然偏向BERT那派：理解和生成是两件事，应该分开设计。BERT负责"读懂"，GPT负责"续写"。在当时很多人眼里，BERT更像正经NLP，GPT更像好玩的文字接龙。这其实是一个上层的理论判断：理解要专门学理解，生成要专门学生成。后来GPT-3真正推翻的，就是这个判断。

1.3 GPT-3 的赌注：先要有望远镜

OpenAI内部有一群人想赌一件跟主流认知不同的事：如果模型大到上千亿参数，光"猜下一个词"这一招会不会自己长出新能力？没错，这就是俗话说的“大力出奇迹”，这是可能的吗？

这个赌注的核心信徒是当时OpenAI的首席科学家Ilya Sutskever。他从AlexNet那个年代就坚信深度学习的进步主要靠规模，算法创新次要。这个观点在OpenAI内部争议过几年，CEO Sam Altman和研究负责人Dario Amodei（后来Anthropic的创始人）最终拍板押下去。

技术上给这个赌注提供数学依据的，是Jared Kaplan等人2020年1月发的《Scaling Laws for Neural Language Models》。这篇论文证明模型loss会随参数、数据、算力按可预测的幂律下降。换句话说，多大算力换多少能力，事前可以算出来。这给了OpenAI押1750亿这个具体数字的底气。

但工程上他们不是一步到位的。GPT-1（1.17亿参数，2018年）几张GPU就够。GPT-2（15亿参数，2019年）开始吃力，但还撑得住。等到2020年要冲到1750亿参数，之前那套训练工具链根本顶不住。

先算一笔账。1750亿参数光把权重存下就要约350GB（用16位浮点数算），加上反向传播要保存的中间结果和优化器状态，实际需要2到3TB内存。当时NVIDIA最强的训练卡V100每张才32GB显存，怎么都装不下。

有人会问：Google不是有TPU吗，性能秒杀GPU？但TPU只在Google自己数据中心里跑，外人用不了，OpenAI这种Google对手更不可能碰。OpenAI那时跟微软绑定，能拿到的就是Azure上的NVIDIA GPU。而且就算给TPU用，单颗也只有16GB高速内存，照样塞不下1750亿参数。所以问题跟单卡多快没关系，瓶颈在另一头：一个单卡塞不下的模型，怎么拆开分到几千张卡上同步训练、还要算得对？这是个软件工程问题。

要解决它需要三套工程突破，2018到2019年三家公司各破一关。

第一关是模型放不下一张卡。

一个transformer层里的权重矩阵动辄几亿个数字，单GPU装不下。NVIDIA 2019年9月发的Megatron-LM给出答案：把单个权重矩阵横着切成N份，N张GPU各算一块再汇总。这叫张量并行。打个比方，一张大试卷一个人写不完，撕成4份让4个人同时写。

第二关是层数堆起来还是装不下。

GPT-3有96层transformer，就算每层都切了，整个叠起来还是太大。Google 2018年底发的GPipe给出答案：不同层放到不同GPU，GPU 1管前12层，GPU 2管13到24层，数据像流水线一样从第一张卡流到最后一张。这叫流水线并行。

第三关是优化器状态吃天量内存。

训大模型用的Adam优化器每个参数还要额外存两个数字（动量、方差）。1750亿参数光优化器状态就要1.4TB，每张GPU都存一份完整副本再多卡也救不了。微软2019年发的ZeRO给出答案：优化器状态、梯度、参数本身全部按GPU数量切开，每张卡只存1/N，需要时临时通信交换。N张卡的显存就此合起来变成一个虚拟的大显存。

三招组合起来叫"3D并行"：张量并行切单层（横着切）、流水线并行切层堆（竖着切）、ZeRO切优化器状态和数据。三维同时切，1750亿参数才真的能塞进一千多张卡的集群里。少任何一个都不行：光张量并行96层叠不下；光流水线单层装不下；不上ZeRO，光优化器状态就溢出。

硬件这边，NVIDIA 2017年发布的V100是当时最强的训练卡。Microsoft给OpenAI在Azure上专门搭了一台超级计算机，把约1万张V100 GPU串在一起，2020年5月19日在Microsoft Build大会上公布，是当时全球前五的超算之一。3D并行的软件方案加上这台超算，万事俱备，只欠东风。

2020年上半年，OpenAI在这台超算上跑了几个月，5月28日发表了里程碑论文：GPT-3《Language Models are Few-Shot Learners》。

OpenAI想做的实验本身是个理论问题：规模够大会不会涌现新能力？但要回答这个问题，得先把"训练1750亿参数"这件事本身工程化。三家公司各解一道题，加上硬件刚好升级，工程窗口才打开。

1610年伽利略把自制望远镜对准夜空，看见木星周围有四颗卫星在转。这是人类第一次亲眼看到地球之外的天体围绕别的天体运行，日心说从此有了实证，天文学被改写。

望远镜先造好，原本看不见的天空才看得见。

1.4 范式转移

GPT-3论文的核心论点一句话讲完：模型大到一定程度，新能力会自己冒出来。

它展示的最关键能力叫in-context learning（上下文学习）。模型不必为每个任务专门微调，只要在prompt里给两三个示范，它就能照着做这个任务。给两三个示范就照做的叫few-shot；什么示范都不给直接做的叫zero-shot。

具体效果有多炸？论文里几个让人下巴掉下来的结果：GPT-3在SuperGLUE、TriviaQA这些benchmark上的few-shot分数，跟专门fine-tune过的模型差不多甚至更好；它能写出像样的新闻文章，OpenAI做过测试，人类读者区分真假的识别率只比扔硬币高一点；它能从自然语言描述生成简单代码、做基础算术、回答一些没见过的常识题。

这种能力在小模型里完全看不到。GPT-2（15亿参数）也能续写，但给它两三个示范它学不会照做。GPT-3（1750亿参数）烧到那个临界值，新行为整个浮上来。这是发生了相变，像水烧到100度才沸腾。

但更大的影响在工作方式层面。GPT-3触发了整个NLP行业从老范式到新范式的整体转移。

老范式是这样：2018到2020年，做NLP的标准动作是拿一个预训练好的模型（多半是BERT），针对你要做的任务，收集一批带标注的数据（几千到几万条），在这批数据上fine-tune一遍。每个任务都要单独标数据、单独微调、单独部署一个模型。一家公司想做客服分类 + 自动翻译 + 文档摘要 + 内容审核，就得养四个不同的模型。NLP圈那几年大量论文都在卷这件事：怎么fine-tune得更高效、用更少标注数据得到更好效果。研究的最小单位是"任务 + 数据集"。

GPT-3把这个工作流整个掀了。模型不为任何具体任务训练，只学一件事，预测下一个词。要它做翻译就写prompt："把下面英文翻成中文：Hello world →"；要它做情感分析就写："判断这段评论的情绪是正面还是负面：[评论] →"；要它做摘要就写："把下面文章总结成三句话：[文章] →"。

转移落到5个具体维度：

这套从"训练时绑定任务"到"使用时绑定任务"的转移，后来被叫做foundation model（基础模型）范式。Stanford HAI在2021年专门发了一篇《On the Opportunities and Risks of Foundation Models》给这套范式命名。一个名字能立起来，说明业界已经默认这就是新的工作单位。

但学术圈不是立刻全盘接受，反应分了三波。

第一波是怀疑。很多研究者认为GPT-3只是"模式匹配加大数据记忆"，不算真理解。它会在长文里说错事实、做错算术、自相矛盾，几个月里出了一堆"GPT-3做不到X"的论文。OpenAI把模型藏在API后面不放权重，也加深了质疑。

第二波很快盖过第一波。拿到API真用过的人都被它的通用能力震到。AI Dungeon这个游戏直接用GPT-3做后端，玩家发现它能记住几千字剧情、生成不重样的对话。2021年6月GitHub Copilot发布，底子是GPT-3的代码训练版Codex，程序员第一次体会到"AI写代码"是什么感觉。"一个模型解所有任务"从论文图表变成了能跑的产品。

第三波是前沿实验室和大厂开始跟进。GPT-3发布后，2021年起，Google、DeepMind、Microsoft/NVIDIA、华为、百度、Meta、智谱等玩家陆续推出百亿到千亿级语言模型。到2023年ChatGPT爆红之后，这件事才从前沿实验室竞赛，变成整个行业的集体军备竞赛。BERT那派"理解和生成必须分开"的理论判断就此被证伪。从GPT-3之后，所有前沿大模型（GPT、Claude、Gemini、LLaMA、DeepSeek、Qwen）都是decoder-only Transformer的后代。

当然，BERT没有死。它在产业界仍然是分类、检索、向量embedding这些窄场景的主力。Google搜索后端、文档分类系统、电商推荐里的语义匹配，今天还在跑BERT派的模型。它们小、快、便宜，专门做一件事比叫一个千亿大模型来做划算得多。但"前沿AI"这条赛道的主线，从GPT-3起彻底换了。

这是AI历史上第一次，一个上层的理论判断被一个大规模实验整个推翻。这件事能发生，前提是工程已经把这个实验做成可能。

二、从能力到可用（2022）

2.1 能力不等于好用：RLHF 的登场

GPT-3论文发完，2020年6月OpenAI把它做成商业API上线，相当贵：起步价0.06美元1000 token。一年里上百家公司围着这个API做产品：Jasper做营销文案，Copy.ai做带货文案，AI Dungeon做交互小说，Replika做陪伴聊天。但绝大多数尝试很快撞墙。

模型什么都会，但什么都不听话。你让它写一份正经报告，它会扯到段子上；你让它客观回答问题，它会编造数据；你问它一个敏感话题，它会给你一段不合适的回答。最典型的事故是AI Dungeon：2020年7月接入GPT-3后体验质变，但很快出现大量不可控生成（露骨、暴力、儿童内容），OpenAI在2021年4月威胁切断API访问，逼着AI Dungeon加各种过滤器，社区随后流失大半。

这暴露了一个此前没被认真理论化的鸿沟：模型"知道什么"和模型"愿意做什么"之间，隔着一层。光把模型变大不够，必须再做一层"对齐"。圈里管这种现象叫alignment problem。

GPT-3之后的两年多，OpenAI没有发新的旗舰底座模型。中间发生的事，主要就是把这个对齐层补上。

转折点是OpenAI 2022年3月发的InstructGPT论文《Training language models to follow instructions with human feedback》。这篇论文给出了RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习）的标准三段论。

先做监督微调（SFT，Supervised Fine-Tuning）。OpenAI雇了40多个标注员，让他们针对几万条真实用户prompt亲手写出"理想回答"。然后拿这批人写的对照集去微调GPT-3。模型第一次学到"什么样的回答符合期待"。

把模型微调过一轮之后，需要一个"裁判"来给后续回答打分。OpenAI让模型对同一个prompt生成4到9个不同回答，标注员从好到坏排序。用这批排序数据训一个独立的奖励模型（Reward Model），它本身不答题，但能给任何回答打分，专门预测"哪个回答更受人喜欢"。

奖励模型就位之后，最后一步用强化学习。让GPT-3一遍遍生成回答、被奖励模型打分、根据分数调整自己。算法叫PPO（Proximal Policy Optimization），让模型按奖励模型的口味打磨自己。

实验结果非常硬：13亿参数的InstructGPT在人类偏好打分上击败了1750亿参数的原版GPT-3，参数差了一百三十多倍。这件事对整个行业冲击巨大：让模型变好用跟把模型变大几乎是两条不同的路。

InstructGPT上线8个月后，2022年11月30日OpenAI发布ChatGPT。背后的模型叫GPT-3.5，是InstructGPT路线训出来的进一步版本：先在GPT-3基础上做了一轮代码增强训练（叫code-davinci-002），再做完整的RLHF。ChatGPT一发就在整个社会爆火，5天破百万用户，2个月破1亿月活，刷新了所有消费产品的增长记录。让ChatGPT从"会续写"变成"能对话"的，正是InstructGPT那一套RLHF。

顺便看一眼GPT系列的训练数据演化：

预训练数据从GPT-1到GPT-3涨了100倍，是scaling假说的直接体现。但到GPT-3.5这一步，新增数据更关键的变化在性质上。GPT-3训练用的是从互联网爬下来的随机文本；GPT-3.5多出来的那一万多条示范和三万多条排序，量级跟预训练完全不在一个数量级，但全部是带人类价值判断的对齐数据，专门告诉模型"应该怎么回答"。这是一种全新的训练数据。

这件事催生了一个新概念：后训练（post-training）。

预训练是用海量无标注文本让模型学会语言和世界知识。后训练是预训练之后所有进一步调整模型的工作，包括SFT、RLHF、安全调优、风格调优等。从InstructGPT这一刻起，"后训练"第一次和"预训练"摆到同一张桌上。后来Anthropic的Constitutional AI、各家的RLAIF、DPO，都是在后训练这层做新文章。

预训练给模型知识；后训练给模型性格。两层加起来，才是今天我们用的ChatGPT、Claude、Gemini这种"懂事的"大模型。

2.2 ChatGPT 背后的工程窗口

InstructGPT用40个标注员手写了几万条对齐数据，训出第一版"听话"的GPT-3.5。但要让模型继续进步，下一个问题就来了：再雇40个标注员？再雇400个？还是有更狠的办法？

OpenAI的答案是把用户当标注员。模型每跟人对话一次，潜在地都是一次训练信号——用户哪个回答觉得有用、哪个回答点了thumbs down、哪个回答让用户重新问了一遍、哪个回答被复制走用了。这些信号天然带价值判断，比专门请人写好答案便宜得多、规模也大得多。但要规模化拿到这种信号，前提是亿级用户能用得起、用得起天天用，模型得能免费、推理还要跑得动。

这又是工程问题。早期GPT推理一次的成本贵到没法做免费产品。三件工程突破赶着做出来：

第一件是FlashAttention（Stanford HazyResearch组的Tri Dao的研究）。原版attention要把中间的N×N大矩阵反复在GPU的慢内存（HBM）和算力核心之间搬运，瓶颈不在算而在搬。FlashAttention把attention拆成块，每块的Q、K、V直接塞进GPU里更快的SRAM一次算完，只把最终结果写回HBM。数学上跟原版完全等价，纯靠IO重写就让attention这一步提速超过七倍。

第二件是KV cache，autoregressive生成时，每个新token都要attention前面所有token，每次重算K和V太浪费；缓存下来下次直接复用，对话越长省得越多。这不是单篇论文的功劳，是Megatron-LM、NVIDIA FasterTransformer、HuggingFace Transformers等开源框架在2019到2021年陆续把它做成标准操作。

第三件是权重量化，把模型权重从FP16压到INT8、INT4甚至FP4，单卡能装下更大的模型，推理速度也成倍提升。

这一轮工程突破到位之后，ChatGPT才发得出去。

ChatGPT表面上是个产品，底下它是工程打开的另一扇窗：让"用户反馈"从40人小作坊一跃变成亿级用户的大规模训练信号。每天上亿条对话经过过滤、采样、人工二次评分，回灌到下一轮RLHF。InstructGPT那40个标注员一年的工作量，ChatGPT上线后大约每小时就能产生一份。模型几个月一个明显跃迁。

OpenAI那时以为自己有了一条牢固的数据护城河：用户越多 → 反馈越多 → 模型进步越快 → 用户越愿意来。一年内ChatGPT月活破亿，看起来竞品很难追平。

但事后回看，这条护城河没站住。Anthropic用Constitutional AI不靠亿级用户也追上来，DeepSeek、Llama-3、Qwen用合成数据加DPO等更便宜的办法把开源前沿推到接近闭源。行业渐渐意识到，RLHF数据的质量比数量重要，亿级原始反馈里大部分是噪音。OpenAI从这个飞轮拿到的真正红利是2023那一整年的独占窗口，给了它一年的产品先发优势，模型能力优势却没维持住。

三、ChatGPT 之后：百花齐放（2023–2024）

ChatGPT在2022年11月点燃了整个行业。2023到2024这两年成了大语言模型的爆发期：闭源前沿玩家加码追赶OpenAI，开源浪潮起来，中国玩家集体下场，整个生态从"OpenAI一家独大"变成多极混战。

3.1 Anthropic：从 OpenAI 出走的另一条对齐路线

Anthropic的故事得从OpenAI内部的一次分裂说起。

2020年底到2021年初，OpenAI研究部门一批人先后离职，包括研究VP Dario Amodei、运营VP Daniela Amodei兄妹，加上GPT-3论文一作Tom Brown、Scaling Laws论文一作Jared Kaplan、安全研究员Sam McCandlish、政策负责人Jack Clark、可解释性研究员Chris Olah等核心人员。他们2021年1月在旧金山成立了Anthropic。

公开说法是"对OpenAI的方向有不同看法"，实际矛盾大致有以下几条：2019年OpenAI接受微软10亿美元投资、改成"利润上限"公司结构，让原本"非盈利"的初心变了味；2020年GPT-3商业化太快，安全研究分到的资源不够；这批人觉得AI安全和能力研究应该绑在一起做，OpenAI把它们分开了。Dario那拨人想做的是"safety-first的前沿模型实验室"，跟OpenAI越来越商业化的路线分道扬镳。

Anthropic成立之后，拿了不少投资：2021年5月1.24亿美元A轮，2022年5.8亿美元B轮，2023年Google投了3亿多，Amazon陆续投到40亿，估值一路冲到600亿美元以上。

Anthropic的代表作是Constitutional AI（CAI）。2022年12月发的论文《Constitutional AI: Harmlessness from AI Feedback》给出了一条不依赖亿级用户的对齐路径：写一套明文原则（"宪法"），让模型自己用这套原则评估、批评、改写自己的回答，再用这些改写后的对照数据训自己。把RLHF里"人类反馈"那一环换成"AI自反馈"，规模化的瓶颈一下消除了。

CAI的思路有清晰的源流。RLHF本身就是Christiano、Amodei这些人在OpenAI时期搞出来的，2017年的《Deep Reinforcement Learning from Human Preferences》是RLHF的开山论文，Amodei是作者之一。到OpenAI做InstructGPT时他们已经发现RLHF靠人标既贵又慢。Anthropic成立后沿着这条线推进：2021年12月发《A General Language Assistant as a Laboratory for Alignment》，2022年4月发《Training a Helpful and Harmless Assistant with RLHF》，2022年12月发CAI。三篇论文连续递进：先做helpful + harmless的RLHF，再发现harmless这一头特别费人，再用AI自反馈替掉那一段。

CAI对Anthropic尤其重要。他们当时只有一两年时间，没有OpenAI那种亿级用户的反馈来源；如果死磕RLHF原版方案，永远追不上。CAI让他们用很小的标注预算就能训出可控的对齐效果。

但要老实说一句：早期Claude跟同期OpenAI旗舰模型差距明显，"追上"是慢慢发生的事。

2023年3月发的Claude 1，大致跟ChatGPT（GPT-3.5）一个量级，但同月发布的GPT-4是另一个层次，Claude 1跟它差距明显。2023年7月Claude 2、11月Claude 2.1，提升肉眼可见但仍在GPT-4之下。整个2023年，Claude在工程师圈里是"小众替代"，不是主流选择。

真正缩到平起平坐是2024年3月的Claude 3系列（Opus / Sonnet / Haiku三档）。Opus在多项基准上跟GPT-4打平或小幅领先，是Anthropic第一次拿出能跟OpenAI旗舰对垒的模型。2024年6月Claude 3.5 Sonnet在代码任务上明显超过GPT-4，工程师圈大批人切到Claude，Cursor、Claude Code这些产品起飞，根子就是这一代。

也就是说，Anthropic用Constitutional AI这条路真正追平OpenAI花了大约三年（2021创立到2024年3月Claude 3）。Claude今天那种相对克制、愿意承认"我不知道"的性格，根子就在CAI。

Anthropic的故事说明一件事：RLHF的护城河没OpenAI想的那么宽，对齐工程可以不靠用户飞轮。但走通这条路花了两到三年，期间一直在第二梯队。

3.2 LLaMA：开源浪潮的引爆点

Meta在2023年2月发了LLaMA-1，参数从7亿到650亿，覆盖消费级到工作站级显卡。本来只对学术研究开放，但权重在发布一周内就被"泄漏"到4chan，整个开源社区瞬间上车。

架构上LLaMA跟GPT、Claude没本质区别，都是decoder-only Transformer。LLaMA用的几个优化（SwiGLU激活、RoPE位置编码、RMSNorm、Llama-2起加GQA）后来被各家普遍采用。真正的不同在训练配方：参数压小、数据加多（13B模型喂1万亿token），跟GPT-3那种"参数大、数据相对少"的路线相反。这个配方为什么对、为什么有效，3.5节会解释。

但LLaMA也有明显短板：后训练这一头Meta一直比OpenAI / Anthropic弱。Meta没有ChatGPT的亿级用户飞轮，也没像Anthropic那样下重注做Constitutional AI。LLaMA放出来"够用"，但拿来做产品体验跟Claude / GPT差着一档。

接下来一年，LLaMA衍生模型像爆米花一样冒出来：Stanford的Alpaca（用GPT生成的指令数据微调LLaMA-7B）、Berkeley的Vicuna（用ShareGPT对话数据微调）、WizardLM、Lit-LLaMA、Dolly。这些里大多都用ChatGPT或GPT-4的输出当训练数据，技术上违反OpenAI的服务条款，但实际很难追查，等于借闭源模型的对齐能力训出开源模型的对齐版本。

为什么衍生模型偏偏围着LLaMA转？因为OpenAI和Anthropic全程闭源。GPT-4、Claude在外人手里只是API接口，权重拿不到、不能微调、不能本地部署，连基本的"看一眼模型里到底学了什么"都不可能。它们的服务条款还明确禁止"用我们的输出训练竞品模型"。开源社区想做衍生，必须有一个"前沿水平 + 开放权重"的底子。2023年初这种东西不存在，BLOOM、GPT-J、Pythia这些早期开源模型能力都跟GPT-3差一档。LLaMA是第一个把"前沿"和"开放权重"两件事同时做到的。底座一就位，整个生态瞬间起来。

"衍生"在开源社区里有两种含义。Alpaca、Vicuna、WizardLM这些是直接拿LLaMA权重微调的真衍生品。但后来主流的开源模型（Mistral、Qwen、DeepSeek、Yi、智谱GLM）都是从零自己训的，只是架构家族继承了LLaMA（decoder-only + RoPE + RMSNorm那套），权重独立。LLaMA真正的贡献是证明了"小参数 + 多数据 + 开放权重"这条路走得通，给后来所有开源玩家兜底，不是大家直接复制粘贴它。

2023年7月Meta发LLaMA-2，把许可证改成"商用可用"（每月活跃用户超7亿的公司除外），算是把开源水龙头彻底打开。2024年4月Llama-3发布，70B版本基准接近GPT-4；2024年7月Llama-3.1的405B开源版直接打到当时GPT-4o水平。

但LLaMA系列的高光时刻就停在了Llama-3.1。2025年4月发的Llama-4口碑很糟，小尺寸（Scout / Maverick）没明显超过同期对手，最大尺寸Behemoth干脆没正式发布。这段时间DeepSeek V3 / R1接管了开源前沿位置，Qwen也持续强势，LLaMA从开源前沿滑到第二梯队。这件事跟商用授权无关（Llama-2起就给了商用授权），主要原因是Meta节奏明显慢了：首席科学家Yann LeCun公开质疑LLM路线、关键研究员流失到Anthropic和xAI、Meta内部对"是否要赢这场"本来动力就不强（Meta不靠卖AI赚钱，靠社交广告）。

Meta这一系列开源的战略意图很清楚：让开源生态足够强，OpenAI、Anthropic的闭源溢价就被抹掉。这是最纯粹的"商品化对手核心产品"打法。模型对Meta来说是基础设施而非产品，自家不靠卖模型赚钱。但也正因如此，2025年起当其他玩家（DeepSeek、Qwen）能更好完成"商品化"这个任务时，Meta就让出了位置。

3.3 全球玩家入场：美中欧三方分化

ChatGPT之后两年，闭源前沿之外的玩家从美中欧三个方向集体入场。全球版图从OpenAI单极，变成多条路线同时追。

美国这边，Google反应慢了一拍但没缺席。2023年2月仓促发了Bard应对ChatGPT，效果一般，被嘲讽过几个月。2023年12月，Google推出Gemini 1.0替换Bard，2024年2月推出Gemini 1.5，主打百万级上下文窗口，2024年12月又推出Gemini 2.0。从2024年起，Google在多模态和长上下文这两块开始压住OpenAI。

马斯克的xAI是后来者。它2023年7月成立，2023年11月推出Grok-1，2024年3月开源Grok-1权重，随后推出Grok-1.5和Grok-2。到2025年2月，xAI又推出Grok-3，开始正式加入前沿模型竞赛。它的特殊之处不在论文路线，而在资源组织：一边吃X平台的实时内容和用户反馈，一边用极端速度堆GPU集群。xAI走的是"社交平台入口 + 实时数据 + 大算力"的路线，跟OpenAI和Anthropic不是一个打法。

欧洲方面以Mistral为代表。法国Mistral 2023年5月成立，几个月内开源Mistral 7B和Mixtral 8x7B。三个创始人来自DeepMind和Meta FAIR，确实熟悉LLaMA那套训练经验。Mistral不是LLaMA微调品，权重是自己训的。它的定位也很清楚：模型要小、快、便宜，能本地部署，也能进欧洲企业的私有化场景。

中国这一轮反应相当迅速。2023年3月百度发文心一言，4月阿里发通义千问，6月智谱发ChatGLM-2，8月字节发豆包，10月Moonshot AI发Kimi，11月零一万物发Yi。2023年大模型研发层面已经是"百模大战"，到2024年备案上线、能对公众提供服务的国产生成式AI大模型接近200个。

早期玩家很多，真正杀出来的是少数几家。阿里Qwen靠开源和工程完整度进入全球开发者社区。DeepSeek靠V3和R1把成本、MoE、推理能力一起打到海外圈面前。智谱GLM在政企和国产生态里站住位置。月之暗面Kimi押长上下文。字节豆包靠App入口和流量规模做产品化。中国不是2023年才"知道有LLM"，但确实是ChatGPT之后，才以公司战略和产品形态集体冲上来。

这里还有一个很现实的传播机制，叫"打榜"。Hugging Face的Open LLM Leaderboard当时是开源模型社区最常看的榜单之一，开发者会拿它判断一个模型值不值得下载、微调和二次开发。2023年11月，零一万物的Yi-34B刚发布几天就冲到Hugging Face榜首，参数只有340亿，却压过了Llama 2 70B。2023年12月，阿里Qwen-72B又以73.6的平均分登上预训练模型第一。打榜不能代表真实产品体验，但它给了海外开发者一个很直观的信号：中国模型不再只是中文圈自嗨，已经能在全球开源模型的同一张桌子上比成绩了。

这些新模型算不算原创？要分层看。架构上，大家基本都住在同一栋房子里：decoder-only Transformer，也就是前面讲过的"只用decoder、一路预测下一个词"。这不是Qwen、DeepSeek、Mistral重新发明的东西，源头是Transformer和GPT路线。LLaMA的作用，是把这套路线做成了一个高质量、开放、方便后来者研究的样板。

但这不等于它们是在复制LLaMA。一个模型真正值钱的部分，是训练出来的参数，也就是所谓权重。Qwen、DeepSeek、GLM、Yi、Mistral、Grok、Gemini大多是自己收数据、自己训练、自己做后训练，不是拿LLaMA权重改个名字，也不可能直接复制OpenAI的闭源权重。

它们借鉴的主要是公开路线和工程经验：怎样把decoder堆得更深，怎样让attention算得更省，怎样喂更多更干净的数据，怎样像OpenAI的RLHF那样把模型训得更听指令，怎样像Anthropic那样减少人工标注、更多利用AI反馈。这些东西有的来自公开论文，有的来自LLaMA这种开源模型暴露出来的成功配方，有的来自OpenAI、Anthropic这些闭源公司的论文、产品和方向暗示。

所以更准确的说法是：这些模型在大架构上不原创，在权重和工程实现上是原创。它们不是从零发明一套新架构，也不是简单复制别人模型，而是在同一个公共技术底座上，各自重新训练、调参、做产品化。

到2025年，全球大模型格局基本是中美两极。美国占闭源前沿，OpenAI、Anthropic、Google、xAI各有打法。中国占开源前沿，DeepSeek、Qwen、GLM、Yi等模型把开放权重和低成本路线推到全球开发者面前。欧洲有Mistral，但总体体量不够。其他地区也有国家队和本地模型，还没有稳定进入前沿模型主战场。

3.4 闭源 vs 开源的二元格局

把这些玩家放在一起看，最重要的变化不是榜单变长了，而是生态分裂了。到2024年底，前沿模型已经不再是一家公司、一条路线、一种商业模式，而是分成两套完全不同的产业系统。

闭源前沿把模型当云服务卖。GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro、Grok这些模型不开放权重，用户通过App和API使用，企业按token、席位、调用量付费。它的优势是体验稳定、产品整合快、安全和合规有人兜底。它的代价也很明显：价格由模型公司说了算，数据和工作流要交给平台，底层能力永远隔着一层黑箱。

这套生态最适合美国。OpenAI有微软，Anthropic有Amazon和Google，Google自己有TPU、搜索、Android、Workspace，xAI背后有X和马斯克的融资能力。闭源模型真正拼的不是单个benchmark，而是算力、资本、云、分发、企业销售和用户反馈的总和。美国互联网巨头正好把这些东西都攥在手里。

开源前沿走的是另一套逻辑。Llama、DeepSeek、Qwen、Mistral这类模型把权重放出来，开发者可以本地部署、私有化部署、微调，也可以拿来继续训练。它的价值不只在"免费"，而在可控。金融、政企、制造、医疗这些行业不一定愿意把数据交给OpenAI，但愿意把一个开放权重模型搬进自己的机房。

中国能在这条线上起来，靠的是几件事一起发生。阿里、字节、腾讯、百度这种本土大厂能持续投入。中文互联网数据自成一池，给中国模型一个独立数据来源。美国对华GPU限制反而逼出DeepSeek那种工程效率，把MoE、FP8、强化学习配方压到更极致。"AI主权"叙事跟中国"必须自主"的政治逻辑天然契合。百模大战又逼出了开源竞争，DeepSeek、Qwen直接放权重，迅速在国际社区累积口碑。

欧洲没起来，原因正好相反。Mistral很强，但欧洲没有Google、Meta、阿里、腾讯这种千亿级本土平台长期兜底。EU AI Act提高了前沿模型的合规成本。顶级AI研究员长期被美国大厂吸走，本地留人困难。欧洲多语言、多国家，市场分散，也没有中国那种统一大市场反哺模型。

其他地区情况类似欧洲。日本Sakana AI 2024年涨了一阵，但定位"小而美"不冲前沿。韩国LG、Naver各有模型，没出圈。印度和中东主要是建数据中心，给美国玩家提供算力和市场。这些地区2025年的角色更接近"模型用户"而非"模型生产者"。

这就是今天大模型生态的基本形状：美国把闭源模型做成云和应用，中国把开源模型做成工程和成本优势，欧洲守住Mistral这个少数前沿入口，其他地区更多是在接入、部署、采购和算力承接。OpenAI的"先发优势"还在，但"独家优势"已经没了。大语言模型从一家公司的一款产品，变成了全球互联网产业的新底座。

3.5 Chinchilla 修正了 scaling law

百花齐放发生得这么快，背后有两个关键修正撑着。第一个是Chinchilla。它讨论的是一个很朴素的问题：同样一笔算力预算，到底应该拿去堆参数，还是拿去喂更多训练文本？

GPT-3出来之后，行业的直觉很简单：模型越大越聪明。OpenAI 2020年的scaling law也强化了这个判断。大家开始拼参数，1750亿、2800亿、万亿参数，数字越喊越大。问题是，参数变大之后，如果训练文本没有跟上，模型就像一个脑容量很大但书没读够的人，潜力没吃满。

DeepMind 2022年的Chinchilla论文把这个问题重新算了一遍。他们比较了大量"参数规模 × 训练数据"组合，结论很直接：同样的算力，不该只顾着把模型做大，也要让模型读足够多的文本。参数和数据要一起涨，甚至很多时候，少堆一点参数、多喂一点数据，效果反而更好。

最有说服力的例子是Chinchilla自己。它只有700亿参数，比DeepMind之前的Gopher小很多，但训练数据多得多。结果这个更小的模型，在一堆评测上反而超过了2800亿参数的Gopher，也超过了GPT-3。

这件事改变了开源模型的打法。开源社区很难一上来就训GPT-3那种1750亿参数模型，但可以训练一个更小的模型，再给它喂足够多、足够干净的数据。LLaMA就是这条路线的标志性成果：参数没有夸张到天上去，训练数据却吃得很足，最后做到"小模型打大模型"。

所以Chinchilla真正修正的是"规模"这个词的含义。规模不只是参数规模，也包括训练数据规模。开源模型后来能追得这么快，一个重要原因就是大家终于知道了算力预算该怎么花。

3.6 MoE：大模型怎么变得更便宜

第二个修正是MoE。这个词全称叫Mixture of Experts，中文通常翻译成"混合专家"。名字听着玄，其实想法很直观：一个问题来了，不必让所有人一起上，只要找最相关的几个专家处理。

放到Transformer里也是这个意思。前面讲过，decoder里有attention，负责看上下文。attention后面还有一段网络，负责把刚看完的信息再加工一下。普通模型每次都会动用同一整套网络。MoE把这套网络拆成很多个"专家"，再加一个很小的"调度员"。每个token进来，调度员只挑其中一两个专家来处理。

这样做的好处是账面上模型可以很大，真正干活的部分却不必每次都全部启动。比如一个模型总共有几千亿参数，但处理某个token时只激活其中几十亿参数。总容量变大了，推理成本没有跟着等比例变大。

这个想法很早就有人做过，但长期不好用。难点不在概念，而在工程。调度员如果分配不好，有的专家忙死，有的专家闲着，训练就会不稳定。模型分布在很多GPU上，专家之间还要互相传数据，通信成本也会把收益吃掉。所以MoE沉了几年，看起来像一条漂亮但麻烦的岔路。

到2023年以后，情况变了。训练框架、GPU通信、低精度训练都成熟了，MoE终于稳得住、训得动。Mistral的Mixtral 8×7B是一个重要信号：它有八个专家，每次只激活两个，效果可以压过不少更大的稠密模型。DeepSeek V3把这条路推得更远，总参数做到6710亿，但每个token只激活370亿左右，成本和效果同时变得很有竞争力。

MoE回答的是另一个关于规模的问题：模型容量能不能变大，但每次使用的成本别跟着一起爆炸？它的答案是可以，只要每次只让一小部分专家上场。

把Chinchilla和MoE合起来看，逻辑就顺了。Chinchilla告诉大家，同样算力下别盲目堆参数，要让模型读够数据。MoE告诉大家，模型可以有很大的总容量，但每次推理只用一部分。一个让"小模型也能很强"成为可能，一个让"大模型也能相对便宜"成为可能。开源社区能在2023到2024年追得这么快，背后很大一部分原因就在这里。

Credit:

https://www.dailydoseofds.com/p/transformer-vs-mixture-of-experts-in-llms/

四、新维度与系统化（2024 至今）

4.1 推理模型：一个全新的 scaling 轴

先说清楚scaling law到底是什么。它不是某条神秘定律，更像一条经验曲线：模型参数更多、训练数据更多、训练算力更多，模型能力通常会跟着提高。GPT-3时代最让行业兴奋的地方就在这里，原来很多能力不是单独写规则写出来的，而是把模型、数据、算力一起放大之后自然冒出来的。

这就是所谓"大力出奇迹"。但它不能无条件一直下去。参数越大，训练越贵，电力、芯片、数据质量都会变成瓶颈。更麻烦的是边际收益会下降：同样多花一倍钱，早期可能带来巨大跃迁，后面只换来一点点提升。Chinchilla已经提醒过一次，光堆参数不够，数据也要跟上。到2024年，大家开始意识到，预训练这条路还会继续，但不再是唯一的放大方向。

新的方向叫"推理时算力"（test-time compute）。以前模型回答问题，基本是看到问题就往下生成。推理模型会先花更多时间在内部推演，试几条路，检查哪里错了，再给出最终答案。简单说，过去主要是在训练时多花算力，把模型训得更强；现在是在回答时也多花算力，让模型多想一会儿。

OpenAI 2024年9月发布o1 preview，是这条路线第一次大规模进入公众视野。它的核心说法很直白：模型可以在回答前多花时间思考，数学、编程、科学题会明显变好。背后的训练方式也变了，尤其适合数学和代码这种有标准答案的任务。数学题能验算，代码能跑测试，模型做对了就奖励，做错了就惩罚，这比让人类主观判断"哪个回答更好"干净得多。

这不是OpenAI凭空发明了"思考"。chain of thought、让模型一步步推理、用强化学习训练模型解题，这些想法之前都存在。OpenAI的贡献，是把它做成了一个前沿产品，并且证明"回答时多花算力"本身也能成为新的scaling轴。随后这个方向很快被整个行业追上：Google在2024年12月放出Gemini 2.0 Flash Thinking，DeepSeek在2025年1月发布R1，Anthropic在2025年2月发布Claude 3.7 Sonnet的extended thinking，xAI的Grok-3也加入了Think和Big Brain这类推理模式。

这里要把几种算力分清楚。预训练最重，通常跑在大规模NVIDIA A100/H100/H200/B200 GPU集群上，Google会大量用自家的TPU。它要连续吃海量文本，时间长、规模大、通信要求高。后训练轻一些，但还是跑在同类GPU或TPU上，包括指令微调、RLHF、偏好训练这些步骤。推理模型的训练更特殊，它不只要训练，还要让模型大量试题、做题、验证答案，所以也会消耗不少训练和采样算力。

平时我们聊天、API调用、让模型写代码，这叫推理或服务。它也跑在GPU、TPU或专门的推理加速芯片上，但不一定用最顶级的训练芯片。大模型、高并发、推理模式仍然会吃H100、H200这类强卡。普通模型、低成本服务、本地部署，则常常用更便宜、更省电、专门为推理优化的芯片。目标从"训练一个新模型"变成"把已经训练好的模型跑得快、便宜、稳定"。普通聊天消耗的是一次生成的token。推理模式更贵，因为模型在最终回答前还会生成大量内部思考token，占用芯片更久。你看到的是一句答案，机器背后可能已经跑过一大段推演。

所以，推理模型真正改变的是算力花钱的位置。过去主要把钱花在训练阶段，训好之后尽量便宜地服务用户。现在多了一种买法：每次遇到难题，就临时多买一点思考时间。大力出奇迹没有消失，只是从"训练时大力"扩展到了"回答时也大力"。

4.2 Coding：一条支线如何融进主线

（参考我写的另外一篇文章 《两万字科普：AI为什么会编程——原理、历史与未来》）

2025年初，Andrej Karpathy提出了一个很快传开的词，叫Vibe Coding。意思大概是：你不再一行行手写代码，而是用自然语言把意图说出来，让AI生成代码，再通过运行、报错、继续提示来迭代。这个词有点玩笑意味，但它抓住了一个真实变化：程序员和代码之间，多了一层会写代码的模型。

代码对LLM来讲是一种特殊的文本，因为它有明确的对错。能不能编译过、能不能跑、单元测试过不过，全是机器自动可判。给模型一道编程题，它写一份代码，跑一下，对了就奖励，错了就惩罚。这个反馈比"这段回答是不是更好"清楚得多，所以代码自然变成了推理范式的最佳试验场。

过去两年，AI coding能力进入暴涨期。SWE-bench这种"真实开源项目修bug"的榜单上，前沿模型的正确率从2023年的个位数百分比，走到2025年的60%到70%区间。Cursor、GitHub Copilot、Claude Code这些工具底下吃的都是同一套主线：模型更会读代码库，更会定位bug，更会调用测试，也更会把错误反馈重新写进下一轮修改。

这正在改变程序员生态。最浅的一层，是补全代码、生成样板、解释报错，初级工作被自动化掉一大块。再往深一层，AI开始进入代码审查、重构、测试生成、依赖升级、文档维护这些日常工程流程。更深的一层，是非程序员也能做出小工具和原型，产品经理、设计师、运营人员都可以用提示词把想法变成一个能跑的版本。

但这不等于程序员不重要了。变化更像是分工重排：写语法的价值下降，定义问题、拆任务、看架构、控质量、补测试、管安全的价值上升。Vibe Coding很适合原型和小工具，但到了生产系统，代码质量、权限、数据、监控、回滚、团队协作还是绕不过去。AI把"写代码"的门槛压低了，也把"负责一套软件系统"的要求抬高了。

所以coding不是LLM的一条独立支线。它和数学、逻辑、推理是同一棵树，只是它最早把这棵树种进了真实工作流。AI Coding对程序员生态的影响还在进行中，今天看到的只是第一波。

4.3 RAG：模型开始接外部知识库

RAG不算2025年的最新热点，源头是2020年Facebook AI那篇Retrieval-Augmented Generation论文。真正变成工程标配，是ChatGPT火了之后，企业开始把大模型接进自己的文档、知识库和数据库。

RAG的思路很简单：先检索，再生成。用户问一个问题，系统先去外部资料里找相关片段，比如公司制度、产品文档、客服记录、合同条款。然后把这些片段塞进模型上下文，让模型基于材料回答。

这解决的是LLM最要命的几个现实问题。模型训练完之后，知识就固定在参数里，没法知道公司昨天刚更新的政策，也不知道你内部Wiki里的内容。它还会编造，回答完也说不清依据来自哪里。RAG把外部材料拉进来，至少让回答有出处、有上下文，也更容易更新。

所以2023到2024年，很多企业AI应用先从RAG知识库问答做起，再往Agent走。客服机器人查产品手册，法务助手查合同模板，销售助手查客户资料，员工问公司制度，背后常常都是同一套结构：文档切块，向量化，检索，塞给模型，再生成回答。

RAG的价值也有边界。检索错了，模型就会基于错材料回答。权限没做好，内部资料可能被不该看到的人问出来。文档太旧，答案也会旧。很多公司后来发现，RAG不是把文档丢进向量库就完事，它需要数据治理、权限、版本管理、评测和人工维护。

但RAG的历史位置很重要。它让模型第一次大规模接上企业外部知识。后面的tool calling、computer use、Agent，都是在这个方向上继续往前走：RAG让模型会查资料，工具调用让模型会办事，Agent再把查资料和办事串成一个任务流程。

4.4 从prompt到harness：模型外面的工程壳

早期大家讲prompt engineering，重点是怎么把一句话问清楚。比如给模型设角色、给格式、给例子、让它一步步想。这一套有用，但它解决的是"怎么跟模型说话"的问题。

到了企业场景，只会写prompt很快不够。模型每次回答前，到底该看哪些材料？用户上一轮说了什么？公司制度该不该塞进去？RAG检索出来的十段材料，哪三段最该进上下文？工具返回的结果怎么压缩？这些问题合在一起，就是后来大家说的context engineering。

Context engineering的核心，在于把正确的信息，在正确时间塞给模型。一个客服Agent回答退款问题，可能要同时看到用户问题、订单状态、退货政策、历史工单、当前权限、禁止承诺的规则。少一块，它会答错；多一堆无关材料，它也会被干扰。

再往前一步，就是tool calling。2023年6月，OpenAI在API里加入function calling，意思是开发者可以把外部函数描述给模型。模型不再只能生成一段自然语言，而是可以输出一段结构化参数，告诉系统："现在该查订单""现在该调退款接口""现在该发一封邮件"。

这件事把LLM从聊天框里拉了出来。过去模型的输出就是文字，文字给人看。tool calling之后，模型的输出可以变成软件系统的输入，直接触发数据库查询、API调用、代码执行和业务流程。

但每接一个工具都手写一套接口，工程上会很乱。Anthropic在2024年11月开源MCP（Model Context Protocol），想解决的就是这个问题。MCP可以理解成AI应用和外部系统之间的一套通用插头：文档库、GitHub、数据库、Slack、浏览器、内部系统，都按同一套协议把资源和工具暴露出来，模型客户端按同一套方式接入。

MCP不会让模型本身突然更聪明。它真正改变的是连接成本。过去每个Agent都要为每个系统写定制胶水代码；有了统一协议，工具、数据源和模型客户端可以分开演进。Claude Code、Cursor、企业内部Agent平台喜欢这套东西，原因就在这里。

这就到了harness engineering。Harness这个词直译是"马具"或"安全带"，放在LLM里，可以理解成套在模型外面的一整圈工程壳。它包括上下文组装、工具列表、权限控制、模型路由、日志、评测、重试、人工审批、失败回滚。

真正上线的AI系统，靠的往往不是一个裸模型。裸模型只是中间那颗发动机。外面这层harness决定它看什么、能做什么、做到哪一步必须停下来问人、出错之后怎么恢复。Agent能不能进生产，很多时候就卡在这层。

4.5 长上下文和记忆：模型开始带着历史工作

RAG解决的是外部知识问题，长上下文解决的是另一件事：模型一次能读多少东西。所谓context window，就是模型在一次请求里能看到的token上限。窗口越大，它一次能读的文档、代码、聊天记录、视频转录就越多。

早期GPT模型的上下文窗口只有几千token，一篇长论文、一份合同、一个稍微复杂的代码库，很快就塞不进去。用户只好把材料切碎，一段段问。模型也容易前面刚读过，后面就忘了。

2024年，长上下文变成一条明确赛道。Google在Gemini 1.5 Pro里把上下文窗口推到100万token，官方举的例子包括长文档、长音频、视频和代码库。Claude、GPT、Qwen、Kimi也都在往长上下文走。Kimi在中文用户里出圈，很大一部分原因就是"能读很长的文件"这件事特别好理解。

长上下文改变了很多产品体验。以前读年报、读论文、读合同、读代码库，经常要先做切分和检索。现在很多材料可以直接整包塞进去，让模型在同一轮里看完。这对法律、研究、咨询、代码理解都很有用。

但长上下文不会替代RAG。窗口越长，推理成本和延迟越高，模型也未必真的能平均关注每个细节。企业知识库有上万份文档时，全部塞进上下文也不现实。更常见的做法是两者配合：RAG先把相关材料找出来，长上下文负责一次读进更多片段、更长对话和更完整任务状态。

记忆又是第三件事。长上下文解决"这一轮能读多少"，memory解决"跨会话能不能记住"。2024年OpenAI开始给ChatGPT做memory，让它记住用户偏好、写作格式、工作背景。到2025年，ChatGPT的memory进一步扩展，可以参考过去更多聊天历史。

这对个人助理和Agent很关键。一个长期帮你写文章的模型，如果记得你不喜欢什么句式、常写哪些主题、引用格式怎么放，下一次就不用从零交代。一个企业Agent如果记得项目背景、客户偏好、历史决策，也更像一个持续工作的同事，不再像每次都失忆的问答框。

memory也带来新问题。它可能记错，可能记住不该记的敏感信息，也可能让用户不知道模型为什么突然"懂"自己。企业里还要处理权限、合规、数据留存和删除。记忆越强，治理要求越高。

把RAG、长上下文和memory放在一起看，LLM正在补三种"记忆能力"。RAG让模型查外部资料，长上下文让模型一次读更多现场材料，memory让模型跨任务记住长期背景。Agent要稳定工作，离不开这三层。

五、最新进展：从模型竞赛到应用竞赛

到这里，故事的重心开始换地方。

前面几章讲的，主要是模型怎么变强。架构、预训练、后训练、开源、MoE、推理时算力，所有努力都围着"模型本身"转。2025年之后，另一个问题变得更急：模型已经够强了，它到底能替人干什么？

这就是新一轮竞争的起点。模型公司不再满足于只卖API，SaaS公司也不再满足于只加一个AI按钮。大家都在往同一个方向挤：把模型接进真实工作流，让它能调用工具、读写数据、执行动作、交付结果。

5.1 Agent的产品化：套壳、SaaS和基础模型公司下场

先把"套壳"说清楚。这个词比Agent更宽，指的是一类很薄的AI应用：底层直接调用OpenAI、Anthropic、Gemini这类模型API，外面包一层界面、提示词模板、账号系统和收费页。早期很多AI创业公司做的就是这个，换个垂直场景，写几组prompt，就说自己是AI写作、AI客服、AI销售、AI律师。

这种套壳更接近AI-powered SaaS，未必是Agent。它本质上还是传统软件，只是在某个环节调用模型生成一段话、总结一份材料、回答一个问题。套壳也可以伪装成Agent：给模型一个循环，让它自己喊"我在计划、我在执行"，但没有稳定工具、没有权限系统、没有任务状态、没有评测和回滚，实际只能演示，进不了生产。

真正的Agent要多几层东西。它要能理解目标，拆出步骤，选择工具，调用API，读取结果，发现错误，再决定下一步。它还要接权限、日志、审批、记忆、数据源和评测系统。模型只是脑子，Agent产品还需要手、脚、眼睛、记录本和刹车。

2023年，这条路已经冒头。OpenAI在3月推出ChatGPT plugins，让ChatGPT可以接浏览器、代码解释器和第三方服务。6月，function calling进入API，开发者可以把外部函数描述给模型，让模型判断什么时候调用。开源社区那边，LangChain把prompt、模型调用、向量数据库、工具、外部API、记忆、链式流程包装成开发者熟悉的组件。AutoGPT也在2023年出圈，它不稳定、容易跑偏、烧token，但把"模型循环执行任务"这件事推到公众面前。

2025年之后，变化更明显。过去很多创业公司在应用层套壳，现在基础模型公司直接下场做应用层。OpenAI先做Operator，让模型用自己的浏览器点网页，后来又把Operator、Deep Research、代码执行整合进ChatGPT agent。Anthropic把Claude Code、computer use、MCP一路往工具和开发者工作流里推。Google也在把Gemini往Workspace、Cloud和企业Agent平台里塞。

这里的压力很现实。基础模型只卖token，容易变成云服务里的算力商品。应用层才离用户预算更近，也离企业流程更近。模型公司自己做Agent，本质上是在往SaaS和企业软件的地盘走。

Agent会不会取代SaaS？短期看，更像是重写SaaS的入口。CRM、ERP、财务、人事系统仍然保存数据、权限、审计、合规和历史记录，这些后台不会凭空消失。但用户不一定还需要一层层点页面。未来很多操作会从"打开系统、找菜单、填表单"，变成"说目标、确认计划、批准执行"。被替代最快的，是那些只靠薄界面和简单流程收费的SaaS套壳。真正有数据、有流程、有客户关系的SaaS，会被迫Agent化。

5.2 Coding Agent和程序员生态的重塑

Coding Agent最先跑通，原因很直接。代码场景天然适合Agent。它有文件系统，有终端，有测试，有编译器，有Git，有issue，有CI。模型改完代码之后，系统可以立刻告诉它对了还是错了。

这和很多办公场景不一样。写一封销售邮件好不好，往往要等客户反应。做一份战略报告好不好，判断很主观。代码更干脆：能不能编译，测试过不过，bug有没有复现，PR能不能合进去。这给Agent提供了天然反馈回路。

所以AI coding工具很快从"补全一行代码"走到"处理一个任务"。Cursor、GitHub Copilot、Claude Code这类工具，已经开始读整个代码库、定位相关文件、修改多处代码、运行测试、根据报错继续修。程序员给的输入，也从"帮我写一个函数"，变成"这个issue帮我修一下"。

这就是Agent产品化最清楚的样子。模型负责理解代码和提出修改，软件工程系统负责文件、测试、版本控制和权限。人还在回路里，但角色变了：少写一些重复代码，多做任务拆分、架构判断、代码审查和风险控制。

那科技公司会不会大规模裁员？答案不能简单归因给AI。2024到2026年的科技裁员，本来就有疫情后过度招聘回调、利率上升、资本市场要求利润、业务增长放慢这些因素。AI加进来之后，管理层多了一个更顺手的理由：同样的产品和工程任务，能不能用更少的人完成？

对程序员来说，冲击最先落在入门层。过去很多初级岗位的训练路径，是改小bug、写脚手架、补测试、搬数据、写简单接口。现在这些任务正好是AI最擅长的部分。Stanford在2025年的研究就指出，受AI影响最大的职业里，年轻、低经验员工的就业机会下降更明显，软件开发和客服都在名单上。

但这不等于程序员这个职业要消失。美国劳工统计局对2024到2034年的预测软件开发、测试和QA岗位仍然增长15%，远高于整体职业平均水平。这个数字说明一件事：软件需求还在涨，只是公司需要的人变了。

未来的程序员生态会更分层。只会按需求写代码的人，会被Coding Agent压得很厉害。能把业务问题拆成工程任务、能判断架构取舍、能设计测试、能审AI写出的代码、能处理安全和线上事故的人，反而会更值钱。公司少招一些"代码劳动力"，多要一些能带着AI交付系统的人。

入口会变窄，这是最现实的变化。过去初级程序员靠写重复代码积累经验，现在重复代码被AI吃掉，新人少了练手场。公司如果只保留高级工程师和AI工具，短期效率可能上去，长期人才梯队会断。这个矛盾还没解决，也是整个行业接下来几年要付学费的地方。

Coding Agent也解释了为什么未来Agent不会一下子横扫所有行业。它要有工具，要有反馈，要有边界。代码场景这些条件最齐，所以先成熟。其他行业要复制这件事，先得把流程、数据、权限和评测补起来。

5.3 多模态和computer use：模型开始操作世界的界面

这篇文章主要讲LLM，因为文字是大语言模型的主战场。但另一条线也在快速推进：图像、音频、视频这些生成式AI，已经从玩具走到产品。Midjourney、DALL-E、Stable Diffusion把图像生成推到大众面前。Sora把文本生成视频这件事推到公众视野。Google的Veo 3又把视频和音频一起生成，连对白、环境声、音乐都放进同一个生成过程里。

这让我想起90年代的"多媒体"。那个词今天听起来有点老，但当年很重要。电脑不再只处理文字和表格，而是开始同时处理图片、声音、动画、视频。CD-ROM、网页、游戏、教育软件，全都在讲多媒体。

今天的AI也在走类似方向，只是角色反过来了。90年代的多媒体，是人通过电脑消费更多类型的信息。现在的多模态AI，是模型自己能读图、听声音、看视频、理解屏幕，还能反过来生成图像、语音和视频。它的工作范围正在从文本回答，扩展到人类真实使用的软件和媒体界面。

Computer use就是这个趋势的另一半。很多现实软件没有好用API，只有网页、按钮、输入框、弹窗和桌面应用。过去模型想调用工具，最好有结构化接口。computer use让模型看屏幕、移动鼠标、敲键盘，像人一样操作旧软件。OpenAI的Operator、ChatGPT agent，Anthropic的computer use和Claude Code里的桌面操作，都在往这个方向走。

把多模态和computer use合起来看，未来Agent会有更完整的输入输出。它能读合同PDF，看仪表盘截图，听会议录音，生成PPT，操作浏览器，甚至剪一段视频。LLM仍然是中枢，但它周围会接上视觉、语音、视频和操作系统界面。模型开始从"会说话"走向"会看、会听、会点、会做"。

5.4 公司AI提效：从卖token到卖任务

公司为什么突然都在谈AI提效？原因不复杂。2023年，企业先把ChatGPT当个人效率工具，写邮件、写文档、总结会议、查资料。2024年，很多公司开始把它接进客服、销售、研发、法务和内部知识库。到2025年，Agent和工作流自动化成了流行词，因为模型终于开始能连续处理多步任务。

McKinsey在2025年的全球AI调查里说，62%的受访组织已经在实验AI agents，但接近三分之二还没有把AI规模化推到全企业。这个数字很真实：大家都在试，但真正改流程很难。Gartner的判断更激进，它预计到2026年底，40%的企业应用会集成面向具体任务的AI agents，而2025年这个比例还不到5%。

公司提效主要有两条路。浅的一条是个人效率提升，员工用AI写、查、总结、翻译、改代码。深的一条是决策和流程自动化：客服工单自动分流，销售线索自动评分，财务异常自动提醒，供应链风险自动扫描，研发任务自动拆分。前者提升个人速度，后者改公司运转方式。

真正值钱的是后者。一个客服少写几句回复，价值有限。一个客服系统能自动识别问题、查知识库、调用订单系统、生成解决方案、判断是否升级人工，价值就不一样了。AI从"帮某个人更快完成一步"走到"让一整条流程少掉三步"，公司才会认真付钱。

商业模式也会跟着变。互联网时代卖流量和广告，云计算时代卖算力，基础模型公司现在主要卖订阅、API和token。SaaS公司卖席位、模块和企业合同。到了Agent和工作流自动化阶段，钱会流向更靠近业务结果的地方。

这也是为什么咨询公司、系统集成商和企业软件公司重新变重要。买一个模型API很容易，真正难的是把公司数据接进去，把权限理清楚，把流程重写，把安全和审计做好，把员工培训起来。AI提效经常是一场流程改造，单纯买工具解决不了。麦肯锡、埃森哲、德勤这类公司，以及各类垂直行业服务商，都会在这层收钱。

未来还可能出现更多结果计费。收费单位会从token，转向解决一个工单、生成一个合格销售线索、完成一次对账、修好一个bug、交付一份研究报告。这个模式还没成熟，但方向很清楚：企业最终不想买"模型调用次数"，企业想买更低成本、更快速度和更少错误。

这里也要泼一点冷水。Gartner在2025年提醒过，很多Agent项目会因为成本高、价值不清、风险控制差而停掉。公司的AI提效不会靠喊口号发生，它需要数据、流程、权限、评测和组织改造一起到位。真正能留下来的Agent，最后要看它能不能在真实流程里稳定省钱，演示做得酷没有用。

结语

回头看这八年，大语言模型的发展可以压成一句话：一个为机器翻译设计的架构，被一路放大、驯服、商品化，最后变成了软件世界的新接口。

第一步是架构。Transformer本来只是解决RNN在翻译里的两个老问题：串行太慢，长距离关系容易丢。Attention把所有词之间的关系一次摊开，让GPU可以并行处理，也让模型更容易抓住长句里的依赖关系。2017年那篇论文真正打开的，后来成了整个LLM时代的计算底座。

第二步是路线分叉。Google拿encoder做BERT，主攻理解、分类、检索、问答。OpenAI拿decoder做GPT，押注生成和预测下一个词。当时看，BERT更像正统NLP，GPT更像文字接龙。GPT-3之后，这个判断反过来了：只要模型足够大，生成能力会吃掉很多原本被认为需要专门设计的任务。

第三步是规模。GPT-3证明了一个反直觉事实：很多能力不需要逐项手写规则，也不需要每个任务单独训练，规模上去之后，模型会出现in-context learning这样的新行为。但规模不是一句“大力出奇迹”就完事。Megatron、GPipe、ZeRO、FlashAttention、KV cache、量化这些工程积累，才让大模型真的训得动、跑得起、用得上。

第四步是对齐。GPT-3很强，但不好用。InstructGPT和ChatGPT解决的是另一个问题：模型怎么听人话、按指令做事、少胡来。RLHF把人类偏好塞进训练流程，Anthropic的Constitutional AI又证明，对齐不一定只能靠海量用户反馈。预训练给模型知识，后训练把模型调成一个可以被普通人使用的产品。

第五步是生态。ChatGPT爆红之后，闭源和开源很快分成两套系统。OpenAI、Anthropic、Google、xAI把模型做成云服务、App和API，拼的是算力、产品、分发和企业销售。Meta、Mistral、DeepSeek、Qwen这些开源或开放权重路线，把模型变成开发者和企业可以本地部署、微调、私有化的基础设施。今天的大模型竞争，早就超出了benchmark分数，开始比一整套产业组织能力。

第六步是效率。Chinchilla提醒大家，参数不是唯一尺度，数据也要跟上。MoE提醒大家，模型可以有很大总容量，但每次只激活一部分。DeepSeek、Qwen、Mistral这些玩家能快速追上来，靠的不只是“追随前沿”，也靠更会算账：同样的算力预算，怎么训得更久、喂得更准、跑得更便宜。

第七步是新scaling轴。o1之后，推理时算力变成新的变量。过去主要在训练阶段砸钱，训出一个尽量强的模型；现在遇到数学、代码、科学题，还可以在回答阶段多花算力，让模型多试几条路、多检查几次。DeepSeek R1、Gemini Thinking、Claude extended thinking，都在说明这条路已经不属于一家公司的独门技巧。

第八步是系统化。RAG、长上下文、memory、tool calling、MCP、harness engineering，这些词看起来杂，其实都在回答同一个问题：模型怎么进入真实工作流。RAG让模型查企业知识库，长上下文让它一次读更多材料，memory让它跨任务记住背景，tool calling让它调用系统，harness让它在权限、日志、评测和回滚里运行。模型开始从“会回答问题”变成“能嵌进软件系统里做事”。

所以这篇文章最后落到Agent，原因很简单：它把前面所有线索都收在了一起。没有强模型，Agent只会胡说。没有RAG和长上下文，它不知道该看什么。没有工具调用，它只能写建议，不能执行动作。没有harness，它进不了生产环境。没有业务流程改造，它也省不下真钱。

这也是为什么2025年之后，竞争重心开始从模型竞赛移到应用竞赛。基础模型公司往应用层走，SaaS公司往Agent化走，咨询公司和系统集成商重新变重要。企业最终不会为“更会聊天”长期付高价，企业愿意为更低成本、更快流程、更少错误付钱。

模型能力当然还会继续涨，但边际收益正在变小。更大的空间，可能在系统层：怎样把一个模型、几个小模型、外部工具、知识库、业务系统和人类审批组合成稳定流程。过去十年，AI工程的主角是“训练一个更强的模型”。接下来几年，主角会越来越像“围绕模型搭一套能交付结果的系统”。

这篇文章主要讲LLM，因为文字是Transformer这条线最清楚的主战场。图像和视频还有另一条技术史，扩散模型撑起了Midjourney、Stable Diffusion、DALL-E、Sora这一路；音乐和语音也有自己的路线。它们正在和LLM汇合到多模态AI里，但如果展开讲，就已经是另一篇文章。

今天的大语言模型还远没有定型。它像早期互联网，也像早期云计算：底层技术还在变，商业模式还在试，泡沫和真需求混在一起。但有一点已经很清楚，LLM不会只是一类聊天产品。它更像一层新的软件抽象，往下接数据、工具和算力，往上接人、流程和公司决策。

这就是过去八年真正发生的事：语言模型从一个会续写文本的神经网络，变成了一个可以被调用、被约束、被组合、被部署的通用计算零件。它还不稳定，也不便宜，更谈不上万能。但它已经足够强，强到整个软件工业都必须围着它重新排一遍位置。