AI是怎么学会说话的?一条推文用三个词把整套训练流程讲完了:读书、做题、学做人。分别对应预训练、微调、强化学习。这个比喻不新鲜,但把三个阶段的目标差异摆在一起看,逻辑就清楚了。
![]()
读书:预训练
第一阶段,模型被暴露在海量的无标签数据里,比如互联网文本或图像。没有标准答案,也没有人告诉它什么是对的。它要做的是从这些原始数据里学出基础模式——语言的语法、图像里的物体识别,诸如此类。
这一步的定位是打地基。素材里的说法是,这是构建理解世界的基石。换句话说,后面两步能走多远,取决于这一步喂进去的东西有多厚。
做题:微调
第二阶段换了打法。给模型提供带标签的专用数据集,做有监督的细化。素材举了两个例子:在医学图像中识别癌症,在对话中进行情感分析。
和第一阶段相比,这一步的目标很具体——提高在特定领域任务中的准确度。读书求广,做题求精。
学做人:强化学习
第三阶段,模型在模拟或真实环境中试错,根据反馈信号来优化策略。反馈信号就是奖励和惩罚。
素材把这个过程类比为人类社会交往中的学习,并指出它是实现复杂决策和自主行为的关键。前两步教模型知识和技能,这一步教它行为的后果。
三个阶段串起来看,训练目标对 AI 行为的塑造作用贯穿始终:预训练决定它见过什么,微调决定它擅长什么,强化学习决定它在具体情境下会怎么选。推文文末还附了相关视频教程的链接。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.