一个视频搞懂大模型蒸馏！
登录后可播放音频
一个视频搞懂大模型蒸馏！
一句话概括：视频从大模型三阶段训练（预训练、监督微调、强化学习）讲起，解释“蒸馏”如何让学生模型低成本抄走教师模型的思维链，并延伸到厂商之间的数据攻防、Anthropic 的封堵手段与其自身数据版权争议。
要点
-
事件背景：蒸馏已成公开秘密。Anthropic 指控中国模型厂商通过违规途径向 Claude 发起近 2 亿次对话请求，其中 DeepSeek 一家超过 1.5 亿次，手段包括批量注册账号、第三方 API 中转。名单上除 DeepSeek 外，其他头部厂商也大多在列。
-
训练第一阶段：预训练（Pre-training）。新模型最初为空壳，厂商灌入上万亿 token 的语料（网页、百科、开源代码、电子书、社交媒体等），任务是自回归语言建模，即学会词语之间的浅层关联。此时模型能接梗（如“宫廷玉液酒”接“180 一杯”），但不懂因果，遇到“洗车店离家 50 米该走路还是开车”这类题会条件反射答“走路”，因为它只看到“50 米很近”这一关键词。
-
训练第二阶段：监督微调（SFT, Supervised Fine-Tuning）。数据格式大改，丢弃杂乱网页文本，改用人类专家精心编排的结构化对话数据，并插入特殊控制符——
user表示人类提问，assistant表示 AI 回答，遇到终止符就停止输出。只需几万到几十万条高质量数据，就能把“复读机”变成能听懂指令的对话 AI。 -
SFT 的局限。一是成本高：奥数推导、底层代码等高难度数据需顶尖博士和工程师手工撰写，几百万条就是天文数字。二是学得浮于表面：训练奖励机制只看“模仿答案的语气和格式”，模型会摆出专业架势却答错，如把洗车题答成“针对你 50 米的出行需求为你规划如下”，系统照样打高分。三是只学标准答案，学不到试错、推翻重来的过程，一旦走偏就无法自我纠错。
-
训练第三阶段：强化学习（RL）。给模型一道难题，让它一次生成 N 个解题方案（例如 N=64），通过代码编译器运行代码或核对数学最终答案来打分：跑通/答对加分，答错扣分。算法对比所有轨迹分数后，调高“加分思路”中 token 序列的输出概率，压低扣分思路。洗车题可能前 30 次都选走路被扣分，第 31 次突然意识到“用户是要去洗车，必须把车开过去”，这条带自我质疑的轨迹被大幅加权，于是模型学会“多留个心眼反复检查”。
-
强化学习的代价。SFT 阶段答案现成，只需灌数据；RL 阶段模型必须逐词生成答案，一道题几十次、每次成千上万 token，绝大多数尝试是试错，算力消耗极其恐怖。这也解释了 DeepSeek R1 思维链中反复出现“这里不对，前面错了，我重新试一下”——这是 RL 中发现“输出答案前自我质疑和验算能提高得分”后形成的策略。
-
蒸馏的基本逻辑。准备一个经过充分预训练、听得懂课但不必聪明的学生模型，再找一个顶尖模型当教师。传统 SFT 是花重金请人类专家逐题写答案；蒸馏则是让教师模型对题库批量生成答案喂给学生，把“写答案的人”换成了 AI。
-
蒸馏的成本与产能优势。人类专家憋半天写一道题，几百万条就能把公司写破产；教师模型只要给够 API，就能 7×24 小时持续生成，成本只是人类的一个零头。
-
思维链蒸馏（CoT Distillation）才是威力所在。普通蒸馏只抄答案（如“开车去”），学生死记硬背，题目一变（如“理发店离家 50 米但太累不想走，该走路还是让朋友开车把头送过去”）就可能答出惊悚答案。思维链蒸馏让学生抄老师完整的思考过程：从“50 米很近可以走路”，到“检查用户核心目的是洗车”，再到“要洗车必须开车去”的审题、发现陷阱、自我修正的思维模式。这段思维模式是教师模型在强化学习中烧掉无数钞票、经历无数次失败才摸索出的“心法”，学生只需跑一遍 SFT 就能达到老师约九成功力，成本低一个数量级。
-
现实中两种蒸馏路径。
- 蒸开源模型：典型如 DeepSeek R1，权重完全开放，官方 API 明确允许其他厂商蒸馏。
- 蒸闭源模型：如 Claude，只能准备上百万道高难度编程、数学、逻辑题（越难越好），批量让闭源模型解答，把返回结果存为训练材料；虽然 API 费用爆炸，但仍比从头烧算力训练便宜得多。
-
套取隐藏思维链的难点。顶级闭源模型为防蒸馏，会把真实思考过程加密或隐藏，用户看到的往往只是脱敏总结的简单摘要，底层试错与回溯细节已丢失。但通过复杂提示词和上下文引导，仍能让模型吐出不少推理轨迹。此外还有灰色渠道：收购开发者在 Harness 等智能体软件上积累的对话记录，虽然缺乏强提示词引导、思维链不完整，却记录了真实用户的痛点和完整解题过程，相当于“人类的真实思维链”。
-
数据安全警示。视频团队实测：把自己内部中转服务的请求记录保存一周，仅三天就出现银行卡号、API 密钥甚至个人健康信息，一旦外泄后果不堪设想。提醒用户不要为小利出售对话数据。
-
Anthropic 的反蒸馏措施。自动化蒸馏请求在题目类型分布、结构、请求频率上有明显特征，Anthropic 部署了独立检测模型，识别到批量刷特定领域难题的账号即触发连坐封号；订阅套餐加入 KYC 真人验证，提高批量注册难度；2025 年 9 月修补提示词注入漏洞，检测到用户试图修改上下文解析隐藏思维链时直接拦截请求。
-
Anthropic 自身的数据版权争议。2024 年 7 月，Proof News 联合 Wired 披露 Anthropic 训练中使用了大量 YouTube 视频字幕数据集；2025 年美国联邦法院审理作家集体诉讼，揭露其一方面购买大量二手实体书，用工业切纸机切掉书脊、散页送高速扫描仪转成电子版，再把实体书打碎销毁；另一方面因买书又贵又慢，直接从盗版电子书网站批量下载超过 700 万册盗版图书用于训练。
-
行业立场对比。黄仁勋 2025 年 9 月回应蒸馏争议时说“这只是竞争，而竞争会让市场变得更好”。OpenAI 也放出了自家开源模型；DeepSeek 除开源 R1 外，还陆续发布 DSH、CFS、Deep Infer 等 AI 底层基建项目，持续降低全球开源社区的门槛。Anthropic 则死守闭源黑盒，同时公开批评 ChatGPT、Meta 模型“政治立场不中立”、Grok“欺骗和迎合性强”，并给国产模型扣帽子，被认为一边技术私有化、一边硬拗道德楷模人设。
-
结论。只靠蒸馏最多更快学会别人昨天的本事，真正的护城河不能靠藏着掖着或写小作文；决定明天谁能留在牌桌上，终究要看今天的原创能力。蒸馏是捷径，但不是终点。