杨皓森 王雨乔 | 从OpenAI对DeepSeek的指控看“蒸馏”行为的合法性

正文

请到「今天看啥」查看全文

二

何为大模型“蒸馏”技术

大模型知识蒸馏（Knowledge Distillation）由Hinton等人在2015年提出，作为一种模型压缩方法，通过将高复杂度的大模型（教师模型）知识迁移至轻量化模型（学生模型），在降低计算需求的同时保持较高的推理能力。该技术的推广在一定程度上解决了计算资源受限环境下的模型应用问题。蒸馏过程涉及大量数据的采集、存储与处理等行为。

知识蒸馏的核心原理是通过让一个规模较大的“教师模型”训练一个规模较小的“学生模型”，使学生模型能够在计算资源受限的环境中最大化接近教师模型的性能。 可以将这一技术方法类比为“一名老师对学生的经验传授过程”，想象一个教授（教师模型）向一名学生（学生模型）传授复杂的知识。但这个教授不仅让学生知晓这个知识的内容或答案（即模型的输出内容Output），还通过深入分析给学生讲解知识或答案形成的具体原因，使学生能够理解知识或某一答案的内在逻辑，并在考试时（向模型输入指令Prompt时）做出与老师相近的高质量回答（模型输出的内容）。

在机器学习中，这种“经验传授”通过以下三个核心步骤实现：

（1） 教师模型训练

（2） 软标签知识传递（Soft Label Transfer）

• “软标签” 是指教师模型在预测时，不仅输出最终结论，还输出各个结论的生成原因及概率分布。例如，在图像分析的模型中，普通模型分类任务中可能会直接根据图片内容输出一个结论：“这是一个xxx”，但教师模型会在给出一个结论的基础上提供更为详细的分析过程及概率分布，如：“80%是xxx，15%是xxx，5%是xxx”。这一概率信息被称为 “暗知识”（Dark Knowledge），因为它提供了教师模型对不同类别之间细微区别的理解，而不仅仅是一个最终答案。

（3） 学生模型训练

根据蒸馏过程中教师模型向学生模型传递知识的方式不同，知识蒸馏可以分为以下三类：

（1） 基于输出的蒸馏（Response-Based Distillation）：学生模型直接学习教师模型的最终预测输出，通过对比两者的输出概率分布，使学生模型逐步接近教师模型的行为。

（2） 基于特征的蒸馏（Feature-Based Distillation）： 比基于输出的蒸馏更强大，能够帮助学生模型更深入地理解数据。

（3） 基于关系的蒸馏（Relation-Based Distillation）：适用于跨模态学习（如图像-文本联合学习） 和 强化学习，可以帮助学生模型更好地理解数据结构。

知识蒸馏是一种高效的模型压缩方法，能够在降低计算成本的同时保持高性能，使 AI 模型能够在边缘设备、移动端、实时应用等计算资源受限的环境中发挥作用。不同类型的蒸馏方法提供了多种知识传递机制，适用于不同的 AI 任务。

三

DeepSeek“蒸馏”OpenAI大模型的合法性分析

（一）“蒸馏”的争议解决机制及法律适用

OpenAI《服务条款》将争议解决机制约定为仲裁并将仲裁地点约定为美国加利福尼亚州旧金山市（San Francisco, California）。 这一仲裁协议的适用范围通常足以覆盖涉及 Deepseek 使用 OpenAI 服务所可能引发的知识产权侵权（intellectual property infringement）、不正当竞争（unfair competition）以及违约（breach of contract）等法律纠纷。

《服务条款》第 15.12 条又约定了法律适用（Governing Law）及司法管辖（Jurisdiction）。该条款明确指出，本协议（包括《使用条款》及相关商业条款）应受加利福尼亚州法律管辖（excluding its conflict of law principles，即不适用加州法律中的冲突法规则）。若争议事项不属于仲裁协议的适用范围，则应提交位于加利福尼亚州旧金山市的州或联邦法院（state or federal courts located in San Francisco, California）裁决。

请到「今天看啥」查看全文