模型蒸馏

用一个模型的输出去训练或增强另一个模型的技术。技术本身不等于未经授权。

定义

蒸馏常见于把大模型的能力转移到更小、更便宜的模型，也可以用于对齐和产品化。

关键问题是：有没有授权、数据从哪来、用户知不知道。

{esc(t(CURRENT_LANG, "not_confused_with"))}

不等于未经授权的模型蒸馏。
不等于「凡是训练都是偷」。

{esc(t(CURRENT_LANG, "example"))}

术语对照见未经授权的模型蒸馏。

{esc(t(CURRENT_LANG, "related_terms"))}

{esc(t(CURRENT_LANG, "sources"))}