モデル蒸留

あるモデルの出力を使って別のモデルを訓練または強化する技術。技術自体が不正というわけではありません。

定義

蒸留は大規模モデルの能力をより小さく安価なモデルに移すためによく使われ、アライメントや製品化にも使われます。

鍵となるのは、許諾の有無、データの出所、ユーザーの知情の有無です。

{esc(t(CURRENT_LANG, "not_confused_with"))}

{esc(t(CURRENT_LANG, "example"))}

用語の対照は不正なモデル蒸留をご覧ください。

{esc(t(CURRENT_LANG, "related_terms"))}

{esc(t(CURRENT_LANG, "sources"))}