知識蒸留(読み)チシキジョウリュウ

デジタル大辞泉 「知識蒸留」の意味・読み・例文・類語

ちしき‐じょうりゅう〔‐ジヨウリウ〕【知識蒸留】

機械学習において、膨大なデータでトレーニングした大規模言語モデルのような学習モデルを、精度を保ちつつ、より小規模のモデルにする手法。大規模な学習モデルを教師モデル、小規模な学習モデルを生徒モデルとし、推論能力や知識の精度が低くならないよう、生徒モデルが教師モデルの出力を模倣するトレーニングを繰り返すことで得られる。蒸留。

出典 小学館デジタル大辞泉について 情報 | 凡例

関連語 言語モデル

1 《木を吹き枯らすものの意》秋の末から冬の初めにかけて吹く強く冷たい風。《季 冬》「海に出て―帰るところなし/誓子」2 すりこぎをいう近世女性語。[補説]「凩」は国字。[補説]作品名別項。→木枯らし...

木枯らしの用語解説を読む