勾配消失問題(読み)コウバイショウシツモンダイ

デジタル大辞泉 「勾配消失問題」の意味・読み・例文・類語

こうばいしょうしつ‐もんだい〔コウバイセウシツ‐〕【勾配消失問題】

機械学習の多層化したニューラルネットワークにおいて、ある段階を越えると学習が進まなくなること。学習は予測値と実際の値の誤差最小化する過程で進むが、活性化関数勾配がゼロに近づくことによって、ネットワーク重み付け修正ができなくなり、結果的に層数が増えるほど学習が困難となる。活性化関数としてシグモイド関数ではなく、ReLU関数を用いると勾配消失が起こりにくくなることが知られる。

出典 小学館デジタル大辞泉について 情報 | 凡例

4月1日の午前中に、罪のないうそをついて人をかついでも許されるという風習。また、4月1日のこと。あるいは、かつがれた人のこと。四月ばか。万愚節。《季 春》[補説]西洋もしくはインドに始まる風習で、日本...

エープリルフールの用語解説を読む