コース: AI 入門
バイアスを調整する
人工ニューラルネットワークには 自動調整の機能があり、 楽器のようにダイヤルを回しながら、 出力を正解に近づけていきます。 人工ニューラルネットワークも、 機械学習の一種なので、 一般的な機械学習のツールや 手法を用いた学習を行います。 これまでに、伝達路の重みづけを調整する 手法を見てきましたが、 この方法で改善することができるのは、 分散の大きさだけです。 すでにこのコースの中で解説した ダーツの比喩を思い出してみましょう。 ネットワークは、 ダーツを投げるように結果を予測し、 当たった場所が中心に どれだけ近いかを確認します。 結果を見て重みづけを調整し、 再びダーツを投げて改善したかを 確認します。 予測データは、この比喩で説明したように、 バイアスと分散を最適なバランスで 折り合わせることが重要です。 これをバイアスと分散の トレードオフといいます。 分散を調整すれば、 バイアスに影響があります。 ここで言うバイアスとは、 各ニューロンにシステムが 割り当てる数字で、 バイアスの数字は、データが的の上で どの位置に当たるのかを 変える働きをします。 目標は、バイアスと分散がちょうどいい 按配になるよう調整することです。 ニューラルネットワークの調整は、 伝達路の重みづけとニューロンに与えられた バイアスを変化させることで行いますが、 人間の目には、この調整プロセスが もどかしく映ります。 伝達路の重みづけを変えて 分散を改善すれば、 中心からのバイアスが大きくなり、 バイアスを修正すれば、 今度は分散が大きくなるからです。 人間ならお手上げです。 機械は、分散を極力小さくしながら、 結果のバイアスを修正して中心に 近づけるよう、調整を繰り返します。 人工ニューラルネットワークには、 過学習の傾向もあります。 訓練データの段階で、 予測をなるべく中心に揃えようとして モデルを複雑にしすぎてしまうのが、 人工ニューラルネットワークの過学習です。 訓練データを過学習すると、 分散の修正を一気に行いすぎて バイアスと分散のバランスを求めることが さらに困難になりがちです。 それは、凍結した路面をまっすぐ 走行しようと苦心するようなものです。 路面の片側が過剰なバイアス、 もう片側が過剰な分散だと思ってください。 中央に戻そうとしてはスリップを 繰り返すことになります。 バイアスは、伝達路への重みづけではなく ニューロンに割り当てられる数字によって 変わるということを覚えておきましょう。 バイアスの修正は、 分散を調整してからでないと行えません。 数回投げて、ばらつきを修正してから 方向を修正しないと、 向きをどう定めるべきかも わからないからです。
コースをダウンロードして学習しましょう。
ラーニングコースをダウンロードしてオフラインで視聴しましょう。ダウンロードしたコースはLinkedInラーニングのモバイルアプリ (iOSまたはAndroid) で視聴できます。