通常のDeepNetとResNetの違い

ResNetは残差を次の層にスキップ接続することでモデル性能を高める手法である。手前の層の入力を後ろに直接足し合わせたことで勾配消失問題を解決したと解説されることが多い。今回は通常のDeepNetとResNetの違いについて自分用に簡 ...
画像処理や自然言語処理などのハマりどころをまとめます
ResNetは残差を次の層にスキップ接続することでモデル性能を高める手法である。手前の層の入力を後ろに直接足し合わせたことで勾配消失問題を解決したと解説されることが多い。今回は通常のDeepNetとResNetの違いについて自分用に簡 ...