ネットワークを構成する層

◆全結合層とは何か

全結合層は、前の層のニューロンと次の層のニューロンがすべてつながる、ニューラルネットワークの基本的な層です。▶続きを読む

◆重みと線形関数

全結合層では、入力された値に重みをかけて足し合わせることで計算が行われ、その基本となる考え方が線形関数です。▶続きを読む

◆全結合層の役割とパラメータ数

全結合層は情報をまとめて次の判断につなげる役割を持つ一方で、つながりが多いためパラメータ数も増えやすいという特徴があります。▶続きを読む

◆畳み込み層とは何か

畳み込み層は、画像全体を一度に見るのではなく、その一部分ずつを見ながら特徴を見つけていく層です。▶続きを読む

◆畳み込み層の動かし方

畳み込み層では、フィルタを画像の上で少しずつ動かしながら計算を行い、その動かし方によって得られる情報量や計算量が変わります。▶続きを読む

◆畳み込み層の広がり

畳み込み層には、より広い範囲を見たり、計算を軽くしたりするためのさまざまな工夫があり、CNNの発展とともに多くの手法が生まれてきました。▶続きを読む

◆正規化層とは何か

正規化層は、層に入ってくる値のばらつきを整えることで、ディープラーニングの学習を安定させるための仕組みです。▶続きを読む

◆代表的な正規化手法

正規化にはいくつかの方法があり、どのまとまりを単位として値を整えるかによって、バッチ正規化やレイヤー正規化などの違いが生まれます。▶続きを読む

◆正規化層の役割

正規化層は、学習を速く進めやすくし、勾配の流れを安定させることで、ディープラーニングモデルをより学びやすくする役割を持っています。▶続きを読む

◆プーリング層とは何か

プーリング層は、畳み込み層で見つけた特徴をまとめて整理し、次の層へ渡しやすくするための層です。▶続きを読む

◆代表的なプーリング操作

プーリングには、最大値を残す方法や平均を取る方法などがあり、どのように特徴を要約するかによって働き方が少しずつ異なります。▶続きを読む

◆プーリング層の役割

プーリング層は、特徴の位置が少しずれてもとらえやすくしながら、情報量を圧縮して学習を進めやすくする役割を持っています。▶続きを読む

◆回帰結合層とは何か

回帰結合層は、今の入力だけでなく過去の情報も引き継ぎながら処理する仕組みで、リカレントニューラルネットワーク（RNN）の土台となる層です。▶続きを読む

◆RNNが得意なデータ

RNNは、文章や音声のように「順番」や「時間の流れ」が意味を持つデータを扱うのに適したネットワークです。▶続きを読む

◆RNNはどう学習するのか

RNNでは、現在の出力だけでなく過去の状態も関わるため、時間方向にさかのぼる特別な学習方法が使われます。▶続きを読む

◆RNNの課題と発展

RNNは時系列データを扱うのに便利な一方で、長い系列では勾配消失や勾配爆発といった問題が起こりやすく、その解決のためにLSTMやGRUなどの工夫が生まれました。▶続きを読む