ニューラルネットワーク・深層学習

NN の基本構造から、CNN/RNN/LSTM/Transformer まで、AP頻出ポイントを整理します。

ニューラルネット・CNN・RNN は AP にもときどき出題されます。仕組みより『どこに使うか』を中心に押さえましょう。

鳴海 理央(普段) 鳴海 理央

ニューラルネットワーク は脳の神経細胞を模した計算モデルで、入力層・隠れ層・出力層から成ります。
深層学習 は、その隠れ層を多数積んだ NN のことですね。

砂原 ニコ(普段) 砂原 ニコ

CNN と RNN って、何が違うの?

緒方 ナオミ 先生(笑顔) 緒方 ナオミ 先生

CNN は畳み込み層で局所的なパターンを抽出する NN で、画像認識に強いのよ。
RNN は時系列データを扱うために、各時刻の出力が次の入力に再帰的に渡る構造になっているの。
その改良版が LSTM ね。

鳴海 理央(普段) 鳴海 理央

Transformer は2017年に発表された、自己注意機構 で文脈を捉えるアーキテクチャです。
ChatGPT のような大規模言語モデルの基盤になっています。

藤咲 まりあ(普段) 藤咲 まりあ

学習を支える計算って、勾配降下法でしたっけぇ…?

鳴海 理央(普段) 鳴海 理央

はい。
勾配降下法 は損失関数の勾配と逆方向にパラメータを更新する最適化手法です。
活性化関数 (ReLU、Sigmoid 等) の選択で学習効率が変わります。

確認クイズ

畳み込みニューラルネットワーク (CNN) が特に有効とされる用途として、最も適切なものはどれか。

  1. 時系列データの予測
  2. 画像認識・物体検出
  3. 自然言語の翻訳
  4. 強化学習による行動方策学習
こたえを見る

正解: 2. 画像認識・物体検出

CNN は畳み込み層で局所的な特徴 (エッジ・テクスチャ) を抽出するため、画像認識・物体検出に特に強いアーキテクチャ。時系列は RNN/LSTM、翻訳は Transformer、行動方策は DQN や Actor-Critic などが代表。

🔖 この記事の関連書籍

Amazonアソシエイトリンクを含みます。他分野は おすすめ書籍ページ へ。