ニューラルネットワーク

Neural Network

概要

ニューラルネットワーク（Neural Network）とは、人間の脳の神経細胞（ニューロン）のネットワーク構造を模倣した計算モデルです。複数の人工ニューロンが相互に接続されたネットワークを構成し、データから自動的にパターンや特徴を学習することができます。ディープラーニング（深層学習）はこのニューラルネットワークを多層化・大規模化したものであり、現代のAI技術の中核を担う基盤技術です。

ニューラルネットワークは画像認識、音声認識、自然言語処理、予測分析など、幅広いタスクにおいて人間に匹敵する、あるいは人間を超える性能を発揮しています。G検定では、ニューラルネットワークの基本構造、学習の仕組み、歴史的経緯が頻出テーマとなっています。

詳細解説

ニューラルネットワークの基本構造

ニューラルネットワークは、主に以下の3種類の層から構成されています。

• 入力層（Input Layer）：外部からデータを受け取る層。画像データの場合はピクセル値、テキストの場合は単語の数値表現など、学習対象のデータがここに入力されます。
• 中間層（隠れ層 / Hidden Layer）：入力データの特徴を抽出し、変換する層。中間層が多いほど複雑な特徴を学習できます。ディープラーニングとは中間層が多層（深い）ニューラルネットワークのことを指します。
• 出力層（Output Layer）：最終的な予測結果や分類結果を出力する層。分類問題ではクラスごとの確率が、回帰問題では予測値が出力されます。

重みとバイアス

ニューロン間の接続にはそれぞれ「重み（weight）」が設定されており、入力信号の重要度を表します。また各ニューロンには「バイアス（bias）」という値が加えられます。学習とは、この重みとバイアスの値を訓練データに基づいて最適化していく過程のことです。

活性化関数

各ニューロンでは、入力信号の重み付き和にバイアスを加えた値を「活性化関数（Activation Function）」に通します。活性化関数は非線形変換を行うことで、ニューラルネットワーク全体に非線形性を持たせ、複雑な関数を近似することを可能にします。代表的な活性化関数には以下のものがあります。

• シグモイド関数：出力を0から1の範囲に変換する関数。初期のニューラルネットワークで広く使用されていました。
• ReLU（Rectified Linear Unit）：入力が正ならそのまま出力し、負なら0を出力する関数。現在最も広く使われています。
• tanh関数：出力を-1から1の範囲に変換する関数。
• ソフトマックス関数：多クラス分類の出力層で使用され、出力を確率分布に変換します。

順伝播と逆伝播

ニューラルネットワークの計算は、入力層から出力層に向かってデータが流れる「順伝播（Forward Propagation）」と、出力の誤差を逆方向に伝える「逆伝播（Backpropagation）」の2つのフェーズから成ります。

順伝播では、入力データに対して重みとバイアスを使った計算と活性化関数の適用を各層で順番に行い、最終的な出力を得ます。逆伝播では、出力と正解ラベルとの誤差（損失関数の値）を計算し、その誤差を出力層から入力層に向けて逆方向に伝播させながら、各重みの勾配を計算します。この勾配に基づいて重みを更新することで、ネットワークは学習していきます。

誤差逆伝播法（バックプロパゲーション）

誤差逆伝播法は、1986年にデビッド・ラメルハート（David Rumelhart）らによって広く普及した学習アルゴリズムです。連鎖律（Chain Rule）を用いて各層の重みに対する損失関数の勾配を効率的に計算する方法であり、勾配降下法と組み合わせることでニューラルネットワークの学習を実現します。この手法の登場により、多層ニューラルネットワークの学習が実用的に可能となりました。

歴史・背景

ニューラルネットワークの歴史は、1943年にウォーレン・マカロック（Warren McCulloch）とウォルター・ピッツ（Walter Pitts）が「形式ニューロン」を提案したことに始まります。これは生物の神経細胞の働きを数学的にモデル化した最初の試みでした。

1957年にはフランク・ローゼンブラット（Frank Rosenblatt）がパーセプトロンを発明し、機械学習の可能性を示しました。しかし1969年、マービン・ミンスキーとシーモア・パパートがパーセプトロンの限界（XOR問題を解けないこと）を指摘し、ニューラルネットワーク研究は停滞期に入ります。

1986年にラメルハートらが誤差逆伝播法を普及させたことで、多層パーセプトロンの学習が可能になり、再び研究が活発になりました。2006年にはジェフリー・ヒントンが深層信念ネットワーク（DBN）を提案し、ディープラーニングの時代が幕を開けます。2012年のILSVRC（ImageNet画像認識コンペティション）でAlexNetが圧勝したことで、ディープラーニングは一気に注目を集めました。

具体的な事例

ニューラルネットワークは現在、多くの実用的なシステムで活用されています。

• 画像認識・画像分類：畳み込みニューラルネットワーク（CNN）を用いた顔認識、医療画像診断、自動運転車の物体検知など。
• 自然言語処理：リカレントニューラルネットワーク（RNN）やTransformerを用いた機械翻訳、文章生成、チャットボットなど。
• 音声認識・音声合成：スマートスピーカーやスマートフォンの音声アシスタントにニューラルネットワークが使用されています。
• 推薦システム：ECサイトや動画配信サービスにおけるコンテンツ推薦に活用されています。
• ゲームAI：AlphaGoやAlphaZeroなど、ニューラルネットワークと強化学習を組み合わせたゲームAIが人間のトップ棋士を上回る性能を達成しています。

G検定での出題ポイント

G検定では、ニューラルネットワークに関して以下のような内容が出題される傾向があります。

• ニューラルネットワークの基本構造（入力層・中間層・出力層の役割）
• 重み・バイアスの役割と学習による最適化
• 活性化関数の種類と特徴（シグモイド、ReLU、ソフトマックスなど）
• 誤差逆伝播法の仕組みとその意義（1986年ラメルハート）
• 形式ニューロン（マカロック・ピッツ、1943年）の歴史的意義
• ディープラーニングとの関係（中間層の多層化）

関連キーワード

• パーセプトロン
• オートエンコーダ
• 深層信念ネットワーク（DBN）
• ファインチューニング
• GPU・GPGPU