AlexNet

AlexNet

AlexNetとは

AlexNet(アレックスネット)は、2012年にアレックス・クリジェフスキー、イリヤ・サツキバー、ジェフリー・ヒントンが開発した深層畳み込みニューラルネットワークです。ILSVRC 2012で圧倒的な成績を収め、ディープラーニング革命の引き金となった歴史的なモデルです。

革新的な技術要素

AlexNetは8層のネットワーク(畳み込み層5層+全結合層3層)で構成され、約6000万のパラメータを持っていました。技術的な革新点として、ReLU活性化関数の採用(学習の高速化)、ドロップアウトによる過学習の抑制、データ拡張の活用、そしてGPU(2基のGTX 580)を用いた並列学習が挙げられます。

衝撃的な結果

ILSVRC 2012において、AlexNetはトップ5エラー率15.3%を達成し、2位の手法(26.2%)に約11ポイントもの大差をつけました。従来の手法がSIFTやHOGなどの手作業で設計した特徴量を使用していたのに対し、AlexNetはデータから特徴量を自動学習する点で根本的に異なっていました。

歴史的意義

AlexNetの成功は、ディープラーニングの有効性を疑いなく実証し、AI研究の方向性を決定的に変えました。この後、Google、Facebook、Microsoftなどの大企業がディープラーニング研究に本格参入し、AI人材の獲得競争が始まりました。AlexNetはAI史における「ビフォー・アフター」を分ける画期的な存在です。