ボルツマンマシン

Boltzmann Machine

ボルツマンマシンとは

ボルツマンマシン(Boltzmann Machine)は、1985年にジェフリー・ヒントンとテリー・セジュノスキーが提案した確率的ニューラルネットワークモデルです。統計力学のボルツマン分布に基づく確率的な動作原理を持ち、教師なし学習で データの内部構造を捉えることができます。

構造と動作原理

ボルツマンマシンは、可視ユニット(観測可能なデータを表す)と隠れユニット(データの潜在的な特徴を表す)から構成されます。各ユニットは確率的に0か1の状態をとり、ユニット間の結合重みに基づいてエネルギー関数が定義されます。システムはエネルギーが低い状態(データの確率分布に合致した状態)に収束するよう学習します。

制限ボルツマンマシン(RBM)

オリジナルのボルツマンマシンは学習に膨大な計算時間を要するため、実用的ではありませんでした。この問題を解決するために、同じ層内のユニット間の結合を排除した制限ボルツマンマシン(RBM)が開発されました。RBMはコントラスティブ・ダイバージェンス法により効率的に学習でき、実用的な応用が可能になりました。

ディープラーニングへの貢献

2006年、ヒントンはRBMを層状に積み重ねた深層信念ネットワーク(DBN)を提案し、深いネットワークの事前学習が可能であることを示しました。これがディープラーニング復興のきっかけとなり、現代のAI革命への道を開きました。ボルツマンマシンは理論的に重要な概念であり、深層生成モデルの先駆けです。