カーネル法（Kernel Method）とは、データを高次元空間に暗黙的に写像し、線形手法で非線形問題を解くフレームワークです。カーネルトリックにより、高次元空間での内積を効率的に計算でき、明示的な写像を行う必要がありません。
カーネルトリック
カーネル関数K(x, y)は高次元空間での内積φ(x)·φ(y)を直接計算します。これにより、計算コストを抑えながら非線形のパターンを捉えることができます。
| ひとことで言うと | データを高い次元に写したことにして、曲がった境界を直線で扱う数学的な工夫。 |
|---|---|
| どこで使う | SVM、カーネル主成分分析、ガウス過程回帰。 |
| 注意点 | データが多いと計算量が急増する。カーネルの選び方で結果が大きく変わる。 |
代表的なカーネル関数
線形カーネル、多項式カーネル、RBF（ガウシアン）カーネル、シグモイドカーネルなどがあります。RBFカーネルは最も汎用性が高く、デフォルトの選択肢として広く使われています。
1直線で分けられない円状に分布したデータ
▶
2高次元に写す実際には計算しない
▶
3そこでは平面で分割単純な境界で済む
▶
4元に戻すと曲線複雑な境界が引ける
適用範囲
SVM、カーネルPCA、ガウス過程回帰など、様々なアルゴリズムでカーネル法が活用されています。ただし、大規模データでは計算コストが課題となるため、近年は深層学習に取って代わられる場面も増えています。