回帰分析

Regression Analysis

回帰分析(Regression Analysis)とは、入力変数(説明変数)と出力変数(目的変数)の間の関係をモデル化し、連続的な数値を予測するための統計的・機械学習的手法です。最も基本的な予測手法の一つです。

回帰分析の種類

線形回帰、多項式回帰、リッジ回帰、ラッソ回帰、サポートベクター回帰(SVR)、決定木回帰、ランダムフォレスト回帰、ニューラルネットワーク回帰など、多様な手法があります。

表:回帰分析の要点まとめ
ひとことで言うと説明変数から、売上や価格などの「数値」を予測する分析手法。
どこで使う売上予測、需要予測、価格設定、広告効果の測定。
注意点相関があっても因果があるとは限らない。施策の判断は慎重に。

回帰の評価指標

平均二乗誤差(MSE)、平均絶対誤差(MAE)、決定係数(R²)、平均二乗対数誤差(MSLE)などが使用されます。R²は予測がどの程度データの分散を説明できているかを0〜1で表します。

図:回帰分析の進め方
1目的変数を決める予測したい数値
▶
2説明変数を選ぶ影響しそうな要因
▶
3関係式を推定誤差が最小になる係数
▶
4係数を解釈どれがどれだけ効くか
▶
5予測に使う新しい条件で試算

分類との違い

回帰が連続値(住宅価格、気温、売上など)を予測するのに対し、分類は離散的なカテゴリ(スパム/非スパム、犬/猫など)を予測します。タスクの性質に応じて適切な手法を選択します。