バイアス-バリアンストレードオフ(Bias-Variance Tradeoff)とは、機械学習モデルの予測誤差を構成する2つの要因—バイアス(偏り)とバリアンス(分散)—がトレードオフの関係にあるという概念です。
バイアスとは
バイアスは、モデルの予測値と真の値との系統的なズレを表します。バイアスが高いモデルはデータのパターンを十分に捉えられず、未学習(アンダーフィッティング)の状態にあります。単純すぎるモデルはバイアスが高くなります。
バリアンスとは
バリアンスは、異なるデータセットで学習した場合の予測のばらつきを表します。バリアンスが高いモデルは訓練データのノイズに敏感に反応し、過学習(オーバーフィッティング)の状態にあります。複雑すぎるモデルはバリアンスが高くなります。
トレードオフの関係
モデルの複雑さを増すとバイアスは減少しますがバリアンスは増加し、逆にモデルを単純にするとバリアンスは減少しますがバイアスは増加します。最適なモデルはバイアスとバリアンスのバランスが取れた点にあり、この最適点を見つけることが機械学習における重要な課題です。