グリッドサーチ（Grid Search）とは、ハイパーパラメータの候補値をあらかじめ格子状に定義し、すべての組み合わせを試して最適な設定を見つける網羅的な探索手法です。
手順
各ハイパーパラメータの候補値のリストを定義し、それらのすべての組み合わせに対してモデルを学習・評価します。通常、交差検証と組み合わせて各組み合わせの性能を評価し、最も性能の良い組み合わせを選択します。
利点と限界
すべての組み合わせを網羅的に探索するため、最適解を見逃さないという利点があります。しかし、ハイパーパラメータの数や候補値が増えると組み合わせ数が指数的に増加し、計算コストが爆発的に増大するという限界があります。
ランダムサーチとの比較
ランダムサーチは同じ計算予算でもより広い範囲を探索でき、重要でないハイパーパラメータに計算資源を無駄にしないため、多くの場合グリッドサーチより効率的です。