機械学習の基礎

教師あり学習、損失関数、ランダムフォレストなど、機械学習の基本用語100語を解説

01 教師あり学習 Supervised Learning 02 教師なし学習 Unsupervised Learning 03 半教師あり学習 Semi-supervised Learning 04 過学習(オーバーフィッティング) Overfitting 05 未学習(アンダーフィッティング) Underfitting 06 損失関数 Loss Function 07 勾配降下法 Gradient Descent 08 確率的勾配降下法(SGD) Stochastic Gradient Descent 09 学習率 Learning Rate 10 バッチサイズ Batch Size 11 エポック Epoch 12 正則化 Regularization 13 L1正則化(Lasso) L1 Regularization / Lasso 14 L2正則化(Ridge) L2 Regularization / Ridge 15 ドロップアウト Dropout 16 交差検証 Cross-Validation 17 ホールドアウト法 Holdout Method 18 k分割交差検証 k-Fold Cross-Validation 19 バイアス-バリアンストレードオフ Bias-Variance Tradeoff 20 特徴量 Feature 21 特徴量エンジニアリング Feature Engineering 22 特徴量選択 Feature Selection 23 次元削減 Dimensionality Reduction 24 主成分分析(PCA) Principal Component Analysis 25 t-SNE t-distributed Stochastic Neighbor Embedding 26 線形回帰 Linear Regression 27 ロジスティック回帰 Logistic Regression 28 決定木 Decision Tree 29 ランダムフォレスト Random Forest 30 勾配ブースティング Gradient Boosting 31 XGBoost eXtreme Gradient Boosting 32 LightGBM Light Gradient Boosting Machine 33 サポートベクターマシン(SVM) Support Vector Machine 34 k近傍法(k-NN) k-Nearest Neighbors 35 ナイーブベイズ Naive Bayes 36 クラスタリング Clustering 37 k-means法 k-Means Clustering 38 階層的クラスタリング Hierarchical Clustering 39 DBSCAN Density-Based Spatial Clustering 40 アンサンブル学習 Ensemble Learning 41 バギング Bagging (Bootstrap Aggregating) 42 ブースティング Boosting 43 スタッキング Stacking (Stacked Generalization) 44 ニューラルネットワーク Neural Network 45 パーセプトロン Perceptron 46 活性化関数 Activation Function 47 シグモイド関数 Sigmoid Function 48 ReLU関数 Rectified Linear Unit 49 ソフトマックス関数 Softmax Function 50 誤差逆伝播法 Backpropagation 51 最適化アルゴリズム Optimization Algorithm 52 Adam Adaptive Moment Estimation 53 モメンタム Momentum 54 ハイパーパラメータ Hyperparameter 55 ハイパーパラメータチューニング Hyperparameter Tuning 56 グリッドサーチ Grid Search 57 ランダムサーチ Random Search 58 ベイズ最適化 Bayesian Optimization 59 混同行列 Confusion Matrix 60 精度(Accuracy) Accuracy 61 適合率(Precision) Precision 62 再現率(Recall) Recall 63 F値(F1スコア) F1 Score 64 ROC曲線 ROC Curve 65 AUC Area Under the Curve 66 回帰分析 Regression Analysis 67 分類 Classification 68 目的変数 Target Variable 69 説明変数 Explanatory Variable 70 訓練データ Training Data 71 テストデータ Test Data 72 検証データ Validation Data 73 データの分割 Data Splitting 74 正規化 Normalization 75 標準化 Standardization 76 ワンホットエンコーディング One-Hot Encoding 77 ラベルエンコーディング Label Encoding 78 欠損値処理 Missing Value Handling 79 外れ値 Outlier 80 不均衡データ Imbalanced Data 81 オーバーサンプリング Oversampling 82 SMOTE Synthetic Minority Over-sampling Technique 83 転移学習 Transfer Learning 84 ファインチューニング Fine-tuning 85 早期終了(Early Stopping) Early Stopping 86 データ拡張 Data Augmentation 87 ミニバッチ学習 Mini-batch Learning 88 オンライン学習 Online Learning 89 バッチ学習 Batch Learning 90 モデルの汎化 Model Generalization 91 カーネル法 Kernel Method 92 マルチタスク学習 Multi-task Learning 93 メタ学習 Meta-Learning 94 能動学習(Active Learning) Active Learning 95 自己教師あり学習 Self-supervised Learning 96 対照学習(Contrastive Learning) Contrastive Learning 97 蒸留(Knowledge Distillation) Knowledge Distillation 98 AutoML Automated Machine Learning 99 勾配消失問題 Vanishing Gradient Problem 100 バッチ正規化 Batch Normalization 101 重み減衰(Weight Decay) Weight Decay 102 交差エントロピー Cross-Entropy Loss 103 平均二乗誤差(MSE) Mean Squared Error 104 カテゴリ変数 Categorical Variable 105 オートエンコーダー Autoencoder 106 強化学習(基礎) Reinforcement Learning Basics 107 学習曲線 Learning Curve 108 重み初期化 Weight Initialization 109 勾配クリッピング Gradient Clipping 110 投票法(Voting) Voting 111 次元の呪い Curse of Dimensionality 112 データリーク Data Leakage 113 パイプライン Pipeline 114 ノーフリーランチ定理 No Free Lunch Theorem