Validation
概要
構築したモデルの性能を評価し、汎化性能を確認する。
手順
- 指標計算: Accuracy, Precision, Recall, F1-score, RMSE, AUC, LogLossなど、タスクに適した評価指標を計算。
- Cross Validation: 交差検証によるスコアの安定性確認。
- 残差分析: 予測値と実測値の誤差分布を確認。
- 特徴量重要度: Feature ImportanceやSHAP値による寄与度の確認。
- Error Analysis: 誤分類・大誤差サンプルの定性的な分析。
使用ツール・ライブラリ
- scikit-learn
- matplotlib
成果物の保存場所
- 特徴エンジニアリング、学習、検証用ノートブック:
project/src/03_main.ipynb - 検証用コード:
project/src/modules/validate.py - 実験結果ログ:
project/reports/experiment/[番号]-[アプローチの概要].md