過学習を防ぎ、未知のデータで評価する

過学習は、学習データの細部や偶然の特徴に適合しすぎ、未知のデータへの性能が下がる状態です。過去の伝票をほぼ完璧に分類できても、新しい様式で誤りが増えるなら、実用上の問題があります。

未知の事例にも学んだ傾向を適用できる性質を汎化と呼びます。訓練データでの成績だけを見て採用を決めず、別のデータで検証することが重要です。現場では時間の経過によってデータの性質が変わるため、導入後も同じ性能が続くかを確認します。

学習用データで重みを更新し、検証用データで設定や学習の進み具合を確かめ、最終的な評価用データで性能を測ると、役割が整理できます。評価用の正解を見ながら何度も調整すると、そのデータにも間接的に合わせ込むことになります。

過学習対策には、モデルの複雑さを抑える正則化、学習時に一部の要素を使わないドロップアウト、適切な時点で学習を止めるアーリーストッピングなどがあります。対策を使った後も、実際の改善を測ることが必要です。

転移学習は、ある課題で得られた学習成果を別の課題に利用する考え方です。多様な画像で学んだモデルを、特定の製品の検査に生かす例が考えられます。ファインチューニングは、学習済みモデルに追加のデータで学習を行い、用途に合わせて調整する方法です。

少ないデータや計算資源で取り組める場合がありますが、元の学習と新しい課題が合わなければ効果は限定的です。回答の作り方を指示するプロンプトや、資料を参照するRAGとは区別して理解しましょう。