ハルシネーションと、道具の選び方

ハルシネーションは、生成AIが事実に基づかない内容を、もっともらしく出力する現象を指します。存在しない書籍、架空の裁判例、違う日時、実際には書かれていない引用などが例です。

言語モデルは文脈に合う表現を生成するため、説明が自然で自信に満ちて見えても正しさは保証されません。「正確に答えて」と追加するだけでは解決できない問題です。特に数字、固有名詞、最新情報、根拠となる出典は、元の資料へ戻って照合する工程を用意します。

検索は関連する資料を探し、生成は与えられた情報などから新しい表現を作ります。検索機能を備えたAIでも、見つけたページを読み違えたり、古い情報を使ったりすることがあります。

確認では、発行元、公開日、対象地域、制度の適用日などをそろえて比べます。計算を伴う場合は表計算や専用の計算処理で検算し、重要な判断では担当者が妥当性を確かめます。RAGなどで資料を与えることは役立ちますが、誤情報が完全に消えるわけではありません。

生成AIを選ぶときは、目的に対する品質、応答速度、費用、扱える情報量、入出力の種類、データの保存や学習利用の条件を比較します。例えば社外公開文の下書きと、機密文書の整理では、必要な管理条件が異なります。

クラウド型は提供事業者の環境で処理し、オンプレミス型は組織が管理する環境で運用しますが、後者なら自動的に安全というわけでもありません。モデルや機能は更新されるため、同じ代表例を使った定期的な評価と、利用条件の確認が有効です。