バイアスとディープフェイク。出力を見極める

AIの出力には、学習データや評価方法に含まれる偏りが反映されることがあります。例えば過去の採用データに職種と性別の偏りがあれば、その傾向を再現する結果が出る可能性があります。

数字で示されていても、客観的で公正と決めつけてはいけません。誰のデータが少ないか、評価基準が目的に適切か、特定の集団への不利益がないかを確かめます。属性を一つ削除しても、地域や経歴など別の情報が代わりに働く場合があります。

人に大きく影響する判断ほど慎重に扱います。

ディープフェイクは、AIなどを使い、人物の顔や声などを高度に合成・改変する技術として知られています。創作にも使えますが、なりすまし、詐欺、名誉を傷つける偽情報にも悪用されます。

上司の声で急な送金を求められた場合、声だけを根拠にせず、あらかじめ分かっている連絡先から別の経路で確認します。映像の不自然さを探すだけでは、精巧な偽装に対応できません。元の発信者、他の信頼できる情報、日時や文脈を確かめ、未確認のまま拡散しないことが重要です。

ファクトチェックは事実、数字、出典、最新情報を確かめることです。妥当性レビューでは、前提条件、論理、抜け漏れ、目的への適合性を確認します。事実が正しくても、条件の異なる事例をそのまま当てはめれば判断を誤ることがあります。

社内のアイデア出しと、医療・法務・人事など人へ大きく影響する用途では、必要な確認の厳しさが違います。出力を採用、修正、破棄するか、専門家へ確認するかを人が判断します。AIを使わないという選択も含め、影響に応じて決めます。