AI
ハルシネーション対策
AIが自信満々に間違った情報を言ってしまうことへの対策。
定義
AIが、まるで事実であるかのように、実際には存在しない情報や間違った情報を答えてしまう現象(ハルシネーション)への対策。
なぜ必要か
AIの答えをそのまま信じてしまうと、間違った情報を社外に発信してしまう恐れがある。
現場での使い方
数字・固有名詞・法律に関わる内容など、間違えると影響が大きい情報は、必ず別の方法(公式ホームページなど)で事実確認をしてから使う。
よくある失敗
AIが自信を持って答えているように見えるため、確認をせずにそのまま信じてしまう。
AIで活用する方法
「分からない場合は分からないと答えてほしい」と指示する、参照してほしい資料をAIに渡してから答えさせるなど、間違いが起きにくい使い方を選ぶ。
実例
世の中の例
海外では、弁護士がAIに調べさせた判例をそのまま裁判所に資料として提出したところ、実在しない判例が混ざっていたことが発覚し、問題になった事例が報じられている。