難易度・正答率・重要度
- 難易度：★★☆☆☆（用語の正しい対照）
- 正答率：★★★☆☆（定義を知っていれば容易）
- 重要度：★★★☆☆（生成AIの実務で重要）
問題文
生成AIに見られる現象の1つにハルシネーションがある。ハルシネーションに関する記述として、最も適切なものはどれか。
ア
AIが生成したデータをAI自らが学習することで、言語モデルの精度が低下したり多様性が失われたりする現象のこと。
イ
事実に基づかない情報や実際には存在しない情報をAIが生成する現象のこと。
ウ
人間がAIとの対話中に、そのAIが感情や意図を持っているかのように感じる現象のこと。
エ
人間がAIを反復的に利用することで、特定の意見や思想が正しいと信じ込むようになる現象のこと。
オ
モデル訓練時の入力データの統計的分布と、テスト時／本番環境での入力データの統計的分布が、何らかの変化によってズレてくる現象のこと。
出典： 中小企業診断協会｜2024年度 第1次試験問題｜経営情報システム（PDF）
解答
- 正解：イ（事実に基づかない・存在しない情報をAIが生成する現象）
解説
- ア:×
生成物の自己学習による劣化は「モデル自己汚染（model collapse）」やデータ汚染の文脈。ハルシネーションの定義ではない。 - イ:〇
ハルシネーションの正しい説明。AIがもっともらしいが誤った・不存在の情報を生成する現象。 - ウ:×
人がAIに意図や感情を見出すのは「擬人化（anthropomorphism）」の文脈。 - エ:×
反復利用で特定の意見に傾くのは「エコーチャンバー」や「確証バイアス」の文脈。 - オ:×
訓練と本番の分布差は「データドリフト」「概念ドリフト」。ハルシネーションではない。
学習のポイント
- ハルシネーション対策: 根拠提示の徹底、外部知識の参照、検証・ファクトチェック、プロンプトで制約設定。
- 関連用語の区別: ハルシネーション／データドリフト／エコーチャンバー／擬人化は別概念。