AI研修 初心者向け / 第4章: 会社でAIを安全に使うためのリスク管理と倫理
もっともらしい嘘とファクトチェック
無料公開レッスン / 読了目安 2 分
このレッスンのフル版で学ぶ
無料マークの付いた教材は登録なしで閲覧できます。学習記録の保存・演習の提出にはGoogleログインが必要です。準備中のコースは受講対象に含みません。
無料でフル版を開く生成AIは、あたかも真実であるかのように堂々と「もっともらしい嘘」を出力することがあります。これを「ハルシネーション(幻覚)」と呼びます。AIは膨大なデータから言葉のつながりを確率的に予測して文章を作っているだけで、内容の真偽を理解しているわけではないためです。
フランスの大学病院が行った検証では、AIが生成した「実在しない嘘の病名」を提示された際、研修医の44%が本物の病名だと信じてしまいました。一方で、嘘を見抜けた医師たちは、AIの回答を鵜呑みにせず、必ず専門の医学データベースや原本資料で裏付けをとる習慣を徹底していました。
また、検索エンジンのAI自動要約機能に対し、悪意ある詐欺サイトが「安全なサイトです」と大量に書き込んでAIに誤った安全判定を出させる手口も報告されています。
AIが出した企画書、数字、専門用語をそのまま信じて業務に使うのは厳禁です。AIの回答はあくまで「ドラフト(一次案)」と位置づけ、数字や事実関係は人間が信頼できる情報源にあたって確認する「ファクトチェック」を必須のルールとしましょう。
関連動画
ハルシネーション事故を防ぐ実務チェック。ハルシネーションとは、AIが誤った内容をもっともらしく出す現象です。長文回答、専門領域、引用つき回答ほど、根拠確認と人の承認を挟んで事故を防ぎましょう。
AIが作った「存在しない病名」を医師の44%が信用 仏大学病院の実験 #AI医療 #ハルシネーション #生成AI
参考リンク
- https://www.itmedia.co.jp/news/articles/2608/31/2000000865/
- [suspicious link removed]