AI の出力チェック○×難易度 基礎

AI が自信のある口調で言い切っているかどうかは、内容が正しいかどうかの手がかりにならない。

正答

○ 正しい

解説

生成 AI は、もっともらしい文章を作るのが得意で、内容が誤っていても自然で自信のある口調で説明する。実在しない関数やオプション、存在しない出典も、正しい情報と同じ調子で書かれる（ハルシネーション）。「〜です」「必ず〜になります」と言い切っているかどうかは正しさの手がかりにならず、言い切っているほど正しいと考えるのは誤りである。コマンド、設定、API の使い方は公式ドキュメントで確かめ、コードは小さな環境で動かして確かめる。人の説明でも同じで、確かめられる根拠があるかで判断する。

参考: genai.owasp.org

confidencehallucination