AI の出力チェック○×難易度 基礎

AI エージェントの作業を速くするため、ファイルの削除や本番への push も含め、すべてのコマンドを自動承認にしてよい。

正答

× 誤り

解説

AI エージェントは、指示の取り違えや、読み込んだ文書に仕込まれた指示（プロンプトインジェクション）によって、意図しないコマンドを実行することがある。ファイルの削除、強制 push、本番へのデプロイ、DB の変更のように取り返しのつかない操作を自動承認にすると、誤りに気づく機会が無くなる。読み取りやテストの実行のような影響の小さい操作だけを自動にし、破壊的な操作と外部への送信は人が内容を読んで承認する。作業の速さより、事故の後始末にかかる時間のほうがはるかに大きい。

参考: genai.owasp.org

agentauto-approvedestructive