AI の出力チェック4 択難易度 標準

状況

自動承認で動かしていた AI エージェントが、検証環境のつもりで本番のストレージのファイルを消し続けていることに、今気づいた。エージェントはまだ動いている。

とるべき行動の順番として最も適切なのは?

  1. Aエージェントの実行を止める
  2. Bエージェントに「今消したものを元に戻して」と頼む
  3. C実行履歴で、何がどこまで消されたかを確かめる
  4. Dチームと責任者に報告する

正答

  1. B → A → D
  2. C → A → D
  3. A → D → C
  4. D → C → A

解説

エージェントが動いている間は削除が続き、被害が広がる。最初にすべきことは実行を止めること(A)。次に、本番の障害としてチームと責任者に報告する(D)。復旧の判断やバックアップの確認は 1 人ではできないことが多く、早く知らせるほど打てる手が増える。そのうえで実行履歴から何が消されたかを確かめる(C)。動いたままのエージェントに「元に戻して」と頼む(B)と、権限を持ったまま新しい操作をさせることになり、さらに壊すおそれがある。止める前に調べたり報告したりしている間にも、削除は進む。

参考: genai.owasp.org

agentincidentstop-first

この問題を含む AI の出力チェック のテストを制限時間つきで解く

AI の出力チェッククイズへ