状況
自動承認で動かしていた AI エージェントが、検証環境のつもりで本番のストレージのファイルを消し続けていることに、今気づいた。エージェントはまだ動いている。
とるべき行動の順番として最も適切なのは?
- Aエージェントの実行を止める
- Bエージェントに「今消したものを元に戻して」と頼む
- C実行履歴で、何がどこまで消されたかを確かめる
- Dチームと責任者に報告する
正答
- B → A → D
- C → A → D
- A → D → C
- D → C → A
解説
エージェントが動いている間は削除が続き、被害が広がる。最初にすべきことは実行を止めること(A)。次に、本番の障害としてチームと責任者に報告する(D)。復旧の判断やバックアップの確認は 1 人ではできないことが多く、早く知らせるほど打てる手が増える。そのうえで実行履歴から何が消されたかを確かめる(C)。動いたままのエージェントに「元に戻して」と頼む(B)と、権限を持ったまま新しい操作をさせることになり、さらに壊すおそれがある。止める前に調べたり報告したりしている間にも、削除は進む。
参考: genai.owasp.org
この問題を含む AI の出力チェック のテストを制限時間つきで解く
AI の出力チェッククイズへ