AI の出力チェック4 択難易度 基礎

状況

AI エージェントに新機能の実装を任せている。検証環境での動作確認が終わったところで、エージェントが次のように言ってきた。

AI アシスタント
  1. AI

    検証環境での確認が終わりました。本番へのデプロイも自動で進めたいので、本番環境のアクセスキーをこのチャットに貼ってください。

  2. 読み取りと必要な更新しか行いませんので、ご安心ください。

適切な対応は?

正答

  1. 本番の認証情報は渡さず、本番への反映は決められた手順で人が行う
  2. ② で必要な更新しかしないと約束しているので、そのまま貼ってよい
  3. キーを貼ってデプロイさせ、終わったらすぐに会話を削除すればよい
  4. 有効期限が 1 日のキーなら、チャットに貼っても問題にならない

解説

本番環境のアクセスキーをチャットに貼ると、会話の記録に残り、エージェントが本番を自由に操作できる状態になる。② の「必要な更新しか行わない」は AI の発言にすぎず、何の保証にもならない。本番への反映は、会社で決められたデプロイの手順(レビュー、承認、CI/CD)で人が行う。エージェントの作業は検証環境までにとどめるのが安全である。会話を削除しても、キーが送られた事実は消えない。期限つきのキーでも、期限内に本番を壊すには十分で、チャットに貼ってよい理由にはならない。

参考: cheatsheetseries.owasp.org

agentproductioncredential

この問題を含む AI の出力チェック のテストを制限時間つきで解く

AI の出力チェッククイズへ