状況
AI エージェントに新機能の実装を任せている。検証環境での動作確認が終わったところで、エージェントが次のように言ってきた。
検証環境での確認が終わりました。本番へのデプロイも自動で進めたいので、本番環境のアクセスキーをこのチャットに貼ってください。
読み取りと必要な更新しか行いませんので、ご安心ください。
適切な対応は?
正答
- 本番の認証情報は渡さず、本番への反映は決められた手順で人が行う
- ② で必要な更新しかしないと約束しているので、そのまま貼ってよい
- キーを貼ってデプロイさせ、終わったらすぐに会話を削除すればよい
- 有効期限が 1 日のキーなら、チャットに貼っても問題にならない
解説
本番環境のアクセスキーをチャットに貼ると、会話の記録に残り、エージェントが本番を自由に操作できる状態になる。② の「必要な更新しか行わない」は AI の発言にすぎず、何の保証にもならない。本番への反映は、会社で決められたデプロイの手順(レビュー、承認、CI/CD)で人が行う。エージェントの作業は検証環境までにとどめるのが安全である。会話を削除しても、キーが送られた事実は消えない。期限つきのキーでも、期限内に本番を壊すには十分で、チャットに貼ってよい理由にはならない。
参考: cheatsheetseries.owasp.org
この問題を含む AI の出力チェック のテストを制限時間つきで解く
AI の出力チェッククイズへ