本書は、Cloud Security Alliance (CSA)が公開している「Agentic AI Red Teaming Guide」の日本語訳です。
エージェンティックAIのレッドチーミングは、いくつかの重要な要因により、特別なアプローチが求められます。エージェンティックAIシステムは、計画・推論・ツール利用・自律的能力により、標準的なLLMや生成AIモデルにはないアタックサーフェスや障害モードが発生するため、より包括的な評価が求められます。本書では、12の脅威カテゴリーに対して、各脅威カテゴリーのレッドチーミングタスクの概要、詳細なテスト要件、実行可能な手順、プロンプトの例について説明します。
こちらのAIワーキンググループのウエブページの「公開資料」よりダウンロードしてください。