AI x Cyber: エージェント型ワークフローとインフラの堅牢化

AIとサイバーセキュリティが交わる領域を扱うトークイベントで、セキュリティエンジニアやエージェント型システムを構築する人が対象です。AIエージェントがツールを呼び出しインフラを変更できるようになると、従来のネットワーク境界は有効な防御線ではなくなり、制御をモデル、ツール層、実行環境の近くに置く必要がある、というのが出発点です。 1本目はNat Natraj氏 (AccuKnox CEO兼共同創業者) によるプロンプトガードレールの話です。ガードレールが実際に何をしているのか、ステートレスな単発プロンプト検知とステートフルなセッション単位の検知のトレードオフ、そして本番トラフィックで通用するかを左右するレイテンシとカバレッジの制約を扱います。文字列インジェクションによるAWS Bedrockガードレールの回避、エージェント型ワークフロー内の悪意ある「スキル」を通じた間接プロンプトインジェクション、Crescendo攻撃のようなマルチターンのジェイルブレイクなど、実演によるバイパスのデモも含まれます。機械学習ベースの検知は確率的であるため、ガードレールをファイアウォールのように扱うのではなく、多層防御として重ねることが重要だという結論です。 2本目はChristian Nicholson氏 (Indelible リードコンサルタント兼パートナー) が、セキュアなAIインフラの設計図を示します。ローカルとリモートで異なるModel Context Protocol (MCP) ツールサーバーの構成、認可とツール利用における決定論的なポリシーエンジンの役割、コンテナやFirecrackerのような使い捨てmicroVMによる非信頼コードの隔離が主題です。3本目のRoman Trigubenko氏 (Wallarm テクニカルPM) のトークは内容未定です。18:00開場、18:30からトーク、最後の1時間はネットワーキングで、21:00に閉場します。