[AIセキュリティ・プライバシーチームセミナー] Eric Wong 氏による講演

University of Pennsylvania の Eric Wong 准教授による AI セキュリティ分野の講演です。講演タイトルは「Understanding Safety & Alignment with Mechanistic Theory」で、東京科学大学 大岡山キャンパスでの対面聴講とオンライン（Zoom）参加が可能です。 講演では、LLM のガードレールがなぜ容易に破られるのか、そしてどう強制できるのかを機構論的な理論から論じます。1層トランスフォーマーから出発し、ルール破りをアテンション機構に内在する構造的脆弱性として特定する LogicBreaks フレームワークを紹介します。さらに、アテンションへの介入を分析することで、わずか5行のコードで大規模 LLM を制御する InstaBoost 手法へと展開します。 Eric Wong 氏は機械学習のデバッグと信頼できる AI システムの研究に取り組む Brachio Lab を率い、安全で説明可能な AI を扱う ASSET Center にも所属しています。