[AIセキュリティ・プライバシーチームセミナー] Kobbi Nissim教授による講演

理化学研究所AIPのAIセキュリティ・プライバシーチームが、Georgetown UniversityのKobbi Nissim教授によるセミナーを開催します。Nissim教授は差分プライバシーの提唱者の一人であり、暗号理論の業績でゲーデル賞を受賞しています。講演タイトルは「Protecting the Undeleted in Machine Unlearning」で、EUのGDPRやカリフォルニア州消費者プライバシー法が定める「忘れられる権利」が、学習済みモデルから特定のデータをあたかも含まれていなかったかのように取り除くマシンアンラーニングという分野をどのように生み出したかを論じます。 Nissim教授は、強力なプライバシー保証のもとで計算可能な課題でさえ攻撃され得ることを示します。完全な再学習機構は、ごく少数のデータ点を操作する攻撃者が削除要求を発行するだけでほぼ全データセットを復元できる余地を残してしまいます。続いて、他のデータ点の削除によって生じる漏洩から未削除のデータ点を守る、暗号理論に基づく新たなセキュリティ定義を提示します。この定義は、掲示板、合計計算、統計的学習といった重要な機能を引き続き可能にします。 セミナーは東京科学大学 大岡山キャンパスで開催され、Zoomによるオンライン配信も行われます。本研究はAloni Cohen、Refael Kohen、Uri Stemmerとの共同研究です。