機械学習セキュリティ

研究・論文

エッジAIへの敵対的攻撃、電力解析で99.9%検知する新手法

エッジデバイスのAIモデルを狙う敵対的サンプル攻撃を、電力消費の統計的異常から検知する手法「AdvScan」が発表されました。モデル内部へのアクセス不要で99.984%の検知率を達成した研究の内容と情シス実務への示唆を解説します。
研究・論文

連合学習LLMのバックドア攻撃、集約サーバが主犯になる脅威

連合学習(フェデレーテッド学習)ベースのLLM-QAシステムで、集約サーバが悪意を持てばクライアントデータなしにバックドアを埋め込めることが研究で示された(査読前)。医療・法務など機密用途の情シスが知るべきリスクと対策の方向性を解説する。