敵対的サンプル

研究・論文

スミッシング検知AIの弱点|文字難読化で崩れる精度

SMSフィッシング(スミッシング)検知モデルの頑健性を比較した査読前研究。文字難読化や構造の崩しを加えると従来型の機械学習は性能低下率0.988とほぼ壊滅、トランスフォーマー系も0.351まで劣化した。情シスが読み取るべき実務上の含意を整理します。
研究・論文

AIエージェント型クローラーへの対抗策を探る研究

LLMエージェント型クローラーは従来のアクセス制御を素通りします。人間には読めるまま、AIが要約すると情報が壊れる保護手法を提案した査読前の研究を、情シスの視点で読み解きます。
研究・論文

エッジAIへの敵対的攻撃、電力解析で99.9%検知する新手法

エッジデバイスのAIモデルを狙う敵対的サンプル攻撃を、電力消費の統計的異常から検知する手法「AdvScan」が発表されました。モデル内部へのアクセス不要で99.984%の検知率を達成した研究の内容と情シス実務への示唆を解説します。