機械学習

研究・論文

AIモデルのバックドア攻撃と『吸収』防御を探る研究

外部に訓練を委託したAIモデルに仕込まれるバックドア。その脅威と、正当な更新で悪意を打ち消す「吸収」防御を提案した査読前研究を、情シスの実務目線で読み解きます。
研究・論文

機械学習型NIDSをすり抜ける敵対的攻撃の研究

AI/機械学習を使った侵入検知システム(NIDS)を、通信を細工してすり抜ける「敵対的攻撃」の最新研究を実務者向けに解説。3つのデータセットで平均92.78%の回避成功率という結果の意味と、情シスが取るべき向き合い方を整理します。
研究・論文

AndroidマルウェアのAI検知を回避する攻撃手法—情シスへの教訓

機械学習(ML)ベースのAndroidマルウェア検知ツールを実用的に回避できる攻撃手法「DroidBreaker」が研究者によって発表された(査読前プレプリント)。商用スキャナの検出を大幅に回避できることも示されており、MDMや端末管理製品のML検知に過信は禁物だと改めて示している。
研究・論文

準同型暗号で暗号化したままAI画像推論する研究を読む

「機密データをクラウドのAIサービスに渡したくない」という情シスの悩みに、準同型暗号は一つの答えになりえます。データを暗号化したまま画像をAI推論する査読前研究を、実務者目線で噛み砕いて読み解きます。