AIセキュリティ

研究・論文

ディープフェイク音声、IT技術者でも見抜けず|研究解説

2024年世代の音声合成で作った偽音声を、IT技術者82人でもF1スコア48%しか見抜けなかったとする研究(SPSC 2026採択)を解説。一文だけすり替える部分改ざんでは正答率9%。本人確認を「聞き分け」から「手続き」へ移す必要性を整理します。
研究・論文

プロンプトインジェクション防御|忘れない継続学習

プロンプトインジェクション対策は作り置きできません。防御を学習し直しつつ過去の攻撃も忘れない枠組み「COPA」の査読前論文を、情シス視点で解説します。ベンダー選定で聞くべき点も整理しました。
研究・論文

AIエージェント、拒否しても機密は漏れる|研究解説

AIエージェントが「開示できません」と正しく拒否しても、無害に見える出力の統計的な偏りから機密が復元されうる——商用8モデルを検証した査読前論文の指摘を情シス視点で解説します。受け入れテストの見直し方と、コンテキスト最小化の考え方まで。
研究・論文

AIコーディング補助、リポジトリ構成で攻撃成功率2倍

第三者のコードをAIコーディングエージェントに読ませるだけで、仕込まれた命令が実行されうる——査読前研究がフォルダ構成と攻撃成功率の関係を実測しました。モノリシックなリポジトリでは44%。情シスが押さえるべき設定の勘所を実務目線で解説します。
研究・論文

マルウェア検知AIの精度劣化|ドリフト検知研究

AI搭載型のマルウェア検知は、導入時の精度を保てません。再学習しないと正解率82%まで落ちた研究を紹介し、再学習の要否を自動判定する「ドリフト検知」の考え方と、情シスが製品選定・運用で持つべき観点を実務目線で解説します。
研究・論文

生成AIでサイバー犯罪は激化したか|研究の実像

地下フォーラムの投稿1億件超を分析した査読前研究は、サイバー犯罪者の生成AI活用が想像よりはるかに限定的だと示しました。実際の数字、AIが使われている領域、そして情シスが経営層への説明とAI関連の予算配分をどう見直すべきかを解説します。
研究・論文

垂直連合学習のバックドア|論文の成功率は再現しない

複数の組織が特徴量を持ち寄る垂直連合学習(VFL)のバックドア攻撃。既存研究は成功率95〜100%と報告してきましたが、現実的な前提に置き換えると10〜26%まで落ちるとする査読前研究を、情シスの実務目線で読み解きます。
研究・論文

RAGポイズニング検知|攻撃成功67%を14%へ

社内RAGに毒入り文書を混ぜる攻撃を、正解データなしで検知する手法RAGSieveの査読前研究を解説。攻撃成功率67.4%→14.0%という実測値の読み方と、情シスが今日確認すべきインデックスの棚卸しまで。
研究・論文

AIの「人間による監督」が攻撃対象に|研究解説

AIの暴走を防ぐ「人間による監督」自体が攻撃対象になる、と指摘する査読前論文を解説します。STRIDEで洗い出された攻撃ベクトルと、EU AI法第14条をめぐる2026年時点の適用スケジュールの実際を整理します。
研究・論文

LLMガードレールの限界:安全性トリレンマ論文を読む

LLMの安全対策を「プロンプトと会話履歴」だけで判断する仕組みは、攻撃者に同じ文脈を模倣されると原理的に破られる。査読前の研究が示した「安全性トリレンマ」を、社内での生成AI利用という実務の視点から読み解きます。
研究・論文

スポンジ攻撃とは:AI推論の電力を2.6倍に

AIの答えは正しいまま、消費電力だけを吊り上げる「スポンジ攻撃」。省電力AIチップ向けのスパイキングニューラルネットで推論あたり最大2.6倍に増えるという査読前研究を、情シス実務の視点で読み解きます。
研究・論文

AI画像の電子透かしは回転で消える|研究解説

AI生成画像の電子透かしは、画像を回転させるだけで読み取れなくなります。これを追加学習なしで補正する査読前研究AnchorMarkと、2026年8月2日適用のEU AI Act第50条を情シス視点で整理します。
研究・論文

AIエージェントの設計は外部から複製されうる|研究解説

社内AIエージェントの「ハーネス」(指示や連携の設計)は、外から対話するだけで復元されうる——arXivの査読前研究が示したリスクと、情シスが今のうちに整理しておくべき前提を解説します。
研究・論文

ディープフェイク検知の新研究|音声と映像で94%判別

音声と映像の両方を突き合わせてディープフェイク動画を見抜く新しい研究(査読前)を、情シス視点で解説。手口が進化するなりすまし詐欺に、検知技術はどこまで追いつけるのか。実務での向き合い方も整理します。
研究・論文

AIコーディング補助を狙う「設定汚染」攻撃

READMEやrequirementsを書き換えるだけで、AIコーディングエージェントに不正なパッケージを入れさせられる——査読前研究がその危うさを実証。情シスが今から備えるべき論点を実務目線で解説します。