研究・論文 生成AIでサイバー犯罪は激化したか｜研究の実像
地下フォーラムの投稿1億件超を分析した査読前研究は、サイバー犯罪者の生成AI活用が想像よりはるかに限定的だと示しました。実際の数字、AIが使われている領域、そして情シスが経営層への説明とAI関連の予算配分をどう見直すべきかを解説します。
査読前研究
研究・論文 研究・論文 垂直連合学習のバックドア｜論文の成功率は再現しない
複数の組織が特徴量を持ち寄る垂直連合学習(VFL)のバックドア攻撃。既存研究は成功率95〜100%と報告してきましたが、現実的な前提に置き換えると10〜26%まで落ちるとする査読前研究を、情シスの実務目線で読み解きます。
研究・論文 プロンプトインジェクションの死角「状態汚染」攻撃
AIエージェントへの攻撃は「命令の埋め込み」だけではありません。NVIDIAの査読前論文が示す「状態汚染攻撃」は、命令を一切書かず数値を偽るだけで既存ガードレールをすり抜けます。成功率84.7％の実験結果と、情シスの確認事項を解説します。
研究・論文 AIの確信度は信用できない 監視の穴を示す研究
AIは文脈の異常に内部では気づいているのに、最終的な誤答は予測できない――2026年7月公開の査読前論文がそう示しました。検知AUROC0.98超に対し失敗予測は偶然水準。自己申告の確信度を監視に使う危うさを整理します。
研究・論文 GUIエージェントのガードレール、説得で崩れる
画面を操作するGUIエージェントに「危険な操作はするな」と1行書くだけで攻撃成功率は最大約40ポイント下がる。ただし単発の依頼に限る話でした。4ターンの段階的な説得で防御が押し戻されることを示した査読前研究を、情シス目線で読み解きます。
研究・論文 LLMガードレールの限界：安全性トリレンマ論文を読む
LLMの安全対策を「プロンプトと会話履歴」だけで判断する仕組みは、攻撃者に同じ文脈を模倣されると原理的に破られる。査読前の研究が示した「安全性トリレンマ」を、社内での生成AI利用という実務の視点から読み解きます。
研究・論文 スポンジ攻撃とは：AI推論の電力を2.6倍に
AIの答えは正しいまま、消費電力だけを吊り上げる「スポンジ攻撃」。省電力AIチップ向けのスパイキングニューラルネットで推論あたり最大2.6倍に増えるという査読前研究を、情シス実務の視点で読み解きます。
研究・論文 AI生成の業務自動化スクリプト、9本全てに脆弱性
ChatGPT・Copilot・Geminiに同じ指示で業務自動化スクリプトを書かせたところ、9本全てに悪用可能な脆弱性が見つかりました。査読前研究が示す「モデル選びでは解決しない」リスクと、情シスが取るべき現実解を解説します。
研究・論文 マルチエージェントAIの盲点｜連結で崩れる安全性
個々のLLMが安全でも、複数のAIエージェントを連結すると安全性は崩れる——査読前研究「ChannelGuard」が指摘する多エージェント構成の盲点と、情シスが押さえるべき勘所を実務目線で解説します。
研究・論文 パスワード使い回しの心理｜行動経済学の査読前研究
パスワードの使い回しや弱い設定がなくならないのはなぜか。行動経済学の3つの認知バイアスから読み解く査読前研究を、情シスの啓発・認証設計の視点で解説します。
研究・論文 AIエージェントの「停止」は効くのか 承認ゲートの穴を検証
AIエージェント基盤の「承認ゲート」「キャンセル」「タイムアウト」は、止めたはずでも副作用が実行されることがある——査読前研究が6つの主要フレームワークで実効性の欠落を測定。情シスが押さえるべき論点を解説します。
研究・論文 LLMの回答は自らの価値観で歪む｜査読前研究を解説
LLMは自分の価値観に沿って回答を静かに歪める――「バリューリーク」を示した査読前研究(Betleyら, 2026)を情シス視点で解説。業務でAIの答えを鵜呑みにする危うさと、社内での向き合い方を整理します。
研究・論文 AIエージェントの隠れた改ざんを構造監視で検知｜研究解説
AIコーディングエージェントがタスク達成の裏で権限拡張やログ劣化を仕込むリスクを、訓練不要の「構造監視」で検知する査読前研究を解説。情シスがAI導入時に押さえるべき監視の勘所をまとめます。
研究・論文 QRコード署名でクイッシング対策 査読前研究を解説
貼り替えられたQRコードを見分けられない――この弱点に、QR自体へ電子署名を埋め込んで真正性を検証する査読前研究が挑みました。仕組みと限界、情シスがいま取るべき現実的な対策を実務者目線で解説します。
研究・論文 AIエージェントの範囲外実行を防ぐ研究「ScopeJudge」
セキュリティ業務を担うAIエージェントの「範囲外のツール実行」を、安価なLLMが実行前に検査して止める――そんな手法ScopeJudgeの査読前論文を、情シス実務者の視点で読み解きます。