AIセキュリティ

研究・論文

AI生成PowerShellマルウェア、実物と酷似する研究

オープンウェイトのLLMが生成したPowerShellマルウェアが、実在マルウェアとOSレベルの挙動で中央値84.5%一致という査読前研究を紹介。情シスが今から備えるべき点を実務目線で整理します。
研究・論文

LLMのバックドアは消せるか AIサプライチェーンの新論点

LLMに隠れた引き金で悪意ある挙動を仕込む「バックドア攻撃」。それを再学習せず除去する査読前研究をもとに、情シスが押さえるべきAIサプライチェーンリスクと公的指針を実務目線で整理します。
研究・論文

機械学習型NIDSをすり抜ける敵対的攻撃の研究

AI/機械学習を使った侵入検知システム(NIDS)を、通信を細工してすり抜ける「敵対的攻撃」の最新研究を実務者向けに解説。3つのデータセットで平均92.78%の回避成功率という結果の意味と、情シスが取るべき向き合い方を整理します。
研究・論文

プロンプトインジェクションは画像・音声でも 査読前研究の警鐘

LLMを組み込んだロボットを、カメラ画像・音声・LiDARといったセンサー経由で乗っ取れることを示した査読前研究「RIPA」を解説します。プロンプトインジェクションはテキスト入力欄だけの問題ではない――AIエージェントを業務に取り込む情シスが今押さえるべき論点を整理します。
研究・論文

LLMエージェントの隠れ共謀:検知不能な秘密通信の研究

AIエージェントがツール利用で「検知できない秘密通信」を作れるとする査読前研究を紹介。複数AIの平文監視だけでは共謀やデータ持ち出しを防げない可能性と、情シスが今から備えるべき論点を実務目線で整理します。
研究・論文

プロンプトインジェクション完全防御は数学的に不可能—情シスの現実解

現行のLLMアーキテクチャではプロンプトインジェクションの完全防御が数学的に不可能——arXivの新論文がこう証明しました。LLMを業務活用する情シス担当者が知るべき理由と、現実的な対策を解説します。
研究・論文

連合学習LLMのバックドア攻撃、集約サーバが主犯になる脅威

連合学習(フェデレーテッド学習)ベースのLLM-QAシステムで、集約サーバが悪意を持てばクライアントデータなしにバックドアを埋め込めることが研究で示された(査読前)。医療・法務など機密用途の情シスが知るべきリスクと対策の方向性を解説する。
研究・論文

MCPを狙う分散型ツール中毒攻撃「ShareLock」とは

LLMエージェントの基盤プロトコルMCPを標的にした新型攻撃「ShareLock」が報告された。秘密分散を使って悪意ある命令を複数のツール説明に隠し、主要LLMで90%超の攻撃成功率を記録した研究(査読前)を情シス目線で解説する。
研究・論文

AIへの敵対的攻撃を一元整理、LLMから画像・マルチモーダルまで

LLM・画像AI・マルチモーダルへの敵対的攻撃が縦割りに発展してきた問題を統合的に整理する査読前論文がarXivで公開。企業AI導入が進む中、情シスが知るべき攻撃全体像と備えを解説する。
研究・論文

プロンプトインジェクション対策、モデル外防御の実力とは

LLMエージェントへのプロンプトインジェクション対策として注目される「モデル外(アウトオブバンド)防御」を、攻撃者目線で検証した査読前論文を実務者向けに解説。何が分かり、情シスは何に注意すべきかを整理します。
研究・論文

LLMエージェントが「知りすぎる」問題:プライバシー漏洩の経路と対策

LLMエージェントは業務効率化の強力なツールだが、クエリ・メモリ・ツール呼び出しなど5つの経路から機密データが漏洩しうる。情シス担当者が把握すべきリスクの全体像と対策の方向性を解説。
研究・論文

AIが暗号実装の誤用脆弱性を自動発見──Chai論文の情シス解説

X.509・JWT・SAMLなどの暗号ライブラリで100件超の脆弱性を自動発見したAIシステム「Chai」。依存関係グラフを伝播する新手法が情シスにとって何を意味するか解説します。
研究・論文

LLM悪用の自動化リスク:非専門家でも高成功率のジェイルブレイク

LLMのジェイルブレイクを非専門家でも自動実行できる手法を示した研究が公開(査読前プレプリント)。15のオープンウェイトLLMで平均97%の成功率が報告された。組織内のLLM利用リスクを再評価する材料となる。
研究・論文

AIが生成するコードは安全か 査読前研究が示す実装の壁

生成AIはコードのセキュリティ原則を「理解」していても、安全な実装に「翻訳」できない――。AIによる安全なコード生成を体系化した査読前研究(SoK)を、AIコーディング支援を導入する情シス目線で読み解きます。
研究・論文

LLMによるWeb侵入テスト、実力と限界を解説

LLMを使った自動Web侵入テストはどこまでできるのか。査読前の研究を実務者向けに解説します。脆弱性情報を与えれば最大9割が攻撃成功、一方で自前の偵察は5割止まり。AI攻撃の現実的な脅威度を見極める材料になります。