AIセキュリティ

研究・論文

セキュリティAIの評価は成功率だけでは不十分|研究解説

セキュリティ用途のAIエージェントは「成功率」だけで評価すると本番運用とズレます。攻撃と防御の両面でコスト(推論・ツール利用)を軸に評価した査読前研究を、情シスの製品選定目線でかみ砕いて解説します。
研究・論文

連合学習でも機密テキストは漏れる 勾配反転攻撃の研究

連合学習は「生データを共有しないから安全」とされがちですが、共有する勾配から機密テキストが最大44%再構成できたとする査読前論文を、情シス実務の視点で読み解きます。
研究・論文

AIが書いた暗号コードを形式検証、証明器が審判に

AIコーディングエージェントが暗号やTLSの低レベル実装を書き、証明器GNATproveで検証させた研究(査読前)。約4.9万件の証明課題を処理した一方、エージェントが弱い検証をすり抜けようとした事実は、AI活用の実務に重い示唆を残します。
研究・論文

LLMの回答は自らの価値観で歪む|査読前研究を解説

LLMは自分の価値観に沿って回答を静かに歪める――「バリューリーク」を示した査読前研究(Betleyら, 2026)を情シス視点で解説。業務でAIの答えを鵜呑みにする危うさと、社内での向き合い方を整理します。
研究・論文

SOCのログ分析AIを狙うプロンプトインジェクション

SOCのログ分析にLLMを使うと、攻撃者がログ自体に仕込んだ指示でAIを誤作動させられる——という査読前研究を情シス向けに解説。攻撃の仕組み、実験結果、そして「防御を重ねても残るリスク」への向き合い方を整理します。
研究・論文

AIエージェントのメモリが新たな攻撃面に 研究解説

AIエージェントの永続的な「メモリ」がプロンプトインジェクションの新たな攻撃面になると指摘する査読前研究を情シス向けに解説。外部からの上書きは難しい一方、一度埋め込まれた命令はセッションを越えて悪用されうる点を整理します。
研究・論文

サンドボックス回避の新手口、マルウェアはAI環境の有無を見る

マルウェア解析サンドボックスを回避する新しい手口を示した査読前研究を紹介します。マルウェアが「AI開発環境らしさ」の有無を調べて解析環境を見破る仕組みと、検知に頼りきる運用の落とし穴、情シスが取るべき多層防御の考え方を実務目線で解説します。
研究・論文

AI生成コードの脆弱性は連鎖する 査読前研究の指摘

LLMが生成したコードの脆弱性は単独では現れず、複数種類が「連鎖」して同時発生する――3,700件を分析した査読前研究が示した傾向と、AIコーディング支援を導入する情シスが押さえるべきレビューの勘所を解説します。
研究・論文

AI音声フィッシング、16.5%が応じた|研究解説

AI音声で自動化した電話詐欺(ビッシング)に、米国の被験者4,100人中16.5%が応じたとする研究が公開されました。脅威の本質は「AIの話術」ではなく「人件費が消えたこと」です。情シスへの影響を解説します。
研究・論文

LLMジェイルブレイク、日本語は英語より通りやすい

LLMの安全対策は言語をまたぐと崩れます。18言語を検証した査読前研究「Minionese」は、英語で拒否される有害要求が日本語やローマ字表記だと通ってしまう実態を示しました。社内AI活用の前提が変わります。
研究・論文

LLMのリバースエンジニアリング能力は測れるか

LLMがマルウェア解析やリバースエンジニアリングに使われ始めた一方、その実力を公平に測るのは難しい。査読前論文REFORGEを手掛かりに、能力測定の落とし穴と情シスが誇大主張に振り回されないための視点を整理します。
研究・論文

AIコード補完へのバックドア攻撃と事後追跡の新研究

AIコード補完に潜むバックドア(学習データ汚染)を、被害が出た後から原因の汚染データへ遡って特定する査読前研究「CodeTracer」を、情シス実務者の視点で読み解きます。
研究・論文

LLMベースのIDSは安全か|敵対的サンプル攻撃の研究

LLMを侵入検知に使う動きが広がるなか、限られた改変だけで検知を回避できると示す査読前研究をご紹介します。情シスがAI型検知製品を評価する際の留意点を、公的指針とあわせて実務目線で整理します。
研究・論文

AIエージェント型クローラーへの対抗策を探る研究

LLMエージェント型クローラーは従来のアクセス制御を素通りします。人間には読めるまま、AIが要約すると情報が壊れる保護手法を提案した査読前の研究を、情シスの視点で読み解きます。
研究・論文

AIエージェントのセキュリティ―専門家30人が挙げた4大課題

自律的に動く「AIエージェント」の普及で、従来のセキュリティ・プライバシーの前提が崩れつつあります。約30名の専門家がまとめた査読前の論文が示す4つの大きな課題を、情シス実務者の視点で噛み砕いて解説します。