研究・論文 AI音声フィッシング、16.5%が応じた｜研究解説
AI音声で自動化した電話詐欺（ビッシング）に、米国の被験者4,100人中16.5%が応じたとする研究が公開されました。脅威の本質は「AIの話術」ではなく「人件費が消えたこと」です。情シスへの影響を解説します。
AIセキュリティ
研究・論文 
研究・論文 LLMジェイルブレイク、日本語は英語より通りやすい
LLMの安全対策は言語をまたぐと崩れます。18言語を検証した査読前研究「Minionese」は、英語で拒否される有害要求が日本語やローマ字表記だと通ってしまう実態を示しました。社内AI活用の前提が変わります。
研究・論文 LLMのリバースエンジニアリング能力は測れるか
LLMがマルウェア解析やリバースエンジニアリングに使われ始めた一方、その実力を公平に測るのは難しい。査読前論文REFORGEを手掛かりに、能力測定の落とし穴と情シスが誇大主張に振り回されないための視点を整理します。
研究・論文 AIコード補完へのバックドア攻撃と事後追跡の新研究
AIコード補完に潜むバックドア（学習データ汚染）を、被害が出た後から原因の汚染データへ遡って特定する査読前研究「CodeTracer」を、情シス実務者の視点で読み解きます。
研究・論文 LLMベースのIDSは安全か｜敵対的サンプル攻撃の研究
LLMを侵入検知に使う動きが広がるなか、限られた改変だけで検知を回避できると示す査読前研究をご紹介します。情シスがAI型検知製品を評価する際の留意点を、公的指針とあわせて実務目線で整理します。
研究・論文 AIエージェント型クローラーへの対抗策を探る研究
LLMエージェント型クローラーは従来のアクセス制御を素通りします。人間には読めるまま、AIが要約すると情報が壊れる保護手法を提案した査読前の研究を、情シスの視点で読み解きます。
研究・論文 AIエージェントのセキュリティ―専門家30人が挙げた4大課題
自律的に動く「AIエージェント」の普及で、従来のセキュリティ・プライバシーの前提が崩れつつあります。約30名の専門家がまとめた査読前の論文が示す4つの大きな課題を、情シス実務者の視点で噛み砕いて解説します。
研究・論文 AIモデルのバックドア攻撃と『吸収』防御を探る研究
外部に訓練を委託したAIモデルに仕込まれるバックドア。その脅威と、正当な更新で悪意を打ち消す「吸収」防御を提案した査読前研究を、情シスの実務目線で読み解きます。
研究・論文 AIエージェントの記憶汚染攻撃とは 研究論文を解説
長期記憶を持つLLMエージェントに悪意ある「記憶」を仕込む攻撃GhostWriterを、査読前の研究論文をもとに情シス向けに解説します。約98%の注入成功率という結果と、社内でAIエージェント導入を検討する際の注意点を整理します。
研究・論文 RAGポイズニングとは？AIエージェントを乗っ取る攻撃
社内のAI検索やエージェントで使われるRAGを、外部に置いた文書だけで乗っ取る攻撃手法「KidnapRAG」の査読前研究を、情シス実務者向けに解説します。仕組み・実務への影響・今すぐ押さえるべき公的指針をまとめました。
研究・論文 RAGを狙う「埋め込み推論攻撃」とは―査読前研究
社内RAGの「埋め込みモデル」が、返ってくる文書を観察するだけで外部から特定される――そんな攻撃手法を示した査読前研究を、情シス実務者向けに噛み砕いて解説します。偵察リスクとしての意味と、現実的な緩和策を整理しました。
研究・論文 LLMの多段ジェイルブレイク対策『認知的ファイアウォール』
1通ずつ見れば無害な会話を積み重ねてLLMから有害出力を引き出す「多段ジェイルブレイク」に、会話全体を監視する多層ゲート型の防御を提案した査読前研究をarXivが公開。情シス向けに要点と実務への示唆を解説します。
研究・論文 スローダウン攻撃とは：推論AIを狙う新たな脅威
推論するAIをわざと「考えすぎ」に陥らせ、応答を極端に遅らせるスローダウン攻撃。査読前の新研究では、現実世界に置いた文字だけで最大約7倍の遅延が起きました。情シスが知っておくべき新しい可用性リスクを解説します。
研究・論文 AIエージェントのセキュリティ 研究が示す4つの弱点
常時稼働するAIエージェントのSkillやPluginが新たな攻撃面になることを示した査読前の研究を、情シス実務者向けに解説。悪意あるPluginは検証で成功率100%という結果も。4つの攻撃面と、IPAの公的指針を踏まえた対策の考え方を整理します。
研究・論文 プロンプトインジェクション対策の隠れた代償
LLMへのプロンプトインジェクション対策は「安全性を上げるほど翻訳や文書編集の正確さが落ちる」という二律背反を抱える。査読前の研究論文SecFidが示した知見と、生成AIを社内導入する情シスが押さえるべき評価の視点を実務目線で解説します。