AIエージェント

研究・論文

AIエージェントの設計は外部から複製されうる|研究解説

社内AIエージェントの「ハーネス」(指示や連携の設計)は、外から対話するだけで復元されうる——arXivの査読前研究が示したリスクと、情シスが今のうちに整理しておくべき前提を解説します。
研究・論文

マルチエージェントAIの盲点|連結で崩れる安全性

個々のLLMが安全でも、複数のAIエージェントを連結すると安全性は崩れる——査読前研究「ChannelGuard」が指摘する多エージェント構成の盲点と、情シスが押さえるべき勘所を実務目線で解説します。
研究・論文

MCPサーバの脆弱性を実行証拠で検出|研究解説

LLMエージェントの外部連携基盤MCPの脆弱性を、疑わしい文字列ではなく実際の実行結果(証拠)で判定する検査手法FlowGuardの査読前研究を、情シス目線で解説します。
研究・論文

AIエージェントの「停止」は効くのか 承認ゲートの穴を検証

AIエージェント基盤の「承認ゲート」「キャンセル」「タイムアウト」は、止めたはずでも副作用が実行されることがある——査読前研究が6つの主要フレームワークで実効性の欠落を測定。情シスが押さえるべき論点を解説します。
研究・論文

AIエージェントの隠れた改ざんを構造監視で検知|研究解説

AIコーディングエージェントがタスク達成の裏で権限拡張やログ劣化を仕込むリスクを、訓練不要の「構造監視」で検知する査読前研究を解説。情シスがAI導入時に押さえるべき監視の勘所をまとめます。
研究・論文

AIエージェントのメモリが新たな攻撃面に 研究解説

AIエージェントの永続的な「メモリ」がプロンプトインジェクションの新たな攻撃面になると指摘する査読前研究を情シス向けに解説。外部からの上書きは難しい一方、一度埋め込まれた命令はセッションを越えて悪用されうる点を整理します。
研究・論文

認証情報の漏えいをAIエージェントで検出 研究解説

メールやチケット、インシデント記録に紛れ込んだ認証情報をLLMエージェントで検出し、その鍵が「どのシステムを開けるか」まで特定する査読前研究を、情シスの実務目線で読み解きます。
研究・論文

プロンプト注入を因果で防ぐ研究「ARGUS」

AIエージェントを狙う「文脈依存型」のプロンプトインジェクションを、行動の因果的な裏付けを検証して防ぐ研究「ARGUS」を情シス実務者向けに解説します。攻撃成功率28.8%→3.8%という結果と、その限界を整理します。
研究・論文

LLMエージェントを監査可能にする設計|研究解説

企業のLLMエージェントを「プロンプト頼み」から脱却させ、監査・再現・検証を可能にする設計手法「ハーネスエンジニアリング」を提案した査読前研究を、情シス視点で解説します。導入判断とガバナンスの勘所を整理しました。
研究・論文

AIエージェントの実行時防御「トークンフロー監査」とは

常時稼働するAIエージェントを狙う攻撃を、コンポーネント間で流れる自然言語トークンを実行前に監査して止める「Token-Flow Firewall」の査読前研究を、情シス実務者向けに噛み砕いて解説します。
研究・論文

AIエージェントを狙うプロンプトインジェクション対策研究

AIエージェントが読み込んだWebページの隠し命令に乗っ取られる「クロスサイト・プロンプトインジェクション」。この攻撃を機械的に封じ込める研究Prismata(査読前)を、情シス目線で解説します。
研究・論文

AIエージェントの範囲外実行を防ぐ研究「ScopeJudge」

セキュリティ業務を担うAIエージェントの「範囲外のツール実行」を、安価なLLMが実行前に検査して止める――そんな手法ScopeJudgeの査読前論文を、情シス実務者の視点で読み解きます。
研究・論文

AIエージェントのセキュリティ―専門家30人が挙げた4大課題

自律的に動く「AIエージェント」の普及で、従来のセキュリティ・プライバシーの前提が崩れつつあります。約30名の専門家がまとめた査読前の論文が示す4つの大きな課題を、情シス実務者の視点で噛み砕いて解説します。
研究・論文

AIエージェントの記憶汚染攻撃とは 研究論文を解説

長期記憶を持つLLMエージェントに悪意ある「記憶」を仕込む攻撃GhostWriterを、査読前の研究論文をもとに情シス向けに解説します。約98%の注入成功率という結果と、社内でAIエージェント導入を検討する際の注意点を整理します。
研究・論文

LLMでAPT攻撃を追跡する研究「Minos」を読む

APT攻撃の事後追跡をLLMの多エージェントで自動化する査読前研究「Minos」を、情シス実務者の視点で解説。何が新しく、SOC運用に何を意味し、どこに限界があるかを整理します。