AIエージェント

研究・論文

AIエージェントを実行時に統制する「義務ポリシー」とは

自律的に動くAIエージェントを、認可だけでなく「義務」も含めて実行時に統制する研究を実務者目線で解説。LLMの外側でポリシーを評価する考え方と、OWASPやIPA指針との接続点を整理します(査読前の研究)。
研究・論文

AIエージェントのセキュリティ脅威|長期自律AIの論文解説

自律的に動くAIエージェント特有のセキュリティ脅威を、長期稼働(ロングホライズン)エージェントを分析した査読前の研究論文をもとに、情シス実務者の目線で整理。メモリポイズニング・目標ハイジャック・ツール悪用など、従来のLLMとは異なるリスクと、いま現場が押さえるべき備えを解説します。
研究・論文

マルチエージェントAIをどう守るか リスク評価と防御強化

複数のAIエージェントが連携するマルチエージェント/GISシステムのセキュリティを扱う査読前研究を解説。攻撃者役LLMによるレッドチーミングとプロンプト強化で、機能を保ったまま堅牢化する手法と、情シスがエージェンティックAI導入時に押さえる勘所を整理します。
用語解説

分割攻撃とは|AIエージェントの安全を破る新手口

有害な指示を「無害な小タスク」に分割すると、AIエージェントの安全機構をすり抜けてしまう。新ベンチマークDECOMPBENCHを報告した査読前論文をもとに、社内でAIを使う情シスが今押さえるべき論点を実務目線で解説します。
研究・論文

AIエージェントのスキルが攻撃経路に―検知の盲点を研究が指摘

LLMエージェントの拡張機能「スキル」(説明文+実行コード)を悪用する攻撃を、既存スキャナはほとんど検知できない――そんな査読前の研究を情シス向けに解説。AIエージェント導入時に押さえるべき盲点と、公的指針への向き合い方を整理します。