AIエージェント

研究・論文

スマホAIエージェントの新攻撃面 VLMを騙す7つの手口

スマホ画面を見て自律操作するVLMベースのAIエージェントに、権限なしで乗っ取り・任意コマンド実行を許す新たな攻撃面があると指摘した査読前論文を、情シス実務者向けに噛み砕いて解説します。
研究・論文

AIエージェントのセキュリティ 研究が示す4つの弱点

常時稼働するAIエージェントのSkillやPluginが新たな攻撃面になることを示した査読前の研究を、情シス実務者向けに解説。悪意あるPluginは検証で成功率100%という結果も。4つの攻撃面と、IPAの公的指針を踏まえた対策の考え方を整理します。
研究・論文

HauntAttackが示す推論AI(LRM)の脆弱性と企業対策

推論特化型AI(LRM)を狙う攻撃「HauntAttack」が公開。安全機能を持つ11モデルで平均70%の攻撃成功率を記録。社内AIツール導入を進める情シスが押さえるべきリスクと対応策を整理した(査読前研究)。
研究・論文

AIエージェントが業務を担う時代のポリシー強制技術とは

LLMエージェントが社内ファイルやAPIを自律操作する今、動作ポリシーを技術的に強制する仕組みが求められている。ソウル国立大の研究VIGILは実行時ポリシー強制で95%超の違反検出率を実現(査読前プレプリント)。情シスが今確認すべき視点を解説する。
研究・論文

AIエージェントを実行時に統制する「義務ポリシー」とは

自律的に動くAIエージェントを、認可だけでなく「義務」も含めて実行時に統制する研究を実務者目線で解説。LLMの外側でポリシーを評価する考え方と、OWASPやIPA指針との接続点を整理します(査読前の研究)。
研究・論文

AIエージェントのセキュリティ脅威|長期自律AIの論文解説

自律的に動くAIエージェント特有のセキュリティ脅威を、長期稼働(ロングホライズン)エージェントを分析した査読前の研究論文をもとに、情シス実務者の目線で整理。メモリポイズニング・目標ハイジャック・ツール悪用など、従来のLLMとは異なるリスクと、いま現場が押さえるべき備えを解説します。
研究・論文

マルチエージェントAIをどう守るか リスク評価と防御強化

複数のAIエージェントが連携するマルチエージェント/GISシステムのセキュリティを扱う査読前研究を解説。攻撃者役LLMによるレッドチーミングとプロンプト強化で、機能を保ったまま堅牢化する手法と、情シスがエージェンティックAI導入時に押さえる勘所を整理します。
用語解説

分割攻撃とは|AIエージェントの安全を破る新手口

有害な指示を「無害な小タスク」に分割すると、AIエージェントの安全機構をすり抜けてしまう。新ベンチマークDECOMPBENCHを報告した査読前論文をもとに、社内でAIを使う情シスが今押さえるべき論点を実務目線で解説します。
研究・論文

AIエージェントのスキルが攻撃経路に―検知の盲点を研究が指摘

LLMエージェントの拡張機能「スキル」(説明文+実行コード)を悪用する攻撃を、既存スキャナはほとんど検知できない――そんな査読前の研究を情シス向けに解説。AIエージェント導入時に押さえるべき盲点と、公的指針への向き合い方を整理します。