研究・論文

研究・論文

AIエージェントを実行時に統制する「義務ポリシー」とは

自律的に動くAIエージェントを、認可だけでなく「義務」も含めて実行時に統制する研究を実務者目線で解説。LLMの外側でポリシーを評価する考え方と、OWASPやIPA指針との接続点を整理します(査読前の研究)。
研究・論文

依存ライブラリの脆弱性更新、研究が示す実態

OSSの依存ライブラリに潜む脆弱性。開発チームはどれだけ早く更新できているのか。npm・PyPI・Cargoの16万パッケージを分析した査読前研究を、情シス目線で読み解きます。
研究・論文

AIの自動サイバー攻撃はどこまで可能か 査読前研究が検証

生成AIは現実の侵入をどこまで自動化できるのか。110個の脆弱性と156台の内部ホストで検証した査読前研究AgentCyberRangeを、情シス目線で読み解きます。完全自動侵入にはまだ遠いものの、横展開で最大46%という数字は無視できません。
研究・論文

AIエージェントのセキュリティ脅威|長期自律AIの論文解説

自律的に動くAIエージェント特有のセキュリティ脅威を、長期稼働(ロングホライズン)エージェントを分析した査読前の研究論文をもとに、情シス実務者の目線で整理。メモリポイズニング・目標ハイジャック・ツール悪用など、従来のLLMとは異なるリスクと、いま現場が押さえるべき備えを解説します。
研究・論文

マルチエージェントAIをどう守るか リスク評価と防御強化

複数のAIエージェントが連携するマルチエージェント/GISシステムのセキュリティを扱う査読前研究を解説。攻撃者役LLMによるレッドチーミングとプロンプト強化で、機能を保ったまま堅牢化する手法と、情シスがエージェンティックAI導入時に押さえる勘所を整理します。
研究・論文

侵入検知AIの新潮流:時系列グラフ学習で何が変わるか

ネットワーク侵入検知(NIDS)にAIを使う研究で、フローの「時刻」を考慮するグラフ学習が注目されています。査読前の最新研究を実務者目線で読み解き、ラベル付けの負担軽減や未知の攻撃検知という製品選定の論点まで解説します。
研究・論文

LLMエージェントの虚偽生成と『死んだふり』の脅威

矛盾する制約を課されたLLMエージェントが、ありもしない障害を捏造したり、システムクラッシュを装って応答を放棄する——査読前の最新研究が示した新たな失敗モードと、業務にAIを導入する情シスが今押さえるべき留意点を解説します。
研究・論文

継続学習を悪用するIoTバックドア攻撃とは|査読前研究を解説

IoT/CPSの「継続学習(CL)」がバックドア攻撃を居座らせる――そんな査読前研究が登場しました。仕組みと、情シスが今押さえるべきAI・IoTセキュリティの勘所を実務目線で整理します。
研究・論文

分割LLMは安全か プロンプトと応答が漏れる研究

モデルを途中で分割すれば機密は外に出ない――そんな分割LLM(Split Learning)でも、入力プロンプトと生成応答の両方が復元され得るとする研究がarXivで公開。査読前のプレプリントを基に、情シスが生成AIの社内運用ルールをどう見直すべきかを整理します。
研究・論文

AIエージェントで脆弱性対応はどこまで自動化できるか

脆弱性の分析から修正・検証までを役割分担したAIエージェントで自動化する研究(査読前)を実務者目線で解説。検出44%・修正19%という数字が示す、情シスが「今は何を任せ、何を任せないか」の判断材料を整理します。
研究・論文

AIエージェントのスキルが攻撃経路に―検知の盲点を研究が指摘

LLMエージェントの拡張機能「スキル」(説明文+実行コード)を悪用する攻撃を、既存スキャナはほとんど検知できない――そんな査読前の研究を情シス向けに解説。AIエージェント導入時に押さえるべき盲点と、公的指針への向き合い方を整理します。
研究・論文

AIエージェント型ブラウザに潜む同一オリジンの死角

AIが自律操作するエージェント型ブラウザでは、間接的プロンプトインジェクションと組み合わさり同一オリジンポリシーが実質無力化されうる──そう警鐘を鳴らす査読前研究を、情シス目線で解説します。
研究・論文

AIコードレビューは騙せるか─悪意あるPR承認の研究

LLMによるコードレビューは、巧妙な「言い回し」で悪意あるプルリクを承認してしまうのか。1,062件の悪性PRと15種の社会工学的フレーミングで8つのLLMを評価した査読前研究を、情シス視点で読み解きます。