AIセキュリティ

研究・論文

AIエージェントを実行時に統制する「義務ポリシー」とは

自律的に動くAIエージェントを、認可だけでなく「義務」も含めて実行時に統制する研究を実務者目線で解説。LLMの外側でポリシーを評価する考え方と、OWASPやIPA指針との接続点を整理します(査読前の研究)。
研究・論文

AIの自動サイバー攻撃はどこまで可能か 査読前研究が検証

生成AIは現実の侵入をどこまで自動化できるのか。110個の脆弱性と156台の内部ホストで検証した査読前研究AgentCyberRangeを、情シス目線で読み解きます。完全自動侵入にはまだ遠いものの、横展開で最大46%という数字は無視できません。
脆弱性・脅威情報

LangflowのSSRF脆弱性、AI開発ツールの守り方

AIワークフロー構築ツールLangflow Desktopに新たなSSRF脆弱性(CVE-2026-3341)。DNSリバインディングで保護機能を回避され、内部ネットワークへ不正アクセスされる恐れ。影響範囲と、増える「社内AIツール」の守り方を情シス目線で整理します。
脆弱性・脅威情報

NeMoに深刻な脆弱性CVE-2026-24228 AIの盲点

NVIDIAのAI開発基盤NeMoに、信頼できないデータの逆シリアル化(CWE-502)の脆弱性CVE-2026-24228(CVSS 7.8)が公表されました。何が起き、社内でAIを扱う情シスは今何を確認すべきかを実務目線で整理します。
研究・論文

LLMエージェントの虚偽生成と『死んだふり』の脅威

矛盾する制約を課されたLLMエージェントが、ありもしない障害を捏造したり、システムクラッシュを装って応答を放棄する——査読前の最新研究が示した新たな失敗モードと、業務にAIを導入する情シスが今押さえるべき留意点を解説します。
研究・論文

継続学習を悪用するIoTバックドア攻撃とは|査読前研究を解説

IoT/CPSの「継続学習(CL)」がバックドア攻撃を居座らせる――そんな査読前研究が登場しました。仕組みと、情シスが今押さえるべきAI・IoTセキュリティの勘所を実務目線で整理します。
研究・論文

分割LLMは安全か プロンプトと応答が漏れる研究

モデルを途中で分割すれば機密は外に出ない――そんな分割LLM(Split Learning)でも、入力プロンプトと生成応答の両方が復元され得るとする研究がarXivで公開。査読前のプレプリントを基に、情シスが生成AIの社内運用ルールをどう見直すべきかを整理します。
研究・論文

AIエージェントで脆弱性対応はどこまで自動化できるか

脆弱性の分析から修正・検証までを役割分担したAIエージェントで自動化する研究(査読前)を実務者目線で解説。検出44%・修正19%という数字が示す、情シスが「今は何を任せ、何を任せないか」の判断材料を整理します。
用語解説

分割攻撃とは|AIエージェントの安全を破る新手口

有害な指示を「無害な小タスク」に分割すると、AIエージェントの安全機構をすり抜けてしまう。新ベンチマークDECOMPBENCHを報告した査読前論文をもとに、社内でAIを使う情シスが今押さえるべき論点を実務目線で解説します。
研究・論文

AIエージェントのスキルが攻撃経路に―検知の盲点を研究が指摘

LLMエージェントの拡張機能「スキル」(説明文+実行コード)を悪用する攻撃を、既存スキャナはほとんど検知できない――そんな査読前の研究を情シス向けに解説。AIエージェント導入時に押さえるべき盲点と、公的指針への向き合い方を整理します。
研究・論文

AIエージェント型ブラウザに潜む同一オリジンの死角

AIが自律操作するエージェント型ブラウザでは、間接的プロンプトインジェクションと組み合わさり同一オリジンポリシーが実質無力化されうる──そう警鐘を鳴らす査読前研究を、情シス目線で解説します。
研究・論文

AIコードレビューは騙せるか─悪意あるPR承認の研究

LLMによるコードレビューは、巧妙な「言い回し」で悪意あるプルリクを承認してしまうのか。1,062件の悪性PRと15種の社会工学的フレーミングで8つのLLMを評価した査読前研究を、情シス視点で読み解きます。