メモリポイズニング

研究・論文

AIエージェントのメモリ干渉|記憶が更新されない罠

AIエージェントの長期記憶は、新しい情報を入れても上書きされないことがある。arXivの査読前論文が示した「メモリ干渉」の構造と、社内AI運用で情シスが備えるべき点を解説します。
研究・論文

AIエージェントのセキュリティ脅威|長期自律AIの論文解説

自律的に動くAIエージェント特有のセキュリティ脅威を、長期稼働(ロングホライズン)エージェントを分析した査読前の研究論文をもとに、情シス実務者の目線で整理。メモリポイズニング・目標ハイジャック・ツール悪用など、従来のLLMとは異なるリスクと、いま現場が押さえるべき備えを解説します。