LLM

研究・論文

SOCのアラート判定AI、推論で精度向上|研究解説

SOCのアラート判定をLLMに「理由から推論させる」と精度が上がる一方、AIの自信の申告が壊れるという研究(査読前)を解説。実データで正答82.6%。少人数運用の情シスが読むべき示唆と限界を整理します。
研究・論文

LLMガードレールの限界:安全性トリレンマ論文を読む

LLMの安全対策を「プロンプトと会話履歴」だけで判断する仕組みは、攻撃者に同じ文脈を模倣されると原理的に破られる。査読前の研究が示した「安全性トリレンマ」を、社内での生成AI利用という実務の視点から読み解きます。
研究・論文

AIエージェントの設計は外部から複製されうる|研究解説

社内AIエージェントの「ハーネス」(指示や連携の設計)は、外から対話するだけで復元されうる——arXivの査読前研究が示したリスクと、情シスが今のうちに整理しておくべき前提を解説します。
脆弱性・脅威情報

SGLangに未修正のRCE脆弱性、社内LLM基盤に警戒

LLM推論基盤SGLangに認証不要のRCE脆弱性CVE-2026-14890が公表され、修正版は未確認です。該当条件、pickle起因のRCEが3度目である事実、スコア駆動のトリアージが取りこぼす理由と緩和策を解説します。
研究・論文

RAGの情報漏えいは質問で変わる|査読前の新研究

社内文書を使うRAGの情報漏えいリスクは「どの文書か」ではなく「どんな質問か」で決まる——2026年7月公開の査読前研究(PA-HDP)を、RAGを導入・検討する情シス向けに噛み砕いて解説します。
研究・論文

AIコーディング補助を狙う「設定汚染」攻撃

READMEやrequirementsを書き換えるだけで、AIコーディングエージェントに不正なパッケージを入れさせられる——査読前研究がその危うさを実証。情シスが今から備えるべき論点を実務目線で解説します。
研究・論文

AIエージェントの「停止」は効くのか 承認ゲートの穴を検証

AIエージェント基盤の「承認ゲート」「キャンセル」「タイムアウト」は、止めたはずでも副作用が実行されることがある——査読前研究が6つの主要フレームワークで実効性の欠落を測定。情シスが押さえるべき論点を解説します。
研究・論文

LLMの回答は自らの価値観で歪む|査読前研究を解説

LLMは自分の価値観に沿って回答を静かに歪める――「バリューリーク」を示した査読前研究(Betleyら, 2026)を情シス視点で解説。業務でAIの答えを鵜呑みにする危うさと、社内での向き合い方を整理します。
研究・論文

SOCのログ分析AIを狙うプロンプトインジェクション

SOCのログ分析にLLMを使うと、攻撃者がログ自体に仕込んだ指示でAIを誤作動させられる——という査読前研究を情シス向けに解説。攻撃の仕組み、実験結果、そして「防御を重ねても残るリスク」への向き合い方を整理します。
研究・論文

LLMで攻撃を全自動再現 敵対的エミュレーション研究

MITRE ATT&CKに沿った脅威インテリジェンスから、攻撃再現(敵対的エミュレーション)のプレイブック生成・実行・失敗回復までをLLMで全自動化する査読前研究を、情シス実務者向けに解説します。防御側にとっての意味と限界、悪用リスクまで整理しました。
研究・論文

AI生成コードの脆弱性は連鎖する 査読前研究の指摘

LLMが生成したコードの脆弱性は単独では現れず、複数種類が「連鎖」して同時発生する――3,700件を分析した査読前研究が示した傾向と、AIコーディング支援を導入する情シスが押さえるべきレビューの勘所を解説します。
研究・論文

パスワード再設定をLLMで安全に|査読前研究を解説

強制的なパスワード変更で、利用者は元のパスワードの安易な派生形を作りがち。LLMで「意味は近いが字面は無関係」な候補を提示するMindReaderの査読前研究を、情シスの実務目線で読み解きます。
研究・論文

LLMジェイルブレイク、日本語は英語より通りやすい

LLMの安全対策は言語をまたぐと崩れます。18言語を検証した査読前研究「Minionese」は、英語で拒否される有害要求が日本語やローマ字表記だと通ってしまう実態を示しました。社内AI活用の前提が変わります。
研究・論文

LLMエージェントを監査可能にする設計|研究解説

企業のLLMエージェントを「プロンプト頼み」から脱却させ、監査・再現・検証を可能にする設計手法「ハーネスエンジニアリング」を提案した査読前研究を、情シス視点で解説します。導入判断とガバナンスの勘所を整理しました。
研究・論文

LLMサプライチェーンの脆弱性529件を分析|研究を解説

LLM基盤を支えるOSSの脆弱性529件を実証分析した研究を解説。公開LLMサービスの45.6%が悪用可能な脆弱性の影響下に。被害が偏るOllama・Open-WebUI・Difyの実態と、情シスがまず取り組むべき棚卸しの勘所を実務目線で整理します。