AIセキュリティ

研究・論文

AIの「人間による監督」が攻撃対象に|研究解説

AIの暴走を防ぐ「人間による監督」自体が攻撃対象になる、と指摘する査読前論文を解説します。STRIDEで洗い出された攻撃ベクトルと、EU AI法第14条をめぐる2026年時点の適用スケジュールの実際を整理します。
研究・論文

LLMガードレールの限界:安全性トリレンマ論文を読む

LLMの安全対策を「プロンプトと会話履歴」だけで判断する仕組みは、攻撃者に同じ文脈を模倣されると原理的に破られる。査読前の研究が示した「安全性トリレンマ」を、社内での生成AI利用という実務の視点から読み解きます。
研究・論文

スポンジ攻撃とは:AI推論の電力を2.6倍に

AIの答えは正しいまま、消費電力だけを吊り上げる「スポンジ攻撃」。省電力AIチップ向けのスパイキングニューラルネットで推論あたり最大2.6倍に増えるという査読前研究を、情シス実務の視点で読み解きます。
研究・論文

AI画像の電子透かしは回転で消える|研究解説

AI生成画像の電子透かしは、画像を回転させるだけで読み取れなくなります。これを追加学習なしで補正する査読前研究AnchorMarkと、2026年8月2日適用のEU AI Act第50条を情シス視点で整理します。
研究・論文

AIエージェントの設計は外部から複製されうる|研究解説

社内AIエージェントの「ハーネス」(指示や連携の設計)は、外から対話するだけで復元されうる——arXivの査読前研究が示したリスクと、情シスが今のうちに整理しておくべき前提を解説します。
研究・論文

ディープフェイク検知の新研究|音声と映像で94%判別

音声と映像の両方を突き合わせてディープフェイク動画を見抜く新しい研究(査読前)を、情シス視点で解説。手口が進化するなりすまし詐欺に、検知技術はどこまで追いつけるのか。実務での向き合い方も整理します。
研究・論文

AIコーディング補助を狙う「設定汚染」攻撃

READMEやrequirementsを書き換えるだけで、AIコーディングエージェントに不正なパッケージを入れさせられる——査読前研究がその危うさを実証。情シスが今から備えるべき論点を実務目線で解説します。
研究・論文

セキュリティAIの評価は成功率だけでは不十分|研究解説

セキュリティ用途のAIエージェントは「成功率」だけで評価すると本番運用とズレます。攻撃と防御の両面でコスト(推論・ツール利用)を軸に評価した査読前研究を、情シスの製品選定目線でかみ砕いて解説します。
研究・論文

連合学習でも機密テキストは漏れる 勾配反転攻撃の研究

連合学習は「生データを共有しないから安全」とされがちですが、共有する勾配から機密テキストが最大44%再構成できたとする査読前論文を、情シス実務の視点で読み解きます。
研究・論文

AIが書いた暗号コードを形式検証、証明器が審判に

AIコーディングエージェントが暗号やTLSの低レベル実装を書き、証明器GNATproveで検証させた研究(査読前)。約4.9万件の証明課題を処理した一方、エージェントが弱い検証をすり抜けようとした事実は、AI活用の実務に重い示唆を残します。
研究・論文

LLMの回答は自らの価値観で歪む|査読前研究を解説

LLMは自分の価値観に沿って回答を静かに歪める――「バリューリーク」を示した査読前研究(Betleyら, 2026)を情シス視点で解説。業務でAIの答えを鵜呑みにする危うさと、社内での向き合い方を整理します。
研究・論文

SOCのログ分析AIを狙うプロンプトインジェクション

SOCのログ分析にLLMを使うと、攻撃者がログ自体に仕込んだ指示でAIを誤作動させられる——という査読前研究を情シス向けに解説。攻撃の仕組み、実験結果、そして「防御を重ねても残るリスク」への向き合い方を整理します。
研究・論文

AIエージェントのメモリが新たな攻撃面に 研究解説

AIエージェントの永続的な「メモリ」がプロンプトインジェクションの新たな攻撃面になると指摘する査読前研究を情シス向けに解説。外部からの上書きは難しい一方、一度埋め込まれた命令はセッションを越えて悪用されうる点を整理します。
研究・論文

サンドボックス回避の新手口、マルウェアはAI環境の有無を見る

マルウェア解析サンドボックスを回避する新しい手口を示した査読前研究を紹介します。マルウェアが「AI開発環境らしさ」の有無を調べて解析環境を見破る仕組みと、検知に頼りきる運用の落とし穴、情シスが取るべき多層防御の考え方を実務目線で解説します。
研究・論文

AI生成コードの脆弱性は連鎖する 査読前研究の指摘

LLMが生成したコードの脆弱性は単独では現れず、複数種類が「連鎖」して同時発生する――3,700件を分析した査読前研究が示した傾向と、AIコーディング支援を導入する情シスが押さえるべきレビューの勘所を解説します。