午後問題には出題されていない分野ではありますが、気になったので紹介します。
午前問題の過去問で１問ぐらいあったような気がします。
マイクロソフト セキュリティ レスポンス センター（MSRC）が、急速に進化するAI技術のトレンドに合わせて評価基準を見直しました。このアップデートによって、外部の研究者やマイクロソフトの専門家たちが、脆弱性の議論をより具体的に行えるようになると思います。
California Consumer Privacy Act (CCPA) Opt-Out Icon
AIシステムのために脆弱性における深刻度分類を更新しました。
ざっくりですが・・・
推論操作 - これはAIモデルがどのように反応するかを操る脆弱性を指します。例えば、意図的な命令を入力してモデルのタスクを変更したり、操作された画像を用いてモデルの反応をコントロールすることなどがこれに該当します。
モデル操作 - モデルのトレーニング段階で生じる脆弱性を指します。例として、トレーニングデータやモデルのアーキテクチャを改変して、モデルが意図しない動作をするように仕向けることが考えられます。
推論情報の開示 - AIモデルの学習データやそのアーキテクチャに関する詳細を推定することができる脆弱性です。
ということのようです。ざっくりですが・・・。
AIの脆弱性って具体的には？
「AIの脆弱性って具体的には？」と疑問に思う方も多いと思います。
例えば、オンラインショッピングサイトでの商品推薦が、ユーザーに不正確な情報を提供されて、意図しない商品を購入することになるかもしれません。
また、ユーザーが入力した情報やプロンプトを搾取され、例えば、音声アシスタントやチャットボットを使用する際、私たちが提供する情報が第三者に盗まれる可能性があります。
これにより、プライバシーの侵害や個人情報の流出が発生したり・・・
企業が大量のデータと時間をかけて開発したモデルが、外部の攻撃者によって盗まれることで、企業の競争力が低下するだけでなく、そのモデルを悪用されちゃったり・・・
自動運転車やスマートホームなど、AI技術が組み込まれた製品の脆弱性が悪用され、事故がおきたり・・・。
色々考えると、ちょっと怖いですね。
