第20問
AI の普及に伴い、AI システムに対してさまざまな攻撃がなされるようになっ た。これらの攻撃に関する以下の文章の空欄Ａ～Ｃに入る用語の組み合わせとし て、最も適切なものを下記の解答群から選べ。 データポイズニング攻撃は、強いバイアス（偏り）を持ったデータを意図的に学習 させることで、機械学習モデル自体を汚染させ、推論結果を誤らせる攻撃である。 Ａ は、機械学習済みモデルへの入力データに、攻撃者の意図した結果を引 き起こすように計算されたノイズや微小な変化を含める攻撃である。そのため、 データポイズニング攻撃と同様に、機械学習モデルの推論結果を操作することがで きる。 Ｂ は、機械学習済みモデルへの入力データと推論結果である出力 データを分析することによって、当初の学習データを推測する攻撃である。 生成AI に対しては、特殊な指示を与えて、意図しない挙動を引き起こす Ｃ という攻撃がある。この攻撃により、生成AI は不適切な回答をしたり、 意図しない情報を開示してしまうことがある。
- ア Ａ：敵対的サンプル攻撃 Ｂ：ブルートフォース攻撃 Ｃ：プロンプト・インジェクション
- イ Ａ：敵対的サンプル攻撃 Ｂ：モデル反転攻撃 Ｃ：クロスサイト・スクリプティング
- ウ Ａ：敵対的サンプル攻撃 Ｂ：モデル反転攻撃 Ｃ：プロンプト・インジェクション
- エ Ａ：中間者攻撃 Ｂ：ブルートフォース攻撃 Ｃ：クロスサイト・スクリプティング
- オ Ａ：中間者攻撃 Ｂ：モデル反転攻撃 Ｃ：プロンプト・インジェクション
▼ 解答・解説を見る
正解：ウ
解答：ウ
AIシステムへの代表的な攻撃手法の名称を問う穴埋めです。
- Ａ＝敵対的サンプル攻撃：学習済みモデルへの入力に、意図した誤判定を引き起こす微小なノイズ・変化を加える攻撃です。中間者攻撃は通信経路への割り込みであり、ここでは不適切です。
- Ｂ＝モデル反転攻撃：入力データと出力（推論結果）を分析して元の学習データを推測する攻撃です。ブルートフォース攻撃は総当たりでパスワード等を破る手法で、本文の説明と異なります。
- Ｃ＝プロンプト・インジェクション：生成AIに特殊な指示を与え、意図しない挙動や情報開示を引き起こす攻撃です。クロスサイト・スクリプティング（XSS）はWebアプリの脆弱性を突く攻撃で、本文と異なります。
したがって Ａ：敵対的サンプル攻撃／Ｂ：モデル反転攻撃／Ｃ：プロンプト・インジェクション。よって ウ。