クイズの説明
Step 1「AI安全性の全体像を理解しよう」で学んだ内容の理解度をチェックします。
- 全10問（4択）
- 合格ライン: 80%（8問正解）
- 不合格の場合は該当セクションを復習してから再挑戦してください
Q1. プロンプトインジェクションの「間接攻撃」として正しい説明はどれですか？
- A) ユーザーが直接「以前の指示を無視して」と入力する攻撃
- B) AIが読み込む外部データに悪意ある指示を埋め込む攻撃
- C) AIモデルのパラメータを直接改ざんする攻撃
- D) APIキーを窃取してAIシステムに不正アクセスする攻撃
答えを見る
正解: B
間接プロンプトインジェクションは、RAGシステムが取得するWebページや文書に悪意ある指示を埋め込む攻撃です。Aは直接プロンプトインジェクションの説明です。
Q2. 「サンドイッチ防御」の仕組みとして正しいものはどれですか？
- A) 入力を3つのAIモデルで並列処理して多数決を取る
- B) ユーザー入力の前後にシステムプロンプトを配置して、ルール遵守を強制する
- C) 入力データを暗号化してAIに送信し、復号化した結果を返す
- D) 3層のファイアウォールでAIシステムを保護する
答えを見る
正解: B
サンドイッチ防御は、ユーザー入力を前後のシステムプロンプトで「挟む」ことで、攻撃的な入力があっても元のルールを維持する防御手法です。
Q3. ハルシネーション対策としてのGrounding（根拠付け）の説明として正しいものはどれですか？
- A) AIモデルを大量のデータで再学習させて正確性を向上させる
- B) RAGで取得したコンテキスト情報のみに基づいて回答を生成させる
- C) AIの出力をすべて人間が確認してから返す
- D) 温度パラメータを0にしてランダム性を完全に排除する
答えを見る
正解: B
Groundingは、RAGで取得した信頼性の高いコンテキスト情報のみに基づいて回答を生成させ、コンテキストにない情報は「確認できません」と回答させる手法です。
Q4. 情報漏洩の経路として「コンテキスト漏洩」に該当するものはどれですか？
- A) 学習データに含まれた機密情報がAI回答に再現される
- B) RAGで取得した社内文書の機密情報がAI回答に含まれる
- C) プロンプトインジェクションでシステムプロンプトが漏洩する
- D) ファインチューニングデータの個人情報が再現される
答えを見る
正解: B
コンテキスト漏洩は、RAGシステムが検索・取得した社内文書（HR情報、給与データ等）の機密情報が、AIの回答に含まれてしまうケースです。
Q5. NIST AI RMFの4つのコア機能として正しい組み合わせはどれですか？
- A) 計画、実行、確認、改善
- B) 統制（GOVERN）、マッピング（MAP）、測定（MEASURE）、管理（MANAGE）
- C) 識別、防御、検知、対応
- D) 設計、開発、テスト、運用
答えを見る
正解: B
NIST AI RMFは、GOVERN（統制）、MAP（マッピング）、MEASURE（測定）、MANAGE（管理）の4つのコア機能で構成されています。
Q6. リスク評価で「影響度: 致命的」「発生可能性: 中」の場合、リスクレベルはどれですか？
- A) 低
- B) 中
- C) 高
- D) 極高
答えを見る
正解: D
リスク評価マトリクスにおいて、影響度が「致命的」で発生可能性が「中」の場合、リスクレベルは「極高」と判定されます。致命的な影響が想定されるリスクには優先的な対策が必要です。
Q7. EU AI Actにおいて「ハイリスク」に分類されるAIシステムはどれですか？
- A) スパムフィルタ
- B) ゲームAI
- C) 採用選考に使用するAI
- D) チャットボット
答えを見る
正解: C
EU AI Actでは、採用選考、信用スコアリング、医療AIなど、人の権利や安全に重大な影響を与えるAIシステムを「ハイリスク」に分類し、厳格な要件を課しています。
Q8. リスク対応の4戦略のうち「移転」に該当するものはどれですか？
- A) リスクの高い用途でのAI利用を中止する
- B) 技術的な対策を実装してリスクを低減する
- C) AI損害賠償保険に加入して責任を分散する
- D) 低リスクとして許容範囲内で管理する
答えを見る
正解: C
リスク移転は、保険やSLA（サービスレベル合意）等を活用して、リスクが顕在化した際の責任や損害を第三者と分散する戦略です。Aは回避、Bは軽減、Dは受容です。
Q9. PII検出において「ブロック（入力拒否）」で対応すべき情報はどれですか？
- A) メールアドレス
- B) 電話番号
- C) クレジットカード番号
- D) 郵便番号
答えを見る
正解: C
クレジットカード番号やマイナンバーなど、漏洩時の被害が特に大きい情報は、マスキングではなくブロック（入力拒否）で対応すべきです。メールアドレスや電話番号はマスキングで対応することが一般的です。
Q10. 多層防御のアプローチにおいて、正しい説明はどれですか？
- A) 1つの強力な防御策があれば十分である
- B) 入力層・プロンプト層・モデル層・出力層・監視層の複数レイヤーで防御する
- C) 防御は出力層のみに集中させるべきである
- D) 防御策は多いほどレイテンシが増すため、1つに絞るべきである
答えを見る
正解: B
完璧な単一の防御策は存在しないため、入力層（パターンマッチング）、プロンプト層（システムプロンプト強化）、モデル層（ファインチューニング）、出力層（出力フィルタリング）、監視層（ログ分析）の複数レイヤーで防御する多層防御が重要です。
結果
8問以上正解の場合
合格です。Step 1「AI安全性の全体像を理解しよう」を完了しました。 次はStep 2「Guardrailsとコンテンツフィルタリング」に進みましょう。
7問以下の場合
もう少し復習が必要です。
| 問題 | 復習セクション |
|---|---|
| Q1-Q2 | step1_2 プロンプトインジェクション |
| Q3-Q4 | step1_3 ハルシネーションと情報漏洩 |
| Q5-Q8 | step1_4 AIリスクフレームワーク |
| Q9-Q10 | step1_2, step1_3 多層防御 |
推定所要時間: 15分