クイズの説明
Step 3「AIセキュリティ対策を実装しよう」で学んだ内容の理解度を確認します。全5問、80%（4問）以上正解で合格です。
問題
Q1. OWASP Top 10 for LLM Applicationsにおいて、「プロンプトインジェクション」が最も高いリスクとされている理由はどれですか？
- A) 攻撃の実行に高度な技術スキルが必要なため、検出が困難だから
- B) LLMでは入力が「データ」であると同時に「命令」でもあり、完全な分離が原理的に困難だから
- C) プロンプトインジェクションを防ぐツールが存在しないから
- D) プロンプトインジェクションは必ずシステム全体の停止を引き起こすから
答えを見る
正解: B
プロンプトインジェクションが最大の脅威とされるのは、LLMにおいて入力テキストが「データ」と「命令」の両方の性質を持ち、SQLインジェクションのようにパラメータ化クエリで分離することが原理的に困難なためです。高度な技術スキルは不要で、自然言語で攻撃できる点も脅威を高めています。防御ツールは存在しますが完全な防御は難しく、必ずシステム停止を引き起こすわけではありません。
Q2. プロンプトインジェクション対策として、エンタープライズAIシステムで採用すべきアプローチはどれですか？
- A) 入力バリデーションを完璧に実装すれば、他の対策は不要
- B) LLMの学習データからインジェクションパターンを除去すれば防げる
- C) 入力バリデーション、システムプロンプトの堅牢化、出力フィルタリングを組み合わせた多層防御
- D) ユーザーの入力を一切許可せず、選択肢からのみ操作させる
答えを見る
正解: C
プロンプトインジェクション対策は多層防御が基本です。入力バリデーション（危険パターンの検出・除去）、システムプロンプトの堅牢化（明確な制約宣言・命令階層の設定）、出力フィルタリング（機密情報のマスキング・禁止コンテンツの検出）の3層を組み合わせます。入力バリデーションだけでは攻撃者が新しいバイパス手法を見つけるため不十分です。入力を完全に制限するとAIチャットボットの利便性が失われます。
Q3. モデルガバナンスにおいて、サードパーティLLMのサプライチェーンリスクを軽減するための最も効果的な戦略はどれですか？
- A) 最も安価なモデルプロバイダーを選定し、コストを最小化する
- B) 抽象化レイヤーを設けたマルチモデル戦略で、特定プロバイダーへの依存を回避する
- C) 利用規約を詳細に確認し、問題がなければ単一プロバイダーに統一する
- D) すべてのモデルをセルフホストし、外部プロバイダーを一切使用しない
答えを見る
正解: B
サプライチェーンリスクの軽減には、モデル抽象化レイヤーを設けたマルチモデル戦略が効果的です。主系・副系・最終手段のフォールバック構成にすることで、特定プロバイダーの障害・規約変更・値上げに対応できます。コスト最小化だけでは品質やセキュリティのリスクが残り、単一プロバイダーへの統一はベンダーロックインのリスクがあります。全モデルのセルフホストはコストと運用負荷が非常に高くなります。
Q4. AIシステムの監査ログに記録すべき項目として、最も重要度が低いものはどれですか？
- A) ユーザーの入力プロンプトとAIの応答全文
- B) RAG検索で取得された文書IDと関連度スコア
- C) AIが応答を生成するまでの内部の注意機構（Attention）の重み
- D) 入力バリデーションと出力フィルタリングの結果
答えを見る
正解: C
AIシステムの監査ログでは、入出力の記録（A）、RAG検索の根拠追跡（B）、セキュリティチェックの結果（D）が重要です。内部のAttention重みは、実用的な監査の観点ではログ記録の優先度が低く、データ量が膨大になるため保存コストも高くなります。監査に必要なのは「何を入力し、何を参照し、何を出力し、どのセキュリティチェックが行われたか」を追跡できることです。
Q5. 社内AIチャットボットで機密情報の漏洩インシデントが発生した場合、最初に行うべき対応はどれですか？
- A) 原因を徹底的に調査し、根本原因を特定してから対応策を検討する
- B) 経営層と法務部門に報告し、対応方針の指示を待つ
- C) 影響を受けたサービスを一時停止し、影響範囲を特定した上で、関係者に速やかに報告する
- D) 出力フィルタリングのルールを更新し、再発を防止してからインシデントレポートを作成する
答えを見る
正解: C
重大なセキュリティインシデント（機密情報漏洩）の場合、最優先は被害の拡大防止です。まずサービスを一時停止して追加の漏洩を防ぎ、影響範囲（どの情報が、どの期間、誰に漏洩したか）を特定します。その上で経営層・法務・情報セキュリティ部門に報告します。原因調査（A）や再発防止（D）は封じ込めの後に行います。報告だけで対応を待つ（B）のでは被害が拡大する可能性があります。
結果
4問以上正解の場合
合格です。 AIセキュリティ対策の基本を十分に理解しています。
「AIセキュリティの土台ができたな。脅威モデル、プロンプトセキュリティ、ガバナンス、監査の4つの柱を押さえている。次のステップでは、これらを統合した実践的なAIシステムの構築に進もう」 — 田中VPoE
3問以下の場合
もう少し復習しましょう。 Step 3のレッスンを再度読み返し、特に間違えた問題の関連箇所を重点的に復習してください。
- Q1を間違えた場合 → Step 3-1「AIシステムの脅威モデル」を復習
- Q2を間違えた場合 → Step 3-2「プロンプトセキュリティ」を復習
- Q3を間違えた場合 → Step 3-3「モデルガバナンスとアクセス制御」を復習
- Q4を間違えた場合 → Step 3-4「AI監査とコンプライアンス」を復習
- Q5を間違えた場合 → Step 3-4「AI監査とコンプライアンス」および Step 3-5 演習を復習
推定所要時間: 30分