クイズの説明
Step 2で学んだGuardrailsとコンテンツフィルタリングについて理解度をチェックします。
- 全5問
- 合格ライン: 80%（4問正解）
- 不合格の場合は復習してから再挑戦してください
問題
Q1. 入力フィルタリングパイプラインの処理順序として最も適切なものはどれですか？
- A) トピック分類 → PII検出 → プロンプトインジェクション検出 → 形式バリデーション
- B) 形式バリデーション → プロンプトインジェクション検出 → PII検出 → 有害コンテンツ検知
- C) PII検出 → 有害コンテンツ検知 → 形式バリデーション → トピック分類
- D) プロンプトインジェクション検出 → 形式バリデーション → トピック分類 → PII検出
答えを見る
正解: B
入力フィルタリングは、まず形式バリデーション（文字数・文字種チェック）で不正な形式を排除し、次にプロンプトインジェクション検出で攻撃を検出、PII検出で個人情報をマスク、最後に有害コンテンツ検知を行う順序が効率的です。軽量なチェックから重いチェックへと進めます。
Q2. 出力フィルタリングのファクトチェックで精度が70%未満だった場合の適切な対応はどれですか？
- A) そのまま回答を出力する
- B) 「参考情報です」と注意書きを付けて出力する
- C) 回答を差し替え、人間にエスカレーションする
- D) AIモデルを再学習させる
答えを見る
正解: C
ファクトチェックで精度70%未満の場合はFAIL判定となり、回答をそのまま出力するとハルシネーションのリスクが高いです。「正確な情報を確認中です。担当者にお問い合わせください」等の安全な回答に差し替え、人間にエスカレーションします。70-89%はWARNING（注意書き付き）、90%以上はPASS（そのまま出力）です。
Q3. トピック制限の「グレーゾーン（REVIEW）」に該当するトピックへの適切な対応はどれですか？
- A) 許可トピックと同じように自由に回答する
- B) 禁止トピックと同じように一律拒否する
- C) テンプレート回答を返すか、人間にエスカレーションする
- D) ユーザーにトピックを変更するよう要求する
答えを見る
正解: C
グレーゾーン（REVIEW）のトピックは、テンプレートが用意されている場合は定型の回答を返し、テンプレートがない場合は「担当部門に確認します」と人間にエスカレーションします。自由回答（A）はリスクがあり、一律拒否（B）はユーザー体験を損ないます。
Q4. NeMo GuardrailsとGuardrails AIの使い分けとして正しいものはどれですか？
- A) NeMo Guardrailsは対話フロー制御に強く、Guardrails AIは構造化出力の検証に強い
- B) NeMo Guardrailsはコード生成に特化し、Guardrails AIはチャットボットに特化している
- C) NeMo Guardrailsはクラウド専用で、Guardrails AIはオンプレミス専用
- D) 両者に違いはなく、どちらを使っても同じ結果になる
答えを見る
正解: A
NeMo GuardrailsはColang言語で対話フローのルールを定義できるため、チャットボットなどの対話型AIに適しています。Guardrails AIはバリデータベースのアプローチで出力の構造的な検証に強く、API出力の検証や構造化データの検証に適しています。
Q5. 経営データを扱うAIシステムの監査ログに含めるべき情報として最も重要なものはどれですか？
- A) AIモデルのパラメータ数とトークン使用量
- B) 入力クエリ、アクセスしたデータ、出力内容、ユーザー情報
- C) AIの応答速度とスループット
- D) モデルのバージョン情報と更新履歴
答えを見る
正解: B
経営データを扱うAIシステムでは、「誰が」「いつ」「何を質問し」「どのデータにアクセスし」「何が回答されたか」を完全に記録することが監査上最も重要です。これにより、不正アクセスの検出、インシデント時の影響範囲特定、規制対応が可能になります。
結果
4問以上正解の場合
合格です。Step 2「Guardrailsとコンテンツフィルタリング」を完了しました。 次はStep 3「バイアスと公平性を評価しよう」に進みましょう。
3問以下の場合
もう少し復習しましょう。
| 問題 | 復習セクション |
|---|---|
| Q1 | step2_1 入力フィルタリング |
| Q2 | step2_2 出力フィルタリング |
| Q3 | step2_3 トピック制限とスコープ管理 |
| Q4 | step2_4 Guardrailsフレームワーク |
| Q5 | step2_5 演習：Guardrailsシステム設計 |
推定所要時間: 30分