クイズの説明
Step 3で学んだバイアスと公平性の評価について理解度をチェックします。
- 全10問
- 合格ライン: 80%（8問正解）
- 不合格の場合は復習してから再挑戦してください
問題
Q1. AIにおける「選択バイアス」の説明として最も適切なものはどれですか？
- A) AIモデルが特定の出力を選択的に生成する傾向
- B) 学習データの収集過程で特定の集団が過剰・過少に代表される偏り
- C) ユーザーが特定の機能だけを使用する傾向
- D) モデルのハイパーパラメータの選択ミス
答えを見る
正解: B
選択バイアス（Selection Bias）は、学習データの収集段階で特定の集団が適切に代表されないことで生じるバイアスです。例えば、オンライン調査データだけで学習すると、インターネットを使わない高齢者層のデータが不足し、偏った学習結果になります。
Q2. 「4/5ルール（80%ルール）」の判定基準として正しいものはどれですか？
- A) モデルの精度が80%以上であること
- B) 不利なグループの選択率が有利なグループの80%以上であること
- C) テストデータの80%で正しい結果を返すこと
- D) 学習データの80%以上が正例であること
答えを見る
正解: B
4/5ルールは米国雇用機会均等委員会（EEOC）のガイドラインに基づく基準で、不利なグループの選択率（合格率、採用率など）が有利なグループの選択率の80%（4/5）以上であれば、統計的に不当な差別がないとみなされます。
Q3. バイアス緩和手法の「前処理アプローチ」に該当するものはどれですか？
- A) モデルの損失関数に公平性制約を追加する
- B) 学習データのリサンプリングやラベルの再重み付けを行う
- C) モデルの出力確率を調整してグループ間の差を補正する
- D) 出力結果をリランキングして公平性を確保する
答えを見る
正解: B
前処理アプローチはモデル学習前のデータ段階での緩和手法です。アンダーサンプリング、オーバーサンプリング、ラベルの再重み付けなどが含まれます。Aは学習中（In-processing）、C・Dは後処理（Post-processing）のアプローチです。
Q4. 「等化オッズ（Equalized Odds）」の公平性基準が求めることは何ですか？
- A) 全てのグループで同じ予測結果を返す
- B) 全てのグループで真陽性率と偽陽性率が等しい
- C) 全てのグループでデータ量が等しい
- D) 全てのグループで入力特徴量が同じ分布を持つ
答えを見る
正解: B
等化オッズは、保護属性の各グループにおいて真陽性率（TPR）と偽陽性率（FPR）がそれぞれ等しいことを求める公平性基準です。つまり、正しく陽性と判定される確率も、誤って陽性と判定される確率も、グループ間で差がないことを要求します。
Q5. バイアス監査のスコーピングで「保護属性」を特定する理由として最も適切なものはどれですか？
- A) モデルの精度を向上させるため
- B) 差別的な影響を受けやすい属性を明確にし、それに対する公平性を重点的に検証するため
- C) データベースの設計を最適化するため
- D) ユーザーインターフェースを改善するため
答えを見る
正解: B
保護属性（性別、年齢、人種など）は、法律や倫理的観点から差別的な取り扱いが禁止される属性です。これらを明確に特定することで、AIシステムがこれらの属性に基づく不当な差別を行っていないかを重点的に検証できます。
Q6. LLM出力のステレオタイプバイアスをテストする方法として最も効果的なものはどれですか？
- A) モデルのパラメータ数を増やす
- B) 保護属性のみを変えた同一構造のプロンプトペアで出力を比較する
- C) 出力テキストの文字数を比較する
- D) モデルの応答速度を測定する
答えを見る
正解: B
ペアテスト（カウンターファクチュアルテスト）では、性別や名前など保護属性のみを変更した同一構造のプロンプトを作成し、出力の差異を分析します。例えば「田中太郎」と「田中花子」で同じ質問をし、回答の質や内容に不当な差がないかを検証します。
Q7. データの代表性チェックで、あるグループの実際の割合が期待される割合の50%未満だった場合、どのような対応が適切ですか？
- A) そのグループのデータを削除する
- B) 追加データ収集、オーバーサンプリング、またはデータ拡張を検討する
- C) モデルの学習率を変更する
- D) 特に対応は不要
答えを見る
正解: B
特定グループのデータが著しく不足している場合、そのグループに対するモデルの性能低下やバイアスの原因となります。追加データの収集が最善ですが、困難な場合はオーバーサンプリング（SMOTE等）やデータ拡張技術を用いてデータの偏りを緩和する対応が適切です。
Q8. バイアス監査で「4/5ルールに不合格」となった場合の適切な初期対応はどれですか？
- A) 即座にシステムを永久停止する
- B) 根本原因を分析し、影響範囲を特定した上で緩和措置を検討する
- C) 4/5ルールの閾値を緩和する
- D) 保護属性のデータを削除してモデルを再学習する
答えを見る
正解: B
4/5ルール不合格は即座にシステム停止が必要なケースばかりではありません。まず根本原因（データ、モデル、出力のどの段階のバイアスか）を分析し、影響を受けるユーザー数や影響の深刻度を特定した上で、適切な緩和措置（前処理、学習中、後処理）を検討します。
Q9. バイアスの継続監視で、日次の自動監視と四半期の詳細監査を組み合わせる理由は何ですか？
- A) コストを削減するため
- B) 日次監視では定量メトリクスの急変を検知し、詳細監査では日次監視では捕捉できない構造的バイアスを発見するため
- C) 法律で両方の実施が義務付けられているため
- D) 監査チームの業務を平準化するため
答えを見る
正解: B
日次自動監視は、公平性メトリクスの急激な変化やアラート条件の検知に適しています。一方、四半期詳細監査では、自動指標では検出しにくい構造的なバイアス（質的な偏り、新たな保護属性の検討、社会環境の変化への対応）を人間の専門家が深く分析します。
Q10. バイアス監査レポートの「是正勧告」で、短期・中期・長期に分けて記載する主な理由は何ですか？
- A) レポートの見栄えを良くするため
- B) 対策の実施コストに応じて実現可能なタイムラインを示し、段階的に改善を進めるため
- C) 法的要件を満たすため
- D) 監査チームの作業を分散させるため
答えを見る
正解: B
是正勧告を短期（即時対応可能な緩和措置）、中期（システム改修を伴う対策）、長期（モデルの再設計やプロセス変更）に分けることで、リソースと緊急度に応じた段階的な改善が可能になります。全てを一度に実施しようとすると遅延し、逆にリスクが長期化します。
結果
8問以上正解の場合
合格です。Step 3「バイアスと公平性を評価しよう」を完了しました。 次はStep 4「AIガバナンスフレームワーク」に進みましょう。
7問以下の場合
もう少し復習しましょう。
| 問題 | 復習セクション |
|---|---|
| Q1 | step3_1 AIバイアスの種類 |
| Q2 | step3_2 公平性指標 |
| Q3 | step3_3 バイアス緩和手法 |
| Q4 | step3_2 公平性指標 |
| Q5 | step3_4 バイアス監査プロセス |
| Q6 | step3_4 バイアス監査プロセス |
| Q7 | step3_3 バイアス緩和手法 |
| Q8 | step3_4 バイアス監査プロセス |
| Q9 | step3_4 バイアス監査プロセス |
| Q10 | step3_4 バイアス監査プロセス |
推定所要時間: 30分