LESSON

Step 5 確認クイズ

エージェントの評価・改善に関する確認クイズである。5問中4問以上の正解で合格となる。


Q1. 偽陽性率管理

偽陽性率(FPR)が目標値を超過した場合の最も適切な対応はどれか?

  • A) モデルを最初から再学習する
  • B) 検知閾値を引き上げて偽陽性を減らす
  • C) 全ての取引を一時的にブロックする
  • D) 偽陽性の原因を分析せずにデータを追加する

正解: B) 検知閾値を引き上げて偽陽性を減らす

解説: FPRが高い場合、まず閾値を上げることで偽陽性を即座に削減できる。ただしRecallも低下するため、根本的にはモデル改善が必要。全面再学習(A)は時間がかかりすぎ、一時ブロック(C)は過剰対応である。


Q2. フィードバックループ

不正検知モデルのフィードバックループにおいて、ラベルの遅延が問題になる理由として最も適切なものはどれか?

  • A) 遅延によりモデルのファイルサイズが大きくなるから
  • B) チャージバック情報が30〜90日後に届くため、最新の不正パターンを即座に学習できないから
  • C) ラベルの遅延によりデータベースの容量が不足するから
  • D) 遅延があるとモデルの推論速度が低下するから

正解: B) チャージバック情報が30〜90日後に届くため、最新の不正パターンを即座に学習できないから

解説: 不正の確定ラベル(チャージバック)は取引から数十日後に届く。この間に不正者は新しい手口に移行している可能性があり、モデルは常に「過去の不正パターン」を学習している状態になる。調査チームの即時判定で補完する必要がある。


Q3. モデルバージョン管理

モデルの更新後に性能が低下した場合の最も適切な対応はどれか?

  • A) 低下を許容して新モデルを使い続ける
  • B) 前のバージョンに即座にロールバックし、原因を分析する
  • C) 全てのモデルを廃棄して新規に構築する
  • D) 閾値を0に設定して全取引をブロックする

正解: B) 前のバージョンに即座にロールバックし、原因を分析する

解説: 不正検知は顧客の取引に直接影響するため、性能低下は即座に対処すべきである。前バージョンへのロールバックで安定性を確保し、並行して原因分析と改善を行う。モデルバージョン管理とロールバック機能は必須の設計要素である。


Q4. 敵対的攻撃

不正者が「低額分散攻撃」を行った場合に最も有効な検知手法はどれか?

  • A) 1件ごとの取引金額に基づくルール
  • B) 累積リスクスコアと取引頻度に基づく検知
  • C) カードの有効期限チェック
  • D) マーチャントカテゴリの分析

正解: B) 累積リスクスコアと取引頻度に基づく検知

解説: 低額分散攻撃では1件ごとのスコアは低い。しかし累積リスクスコアを使えば、短時間に多数の取引が集中する異常パターンを検知できる。取引頻度ベースの特徴量も有効である。


Q5. 適応的閾値

顧客セグメント別に閾値を変える場合、VIP顧客(高額利用者)の閾値を一般顧客より高く設定する理由はどれか?

  • A) VIP顧客は不正リスクが低いから
  • B) VIP顧客は偽陽性による顧客体験の悪化コストが高いから
  • C) VIP顧客の取引データが多いから
  • D) VIP顧客は自分で不正を検知できるから

正解: B) VIP顧客は偽陽性による顧客体験の悪化コストが高いから

解説: VIP顧客の取引をブロックすると、高額の機会損失に加え、最も価値の高い顧客の信頼を損なうリスクがある。そのため閾値を高めに設定し(偽陽性を減らし)、その分Recallが下がるリスクは別の手段(二段階認証の導入等)で補完する。


結果

  • 4問以上正解: 合格。Step 6に進もう。
  • 3問以下: Step 5のレッスンを復習してから再挑戦しよう。

推定所要時間: 15分