ストーリー
田
田中VPoE
「ガバナンスフレームワーク、倫理ガイドライン、リスク管理、コンプライアンス監査を学んだ。ここではNetShop社のAIガバナンス体制を一から設計してみよう。」
あなた
「全社的な体制設計は初めてですが、学んだフレームワークを活用して挑戦します。」
あ
田
田中VPoE
「NetShop社は現在4つのAIシステムを運用中で、さらに3つの新規プロジェクトが進行中だ。この規模になると、統一的なガバナンスなしでは管理が破綻する。」
ミッション概要
| 項目 | 内容 |
|---|---|
| 演習タイトル | NetShop社 AIガバナンス体制の設計 |
| 想定時間 | 90分 |
| 成果物 | ガバナンスポリシー + 組織体制 + 監査計画 |
前提条件
運用中のAIシステム:
1. 請求書AI-OCR（経理部）- 精度96%
2. AIチャットボット（CS部）- 自動回答率40%
3. レコメンドエンジン（マーケティング部）- CV率33%向上
4. 需要予測AI（SCM部）- 予測精度MAPE 12%
開発中のAIシステム:
5. 広告最適化AI（マーケティング部）
6. 採用AI（人事部）- 書類選考の自動スクリーニング
7. 不正検知AI（セキュリティ部）
組織情報:
全社従業員: 500名
AI関連人材: 15名（AIチーム8名、各部門担当7名）
AIに関するインシデント（過去1年）:
- チャットボットが不適切な回答を3回生成
- レコメンドが特定年齢層に偏った推薦
- 需要予測の精度が一時80%まで低下Mission 1: ガバナンスポリシーの策定
要件
NetShop社のAI利用ポリシーを策定してください。
- 基本原則: 7つの原則のうち、NetShop社として特に重視する3つとその理由
- リスク分類: 7つのAIシステムのリスクレベル判定
- 禁止事項: EC事業特有の禁止行為リスト
解答例
重点原則
| 原則 | 理由 |
|---|---|
| 公平性 | EC事業で顧客の属性による差別は致命的なレピュテーションリスク |
| 透明性 | 消費者保護の観点から、AI活用の開示と説明が不可欠 |
| プライバシー | 大量の購買・行動データを扱うため、プライバシー保護が最重要 |
リスク分類
| AIシステム | リスクレベル | 理由 |
|---|---|---|
| 請求書AI-OCR | 低 | 内部業務、財務影響は限定的 |
| AIチャットボット | 中 | 顧客接点、不適切回答のリスク |
| レコメンドエンジン | 中 | 顧客への影響、バイアスリスク |
| 需要予測AI | 低 | 内部業務、人間が最終判断 |
| 広告最適化AI | 中 | 顧客セグメントの公平性 |
| 採用AI | 高 | 人の権利に直接影響、法的リスク大 |
| 不正検知AI | 高 | 誤判定による顧客ブロックのリスク |
禁止事項
- 顧客の人種・性別・年齢に基づく差別的な価格設定
- 同意なき顧客行動のプロファイリングと第三者提供
- AIによる完全自動の個人の権利に影響する意思決定（人間レビュー必須）
- テスト未実施のAIモデルの本番環境への投入
Mission 2: 組織体制の設計
要件
AIガバナンスの組織体制を設計してください。
- ガバナンス組織: AI倫理委員会、審査ボードの構成と権限
- 役割と責任: 各部門・役割のRACI
- エスカレーションフロー: インシデント発生時の対応体制
解答例
ガバナンス組織
| 組織 | 構成 | 権限 | 開催 |
|---|---|---|---|
| AI倫理委員会 | CTO（委員長）、法務部長、人事部長、外部有識者 | 高リスクAIの承認/却下、ポリシー改定 | 四半期 |
| AI審査ボード | AIチームリーダー、セキュリティ、品質管理、データ保護責任者 | 中リスクAIの承認、技術基準管理 | 月次 |
| AI CoE | AIエンジニア8名 | 技術支援、ガイドライン整備、監視運用 | 常設 |
RACI
| 活動 | 経営層 | AI倫理委 | 審査ボード | AI CoE | 業務部門 |
|---|---|---|---|---|---|
| ポリシー策定 | A | R | C | C | I |
| 高リスクAI承認 | I | A/R | C | C | R |
| 中リスクAI承認 | I | I | A/R | C | R |
| 精度モニタリング | I | I | I | R | C |
| インシデント対応 | I(重大) | A(重大) | R | R | C |
| 年次監査 | A | I | C | R | C |
エスカレーションフロー
Level 1: AI CoEが30分以内に初動対応
├── 解決 → 記録・報告
└── 未解決 → Level 2へ
Level 2: AI審査ボードが2時間以内に方針決定
├── 解決 → 記録・部門長報告
└── 重大 → Level 3へ
Level 3: AI倫理委員会 + 経営層が即日対応
→ 対策本部設置、顧客対応、広報対応Mission 3: 監査計画の策定
要件
年間の監査計画を策定してください。
- 監査スケジュール: 7つのAIシステムの監査計画
- 監査チェックリスト: 重点チェック項目
- 改善管理: 指摘事項の追跡方法
解答例
年間監査スケジュール
| 四半期 | 対象 | 監査種類 | 重点テーマ |
|---|---|---|---|
| Q1 | 採用AI、不正検知AI | 定期監査 | バイアス・公平性 |
| Q2 | チャットボット、レコメンド | 定期監査 | 顧客影響・プライバシー |
| Q3 | 請求書OCR、需要予測、広告AI | 定期監査 | 精度・運用品質 |
| Q4 | 全システム横断 | テーマ監査 | データガバナンス総点検 |
高リスクAI（採用AI）の重点チェック
| 項目 | チェック内容 | 基準 |
|---|---|---|
| 性別バイアス | 男女間の通過率差 | 5%以内 |
| 年齢バイアス | 年齢層間の通過率差 | 10%以内 |
| 説明可能性 | 不採用理由の説明生成 | 全件説明可能 |
| 人間レビュー | AI判定後に人間が確認 | 100%レビュー実施 |
| 苦情対応 | 候補者からの異議申立て対応 | 5営業日以内 |
指摘事項管理
| 管理項目 | 内容 |
|---|---|
| 発見日 | 指摘事項が発見された日付 |
| 重要度 | 即時/高/中/低 |
| 対象システム | 該当するAIシステム |
| 是正措置 | 具体的な改善アクション |
| 期限 | 改善完了の期限 |
| 責任者 | 対応の責任者 |
| ステータス | 未着手/進行中/完了/検証済み |
達成度チェック
| 観点 | 達成基準 |
|---|---|
| ポリシー | 基本原則、リスク分類、禁止事項が明確に定義されている |
| 組織体制 | 役割と権限が明確で、エスカレーションフローが設計されている |
| 監査計画 | 年間スケジュールとチェックリストが具体的である |
| 実効性 | 500名規模の組織で実行可能な体制になっている |
推定所要時間: 90分