ストーリー
田
田中VPoE
Month 5の総仕上げだ。これまで学んだAI安全性とガバナンスの全てを統合して、NetShop社のAI安全性・ガバナンス設計書を策定してもらう
あなた
Step 1〜5の全知識を使った設計書ですね
あ
田
田中VPoE
CTO佐藤が来月の取締役会で報告する資料のベースになる。技術面だけでなく、組織体制、予算、ロードマップまで含めた包括的な設計書を期待している
あなた
経営判断に使える品質のものを仕上げます
あ
ミッション概要
| 項目 | 内容 |
|---|---|
| 目標 | NetShop社のAI安全性・ガバナンス設計書を策定する |
| 所要時間 | 90分 |
| ミッション数 | 3つ（段階的に策定） |
| 使用知識 | Month 5全Step |
| 評価観点 | 網羅性、技術的妥当性、実現可能性、経営観点 |
前提条件
【NetShop社のAI利用状況】
利用中のAIシステム:
1. 商品レコメンドAI（月間500万リクエスト）
2. CSチャットボット（月間10,000対応）
3. 商品説明自動生成（月間2,000件）
4. 請求書自動処理（月間3,000件）
5. 通話自動記録（月間4,000件）
6. 画像品質チェック（月間5,000件）
課題サマリ:
- ガバナンスフレームワーク未整備
- 3件のシャドーIT（未承認AIサービス利用）
- 過去6ヶ月のインシデント: 個人情報送信2件、著作権疑義1件
- 社員のAIリテラシーにバラつき
- 法規制対応が未着手Mission 1: リスクアセスメントと安全性設計（30分）
タスク
全AIシステムのリスクアセスメントを実施し、安全性対策を設計してください。
【リスクアセスメント・安全性設計書】
1. AIシステム別リスク評価:
| システム | リスクレベル | 主要リスク | Guardrails要件 |
|---------|-----------|----------|-------------|
| ___ | ___ | ___ | ___ |
2. Guardrails設計（最もリスクの高いシステム2つ）:
システムA:
入力フィルタリング: ___
出力フィルタリング: ___
人的監督: ___
システムB:
入力フィルタリング: ___
出力フィルタリング: ___
人的監督: ___
3. バイアス対策計画:
対象システム: ___
監査計画: ___
緩和手法: ___解答例を見る
1. リスク評価:
| システム | リスク | 主要リスク | Guardrails |
|---------|--------|----------|-----------|
| レコメンド | MEDIUM | バイアス、フィルターバブル | 公平性チェック |
| チャットボット | HIGH | ハルシネーション、情報漏洩 | 入出力フィルタ+人的監督 |
| 商品説明生成 | MEDIUM | 誇大表現、著作権 | 景表法チェック+類似検知 |
| 請求書処理 | HIGH | 金額誤認、データ漏洩 | 信頼度閾値+人的確認 |
| 通話記録 | HIGH | 個人情報取扱い、同意 | 匿名化+アクセス制御 |
| 画像チェック | LOW | 誤判定 | 低信頼度時の人的確認 |
2. Guardrails設計:
チャットボット:
入力: PII検出→マスキング、プロンプトインジェクション検知
出力: ハルシネーション検知（RAGソースとの整合チェック）、
禁止トピックフィルタ、競合情報フィルタ
人的監督: 低信頼度回答のキュー、週次100件サンプリングレビュー
請求書処理:
入力: ファイル形式・サイズ検証、マルウェアスキャン
出力: 金額クロスチェック（小計+税=合計）、取引先名の辞書照合
人的監督: 信頼度90%未満全件、10万円超の取引全件
3. バイアス対策:
対象: レコメンドAI（性別・年齢バイアス）、チャットボット（言語バイアス）
監査: 四半期の定期監査、4/5ルール適用、ペアテスト
緩和: レコメンドは後処理リランキング、チャットボットはプロンプト改善Mission 2: ガバナンスフレームワーク設計（30分）
タスク
包括的なAIガバナンスフレームワークを設計してください。
【ガバナンスフレームワーク設計書】
1. ガバナンス組織体制:
組織図: ___
各役割の責任: ___
2. ポリシー体系:
| 文書 | 対象 | 承認者 | 更新頻度 |
|------|------|--------|---------|
| ___ | ___ | ___ | ___ |
3. 承認プロセス:
新規AI導入時のフロー: ___
4. 監査体制:
| 監査タイプ | 頻度 | 対象 | 担当 |
|-----------|------|------|------|
| ___ | ___ | ___ | ___ |
5. インシデント対応体制:
対応チーム構成: ___
エスカレーション: ___
6. コンプライアンス対応:
対応すべき法規制と施策: ___解答例を見る
1. 組織体制:
CTO（AI最高責任者）
├── AI倫理委員会（CTO, 法務部長, 人事部長, 外部有識者）
│ └── 四半期開催、重要案件の審査・方針決定
├── AI推進チーム（3名: テックリード、セキュリティ、教育担当）
│ └── 日常運営、審査、監視、教育
└── 部門AIチャンピオン（各部門1名、兼任）
└── 部門内の推進・相談窓口
2. ポリシー体系:
| 文書 | 対象 | 承認者 | 更新 |
|------|------|--------|------|
| AI利用ポリシー | 全社員 | 取締役会 | 年次 |
| AI利用ガイドライン | AI利用者 | CTO | 四半期 |
| 技術セキュリティ基準 | 開発者 | AI推進チーム | 随時 |
| インシデント対応手順 | 対応チーム | AI倫理委員会 | 半年 |
3. 承認プロセス:
申請→AI推進チームがリスク判定→区分A:即承認/区分B:部門長承認/
区分C:AI倫理委員会審査→セキュリティレビュー→監視設定→運用開始
4. 監査体制:
| タイプ | 頻度 | 対象 | 担当 |
|--------|------|------|------|
| 自動監視 | リアルタイム | 全システム | 監視システム |
| 品質監査 | 月次 | サンプリング | AI推進チーム |
| バイアス監査 | 四半期 | HIGH以上 | AI推進+外部 |
| 総合監査 | 年次 | 全システム | 外部監査法人 |
5. インシデント対応:
チーム: インシデントリーダー(AI推進)、エンジニア、法務、広報
エスカレーション: CRITICAL→CTO即時/HIGH→AI倫理委員長1h/
MEDIUM→AI推進チーム4h/LOW→翌営業日
6. コンプライアンス:
個人情報保護法: プライバシーポリシー更新、データ管理プロセス整備
著作権法: AI生成コンテンツ管理プロセス、出典管理
景品表示法: AI生成広告文の自動チェック
EU AI Act: ハイリスクシステムの特定と対応準備（海外展開に備え）Mission 3: 実行ロードマップと予算計画（30分）
タスク
【実行ロードマップ・予算計画】
1. 12ヶ月ロードマップ:
| Phase | 期間 | 施策 | 成果物 | 予算 |
|-------|------|------|--------|------|
| ___ | ___ | ___ | ___ | ___ |
2. KPIと目標値:
| KPI | 現状 | 6ヶ月後目標 | 12ヶ月後目標 |
|-----|------|-----------|------------|
| ___ | ___ | ___ | ___ |
3. 投資対効果:
コスト: ___
期待効果: ___
リスク低減効果: ___
4. 経営層への提言:
___解答例を見る
1. ロードマップ:
| Phase | 期間 | 施策 | 成果物 | 予算 |
|-------|------|------|--------|------|
| 緊急 | M1 | シャドーIT対策、個人情報送信停止 | 即時対策レポート | 50万 |
| P1 | M2-3 | ポリシー策定、全社研修 | ポリシー文書、研修完了 | 300万 |
| P2 | M4-6 | 監査証跡構築、Guardrails実装 | 監視基盤、安全対策 | 500万 |
| P3 | M7-9 | バイアス監査、コンプライアンス | 監査レポート、法対応 | 400万 |
| P4 | M10-12 | 継続的改善、外部監査 | 改善レポート | 250万 |
2. KPI:
| KPI | 現状 | 6ヶ月後 | 12ヶ月後 |
|-----|------|---------|---------|
| ポリシー違反率 | 不明(未計測) | 10%以下 | 5%以下 |
| 研修受講率 | 0% | 90% | 95% |
| インシデント件数 | 3件/半年 | 1件/半年 | 0件/半年 |
| シャドーIT数 | 3件 | 0件 | 0件 |
| 監査証跡カバー率 | 0% | 80% | 100% |
3. 投資対効果:
コスト: 初年度1,500万円、2年目以降700万円/年
効果:
- インシデント防止: 個人情報漏洩1件の想定損害3,000万円を回避
- 業務効率化: 承認プロセスの明確化で意思決定速度30%向上
- 信頼性向上: 顧客・株主からのAI利用への信頼確保
リスク低減: 法規制違反の制裁金リスク回避（最大数千万円規模）
4. 経営層への提言:
AIガバナンスは「コスト」ではなく「投資」です。
年間1,500万円の投資で、数千万円規模のリスクを低減し、
AIの安全で効果的な活用を加速します。
競合他社に先駆けてガバナンス体制を確立することで、
顧客・パートナーからの信頼を獲得し、事業拡大の基盤となります。達成度チェック
| 評価項目 | A（優秀） | B（合格） | C（要改善） |
|---|---|---|---|
| リスクアセスメント | 全システムを網羅的に評価 | 主要システムを評価 | 評価が不十分 |
| ガバナンス設計 | 組織・プロセス・技術を包括 | 主要要素を網羅 | 要素が不足 |
| ロードマップ | 予算付きの具体的計画 | 段階的な計画がある | 計画が不明確 |
| 経営視点 | ROI・リスク低減を定量化 | 効果を説明できる | ビジネス観点が欠如 |
推定所要時間: 90分