ストーリー
田
田中VPoE
Step 3までで技術的な安全性対策を学んだ。Step 4ではそれらを組織的に管理する「AIガバナンス」を扱う
あなた
技術だけでなく、組織としての仕組みが必要ということですね
あ
田
田中VPoE
その通り。NetShop社では、部門ごとにバラバラにAIを導入した結果、セキュリティポリシーの統一がなく、インシデント対応も属人化している。これを体系的に整備する必要がある
あなた
全社横断的なガバナンスフレームワークを作るんですね
あ
AIガバナンスとは
定義と目的
| 項目 | 内容 |
|---|---|
| 定義 | AIシステムの開発・運用を組織的に管理・統制する枠組み |
| 目的 | AIの恩恵を最大化しつつ、リスクを許容範囲に抑える |
| 対象 | 技術、プロセス、人、組織構造の全て |
ガバナンスの3層構造
層1: 原則・方針（Why）
├── AI倫理原則
├── AI利用方針
└── リスク許容度の定義
│
層2: プロセス・基準（How）
├── 開発プロセスガイドライン
├── リスクアセスメント手順
├── 監査・評価プロセス
└── インシデント対応手順
│
層3: 実装・ツール（What）
├── 技術的セーフガード
├── 監視ダッシュボード
├── 自動テストスイート
└── 文書管理システムAIガバナンスフレームワークの構成要素
主要な5つの柱
| 柱 | 内容 | 担当 |
|---|---|---|
| 戦略・方針 | AI利用の基本方針、倫理原則 | 経営層 |
| リスク管理 | リスク評価、緩和策、監視 | リスク管理部門 |
| 品質管理 | テスト、監査、品質基準 | AI/開発チーム |
| コンプライアンス | 法規制対応、報告義務 | 法務部門 |
| 教育・文化 | 社員教育、啓発活動 | 人事・AI推進チーム |
リスク分類フレームワーク
| リスクレベル | 定義 | AI用途例 | 必要なガバナンス |
|---|---|---|---|
| 禁止 | 社会的に許容されないリスク | ソーシャルスコアリング | 使用禁止 |
| HIGH | 重大な権利侵害の可能性 | 採用AI、信用スコア | 事前評価+継続監査+人的監督 |
| MEDIUM | 一定のリスクがある | レコメンド、チャットボット | リスク評価+定期監査 |
| LOW | リスクが限定的 | スパムフィルタ、文書要約 | 基本的なモニタリング |
AIシステムライフサイクルとガバナンス
各フェーズでのガバナンスポイント
[企画・構想] → ガバナンスゲート1: リスク評価・承認
│
[設計・開発] → ガバナンスゲート2: 安全性レビュー・テスト計画
│
[テスト・評価] → ガバナンスゲート3: 品質基準の達成確認
│
[デプロイ] → ガバナンスゲート4: 本番環境チェック・監視開始
│
[運用・監視] → 継続的ガバナンス: モニタリング・定期監査
│
[廃止] → ガバナンスゲート5: データ処分・影響評価ガバナンスゲートのチェック項目
| ゲート | チェック項目 | 承認者 |
|---|---|---|
| Gate 1 | ユースケースの妥当性、リスクレベル判定、倫理審査 | AI倫理委員会 |
| Gate 2 | セキュリティ設計、バイアス対策、テスト計画 | テックリード |
| Gate 3 | 精度基準達成、公平性メトリクス合格、負荷テスト | QAチーム |
| Gate 4 | 監視設定、フォールバック確認、ロールバック手順 | SRE/運用チーム |
| Gate 5 | データ削除計画、依存システムへの影響確認 | データ管理者 |
グローバルなAIガバナンス動向
主要な規制・ガイドライン
| 規制・ガイドライン | 地域 | 概要 | 施行時期 |
|---|---|---|---|
| EU AI Act | EU | リスクベースの包括的AI規制 | 2024年〜段階施行 |
| AI事業者ガイドライン | 日本 | 総務省・経産省による指針 | 2024年 |
| Executive Order on AI | 米国 | AIの安全性に関する大統領令 | 2023年 |
| NIST AI RMF | 米国 | AI Risk Management Framework | 2023年 |
EU AI Actのリスク分類
| リスクレベル | 要件 | 違反時の制裁金 |
|---|---|---|
| 禁止 | 使用不可（ソーシャルスコアリング等） | 最大3,500万EUR or 売上7% |
| ハイリスク | 適合性評価、人的監督、透明性義務 | 最大1,500万EUR or 売上3% |
| 限定リスク | 透明性義務（AI生成コンテンツの表示等） | - |
| 最小リスク | 特段の義務なし | - |
NetShop社への適用
現状の課題
| 課題 | 影響 |
|---|---|
| AI利用ポリシーが未策定 | 部門ごとにバラバラな運用 |
| リスク評価プロセスなし | リスクの高いAI導入も無審査 |
| インシデント対応の属人化 | 対応の遅延、再発防止策の不在 |
| 教育プログラムなし | AIリテラシーの個人差が大きい |
目指す姿
【NetShop社AIガバナンス成熟度モデル】
Level 1（現状）: 場当たり的 → 個人の判断でAI導入
Level 2: 基盤整備 → ポリシー策定、基本ルール整備
Level 3: 体系化 → リスク評価プロセス、定期監査の実施
Level 4: 最適化 → 自動監視、継続的改善サイクル
Level 5: 先進的 → 業界をリードするガバナンス実践まとめ
| 要素 | 内容 |
|---|---|
| ガバナンスの3層 | 原則・方針 / プロセス・基準 / 実装・ツール |
| 5つの柱 | 戦略 / リスク管理 / 品質管理 / コンプライアンス / 教育 |
| ライフサイクル | 各フェーズにガバナンスゲートを設置 |
| 規制動向 | EU AI Act、日本AIガイドライン等を把握 |
チェックリスト
- AIガバナンスの3層構造を理解した
- リスク分類フレームワーク（禁止/HIGH/MEDIUM/LOW）を把握した
- AIシステムライフサイクルの各フェーズでのガバナンスポイントを理解した
- 主要なAI規制・ガイドラインの概要を把握した
- NetShop社のガバナンス成熟度と目指す姿をイメージできた
次のステップへ
次はAI利用ポリシーの策定方法を学びます。
推定読了時間: 30分