ストーリー

AI固有のプライバシーリスク

3つのリスク領域

リスクの詳細分析

// AI プライバシーリスクの分類
interface AIPrivacyRisks {
  // リスク1: 学習データの個人情報
  trainingDataRisk: {
    description: "ファインチューニングやRAGに使うデータにPIIが混入";
    scenarios: [
      "社内文書に個人名・連絡先が含まれる",
      "チャットログに個人的な相談内容が含まれる",
      "顧客データベースをそのまま学習に使用",
    ];
    mitigation: [
      "データ分類による事前スクリーニング",
      "PII自動検出・マスキング",
      "学習データの利用承認プロセス",
    ];
  };

  // リスク2: プロンプトからの情報漏洩
  promptLeakageRisk: {
    description: "ユーザーがプロンプトに機密情報を入力してしまう";
    scenarios: [
      "外部LLM APIに社内機密を送信",
      "プロンプトがLLM提供元のログに残る",
      "マルチテナント環境での情報混入",
    ];
    mitigation: [
      "プロンプトフィルタリング（PII検出）",
      "ローカルLLMの利用",
      "DLP（Data Loss Prevention）統合",
    ];
  };

  // リスク3: モデルの記憶（Memorization）
  modelMemorizationRisk: {
    description: "モデルが学習データの一部をそのまま記憶し出力する";
    scenarios: [
      "電話番号やメールアドレスの再現",
      "コードの著作権侵害",
      "医療記録の漏洩",
    ];
    mitigation: [
      "差分プライバシーの適用",
      "出力フィルタリング",
      "定期的なプライバシー監査",
    ];
  };
}

法規制への対応

主要な法規制の比較

GDPRのAI関連要件

gdpr_ai_requirements:
  # 第22条: 自動化された個人的意思決定
  article_22:
    requirement: "個人に法的効果を及ぼす完全自動化された意思決定の制限"
    ai_impact:
      - "AIによる融資審査、採用選考は人間の関与が必要"
      - "個人はAI判断に異議を申し立てる権利がある"
    implementation:
      - "Human-in-the-loop の設計"
      - "AIの判断根拠の記録・説明機能"

  # 第17条: 忘れられる権利
  article_17:
    requirement: "個人データの消去を請求する権利"
    ai_impact:
      - "学習済みモデルからの個人データ除去は技術的に困難"
      - "RAGのベクトルDBから特定個人のデータを削除する必要"
    implementation:
      - "データリネージュの管理"
      - "モデルの再学習プロセス"
      - "ベクトルDB からの選択的削除機能"

  # 第35条: データ保護影響評価（DPIA）
  article_35:
    requirement: "高リスクな処理にはDPIAが必要"
    ai_impact:
      - "AIを用いたプロファイリングは高リスク処理に該当"
      - "大量のPIIを処理するAIはDPIA必須"
    implementation:
      - "AI導入前のDPIA実施プロセス"
      - "リスク評価テンプレートの整備"

日本の個人情報保護法への対応

データ分類フレームワーク

4段階の分類

分類基準の詳細

data_classification:
  level_1_public:
    examples:
      - "製品カタログ"
      - "プレスリリース"
      - "公開API仕様書"
    ai_policy:
      training: "許可"
      rag: "許可"
      external_llm: "許可"
    handling: "特別な制限なし"

  level_2_internal:
    examples:
      - "社内ナレッジベース"
      - "会議議事録（個人情報なし）"
      - "技術ドキュメント"
    ai_policy:
      training: "許可（社内モデルのみ）"
      rag: "許可（社内LLMのみ）"
      external_llm: "禁止"
    handling: "社内ネットワーク内でのみ処理"

  level_3_confidential:
    examples:
      - "顧客データ（PII含む）"
      - "財務データ"
      - "人事評価データ"
      - "契約書"
    ai_policy:
      training: "匿名化・仮名化後に条件付き許可"
      rag: "マスキング後に条件付き許可"
      external_llm: "禁止"
    handling:
      - "匿名化/仮名化が必須"
      - "アクセスログの記録"
      - "データオーナーの承認が必要"
      - "DPIA実施が必要"

  level_4_top_secret:
    examples:
      - "M&A情報"
      - "特許出願前の発明"
      - "暗号鍵・認証情報"
      - "インサイダー情報"
    ai_policy:
      training: "禁止"
      rag: "禁止"
      external_llm: "禁止"
    handling:
      - "AI関連システムへの投入を技術的に遮断"
      - "DLPでの監視対象"

PII自動検出の実装

import re
from typing import NamedTuple

class PIIDetectionResult(NamedTuple):
    field: str
    pii_type: str
    confidence: float
    value_sample: str  # マスク済みのサンプル

def detect_pii(text: str) -> list[PIIDetectionResult]:
    """テキスト内のPIIを検出する"""
    results = []
    patterns = {
        "email": r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
        "phone_jp": r"0\d{1,4}-\d{1,4}-\d{4}",
        "credit_card": r"\d{4}[\s-]?\d{4}[\s-]?\d{4}[\s-]?\d{4}",
        "my_number": r"\d{4}\s?\d{4}\s?\d{4}",  # マイナンバー
        "postal_code": r"\d{3}-\d{4}",
    }

    for pii_type, pattern in patterns.items():
        matches = re.finditer(pattern, text)
        for match in matches:
            masked = match.group()[:3] + "***"
            results.append(
                PIIDetectionResult(
                    field="text",
                    pii_type=pii_type,
                    confidence=0.9,
                    value_sample=masked,
                )
            )

    return results

匿名化・仮名化・差分プライバシー

手法の比較

匿名化テクニック

class AnonymizationTechniques:
    """データ匿名化の実装テクニック"""

    @staticmethod
    def generalization(value: str, level: int) -> str:
        """一般化: 詳細度を下げる"""
        # 例: 年齢 35 → 30代 → 成人
        if level == 1:
            age = int(value)
            return f"{(age // 10) * 10}代"
        elif level == 2:
            age = int(value)
            return "成人" if age >= 18 else "未成年"
        return value

    @staticmethod
    def suppression(value: str) -> str:
        """抑制: 値を削除する"""
        return "***"

    @staticmethod
    def pseudonymization(value: str, salt: str) -> str:
        """仮名化: ハッシュで置換する"""
        import hashlib
        return hashlib.sha256(
            f"{value}{salt}".encode()
        ).hexdigest()[:16]

    @staticmethod
    def k_anonymity(dataset: list[dict], quasi_identifiers: list[str], k: int):
        """k-匿名化: 少なくともk人が同じ属性の組み合わせを持つ"""
        # 各準識別子の組み合わせが k 以上出現するよう一般化
        pass

    @staticmethod
    def differential_privacy_noise(value: float, epsilon: float) -> float:
        """差分プライバシー: ラプラスノイズの付加"""
        import numpy as np
        sensitivity = 1.0  # クエリの感度
        noise = np.random.laplace(0, sensitivity / epsilon)
        return value + noise

差分プライバシーのAI学習への適用

差分プライバシーの直感的理解:
  「あるデータセットに特定の個人のデータが含まれていても
   いなくても、モデルの出力がほぼ変わらない」

  ⇒ モデルの出力から個人の情報を推定することが
    数学的に困難になる

同意管理とデータ利用ポリシー

同意管理のフレームワーク

consent_management:
  # 同意の種類
  consent_types:
    explicit:
      description: "明示的な同意（オプトイン）"
      use_case: "機密データのAI利用"
      requirement: "書面またはデジタルフォームでの明確な意思表示"

    implicit:
      description: "黙示的な同意"
      use_case: "サービス利用規約に基づくデータ処理"
      requirement: "利用規約への同意をもって推定"

    legitimate_interest:
      description: "正当な利益（GDPR第6条1項(f)）"
      use_case: "サービス改善のための匿名化データ分析"
      requirement: "利益衡量テストの実施と記録"

  # 同意の管理プロセス
  lifecycle:
    - step: "取得"
      actions:
        - "利用目的の明示（AI学習を含む）"
        - "同意フォームの記録"
        - "撤回方法の案内"

    - step: "記録"
      actions:
        - "同意日時、範囲、版数の記録"
        - "同意管理DBへの保存"

    - step: "確認"
      actions:
        - "データ利用時に同意状態を確認"
        - "同意範囲外の利用を自動ブロック"

    - step: "撤回"
      actions:
        - "撤回リクエストの受付と処理"
        - "RAGデータからの削除"
        - "モデル再学習のトリガー（必要に応じて）"

データ利用ポリシーのテンプレート

まとめ

チェックリスト

• AI固有のプライバシーリスク3領域を説明できる
• GDPR/個人情報保護法のAI関連要件を理解した
• データ分類フレームワーク（4段階）のAI利用方針を把握した
• 匿名化・仮名化・差分プライバシーの違いを区別できる
• 同意管理のライフサイクルを理解した

次のステップへ

次は「AI向けデータパイプライン」を学びます。RAGやファインチューニングに必要なデータを、品質とプライバシーを保ちながら効率的に処理する仕組みを構築しましょう。

推定読了時間: 30分