ストーリー

AIインシデントの分類

インシデントカテゴリ

インシデント対応フロー

5フェーズの対応プロセス

Phase 1: 検知・報告（0-1時間）
├── 自動検知（アラートシステム）
├── ユーザー報告（インシデント報告フォーム）
└── 初期トリアージ（深刻度判定）
    │
Phase 2: 初動対応（1-4時間）
├── インシデント対応チーム招集
├── 影響範囲の特定
├── 必要に応じてサービス停止/制限
└── ステークホルダーへの第一報
    │
Phase 3: 調査・分析（4-48時間）
├── 監査ログの確認
├── 入出力データの分析
├── 根本原因の特定
└── 再現テスト
    │
Phase 4: 是正・復旧（1-7日）
├── 修正の実装（プロンプト/フィルター/モデル）
├── テストと検証
├── サービス復旧
└── 影響を受けたユーザーへの対応
    │
Phase 5: 事後対応（1-2週間）
├── インシデントレポート作成
├── 再発防止策の策定
├── プロセス・ガイドラインの更新
└── 関係者への共有・教育

深刻度別の対応SLA

インシデント対応チームの構成

RACI マトリクス

AIインシデントの調査手法

監査ログベースの調査

class IncidentInvestigator:
    """AIインシデントの調査支援"""

    def __init__(self, audit_service, log_service):
        self.audit = audit_service
        self.logs = log_service

    def investigate(self, incident_id: str, time_range: tuple) -> dict:
        """インシデントを調査"""
        # 1. 該当時間帯のログを取得
        related_logs = self.audit.find_by_timerange(*time_range)

        # 2. エラーパターンの分析
        error_patterns = self._analyze_error_patterns(related_logs)

        # 3. 影響を受けたユーザーの特定
        affected_users = self._identify_affected_users(related_logs)

        # 4. 根本原因の候補特定
        root_causes = self._identify_root_causes(related_logs)

        return {
            "incident_id": incident_id,
            "total_affected_requests": len(related_logs),
            "affected_users": len(affected_users),
            "error_patterns": error_patterns,
            "root_cause_candidates": root_causes,
            "timeline": self._build_timeline(related_logs)
        }

    def _analyze_error_patterns(self, logs: list) -> list:
        """エラーパターンを分析"""
        patterns = {}
        for log in logs:
            if log.error_occurred:
                key = f"{log.error_type}:{log.model_name}"
                patterns[key] = patterns.get(key, 0) + 1
        return sorted(
            [{"pattern": k, "count": v} for k, v in patterns.items()],
            key=lambda x: x["count"], reverse=True
        )

    def _identify_affected_users(self, logs: list) -> set:
        """影響を受けたユーザーを特定"""
        return {log.user_id for log in logs if log.error_occurred or log.confidence_score < 0.5}

    def _identify_root_causes(self, logs: list) -> list:
        """根本原因の候補を特定"""
        causes = []
        # モデル変更の確認
        model_versions = {log.model_version for log in logs}
        if len(model_versions) > 1:
            causes.append("モデルバージョンの変更")
        # プロンプト変更の確認
        prompt_ids = {log.prompt_template_id for log in logs}
        if len(prompt_ids) > 1:
            causes.append("プロンプトテンプレートの変更")
        # 入力データの変化
        # (信頼度スコアの急落を検知)
        scores = [log.confidence_score for log in logs]
        if scores:
            avg = sum(scores) / len(scores)
            if avg < 0.7:
                causes.append("入力データの品質変化またはモデル劣化")
        return causes

    def _build_timeline(self, logs: list) -> list:
        """イベントタイムラインを構築"""
        events = []
        for log in sorted(logs, key=lambda x: x.timestamp):
            if log.error_occurred:
                events.append({
                    "time": log.timestamp.isoformat(),
                    "event": f"エラー: {log.error_type}",
                    "user": log.user_id
                })
        return events

インシデントレポートのテンプレート

まとめ

チェックリスト

• AIインシデントの6つのカテゴリを理解した
• 5フェーズの対応プロセスを設計できる
• 深刻度別のSLAを策定できる
• 監査ログを活用した調査手法を把握した
• インシデントレポートの構成を理解した

次のステップへ

次は継続的改善の仕組みを学び、ガバナンス全体のPDCAサイクルを確立します。

推定読了時間: 30分