ストーリー

AI品質の4つの軸

品質フレームワーク

AIシステムの品質は、以下の4つの軸で測定します。

AI品質の4軸モデル:

            精度
            ▲
            │
            │
  安全性 ◄──┼──► レイテンシ
            │
            │
            ▼
           コスト

4軸すべてのバランスが重要:
- 精度を上げるとコスト・レイテンシが増加
- コストを下げると精度が低下
- 安全性を強化すると応答の柔軟性が低下

各軸の具体的メトリクス

LLM出力品質の自動評価手法

手法1: LLM-as-a-Judge

別のLLMを「審査員」として使い、出力品質を自動評価する手法です。

# LLM-as-a-Judge の実装例
JUDGE_PROMPT = """
あなたはAI回答品質の審査員です。以下の基準で回答を1-5のスコアで評価してください。

## 評価基準
- 正確性: 事実に基づいているか（1-5）
- 関連性: 質問に適切に回答しているか（1-5）
- 完全性: 必要な情報を網羅しているか（1-5）
- 明確性: わかりやすく説明されているか（1-5）

## 入力
質問: {question}
コンテキスト（参照情報）: {context}
AI回答: {response}

## 出力形式（JSON）
{{
  "accuracy": <1-5>,
  "relevance": <1-5>,
  "completeness": <1-5>,
  "clarity": <1-5>,
  "overall": <1-5>,
  "reasoning": "<評価理由>"
}}
"""

class LLMJudge:
    def __init__(self, judge_model="gpt-4o"):
        self.judge_model = judge_model

    def evaluate(self, question, context, response):
        prompt = JUDGE_PROMPT.format(
            question=question,
            context=context,
            response=response
        )
        result = call_llm(self.judge_model, prompt)
        return parse_json(result)

手法2: 自動メトリクス

手法3: カスタム評価関数

ビジネス要件に特化した評価ロジックを実装します。

# カスタム評価関数の例
class CustomEvaluators:
    @staticmethod
    def check_source_citation(response, sources):
        """回答にソースの引用が含まれているか"""
        cited = sum(1 for s in sources if s.title in response)
        return cited / len(sources) if sources else 0

    @staticmethod
    def check_format_compliance(response, expected_format):
        """期待されるフォーマットに準拠しているか"""
        if expected_format == "json":
            try:
                json.loads(response)
                return 1.0
            except json.JSONDecodeError:
                return 0.0
        elif expected_format == "markdown_table":
            return 1.0 if "|" in response and "---" in response else 0.0

    @staticmethod
    def check_prohibited_content(response, prohibited_terms):
        """禁止用語が含まれていないか"""
        violations = [t for t in prohibited_terms if t in response]
        return 0.0 if violations else 1.0

モデルドリフトと品質劣化の検出

ドリフトの種類

AIシステムの品質は時間とともに劣化します。これを「ドリフト」と呼びます。

品質劣化の検出フロー:

日次バッチ評価
  │
  ├── 品質スコアの移動平均を計算
  │     │
  │     ├── 7日移動平均 < 閾値 → Warning
  │     └── 3日連続で低下 → Critical
  │
  ├── 入力分布の変化を検出
  │     │
  │     └── KLダイバージェンス > 閾値 → データドリフトアラート
  │
  └── カテゴリ別品質分析
        │
        └── 特定カテゴリの品質低下 → RAGドリフトの可能性

品質劣化の検出ルール

ハルシネーション検出と対策

ハルシネーションの分類

検出手法

# ハルシネーション検出の実装例
class HallucinationDetector:
    def detect(self, query, response, rag_sources):
        results = {
            "source_grounding": self._check_source_grounding(
                response, rag_sources
            ),
            "entity_verification": self._verify_entities(response),
            "confidence_calibration": self._check_overconfidence(response),
            "self_consistency": self._check_self_consistency(
                query, response
            ),
        }
        return results

    def _check_source_grounding(self, response, sources):
        """回答がRAGソースに基づいているか検証"""
        claims = extract_claims(response)
        grounded = 0
        for claim in claims:
            if any(is_supported(claim, source) for source in sources):
                grounded += 1
        return grounded / len(claims) if claims else 1.0

    def _check_self_consistency(self, query, response):
        """同じ質問を複数回実行し、回答の一貫性を検証"""
        responses = [generate_response(query) for _ in range(3)]
        consistency = calculate_similarity(responses)
        return consistency  # 低い一貫性 = ハルシネーションの可能性

対策マトリクス

アラート設計

いつ人間が介入すべきか

# アラートルール定義の例
alerts:
  - name: "critical_safety_violation"
    level: "P1"
    condition: |
      safety_filter.violation_count > 0
      AND safety_filter.severity == "critical"
    action:
      - notify: ["oncall", "manager", "security-team"]
      - auto_action: "enable_fallback_mode"
    cooldown: 0  # 即座に通知

  - name: "quality_degradation"
    level: "P2"
    condition: |
      quality_score.7day_moving_avg < 3.5
      OR quality_score.daily_change < -20%
    action:
      - notify: ["oncall"]
      - auto_action: "increase_sampling_rate"
    cooldown: 3600  # 1時間に1回

  - name: "cost_overrun"
    level: "P3"
    condition: |
      daily_cost > budget_daily * 1.2
    action:
      - notify: ["team-channel"]
      - auto_action: "enable_rate_limiting"
    cooldown: 86400  # 1日に1回

ダッシュボード設計

3層ダッシュボード

オペレーションダッシュボードの構成例

┌──────────────────────────────────────────────────────┐
│  AI品質モニタリング ダッシュボード                      │
├──────────────┬──────────────┬──────────────┬─────────┤
│  品質スコア   │  レイテンシ   │  コスト      │ 安全性   │
│  ████ 4.2/5  │  p95: 1.8s  │  $234/日     │ 0.05%   │
│  ▲ +0.1     │  ▼ -0.2s    │  ▲ +12%     │ ● 正常   │
├──────────────┴──────────────┴──────────────┴─────────┤
│  品質スコア推移（30日）                                 │
│  5 ┤                                                 │
│  4 ┤  ──────────────────────────────                  │
│  3 ┤                                                 │
│  2 ┤                                                 │
│    └──────────────────────────────────────────        │
├──────────────────────────────────────────────────────┤
│  カテゴリ別品質        │  直近のアラート                │
│  FAQ: 4.5 ████████    │  ● P3 コスト超過 (2h前)      │
│  技術: 4.0 ███████    │  ● P4 レイテンシ微増 (6h前)   │
│  規約: 3.8 ██████     │                              │
│  一般: 4.3 ████████   │                              │
├──────────────────────────────────────────────────────┤
│  ハルシネーション率: 3.2%  │  ユーザー満足度: 82%        │
│  目標: <5% ● 達成       │  目標: >80% ● 達成         │
└──────────────────────────────────────────────────────┘

ダッシュボードに含めるべき主要ウィジェット

まとめ

チェックリスト

• AI品質の4つの軸（精度、レイテンシ、コスト、安全性）を理解した
• LLM-as-a-Judgeの仕組みと利点・制限を理解した
• モデルドリフトの種類と検出方法を理解した
• ハルシネーションの分類と検出手法を理解した
• アラート設計の4段階を理解した
• 3層ダッシュボードの設計方針を理解した

次のステップへ

次は「AIインシデント対応」です。AIシステム固有の障害にどう対応するか、プレイブックの作成方法を学びましょう。

推定読了時間: 30分