ストーリー

HITL設計の基本概念

なぜHITLが必要か

AIは万能ではない。以下の理由からHITL設計は不可欠だ。

HITL設計パターン

パターン1: 事前承認型

AIが処理する前に人間が承認する。

[入力] → [人間が確認・承認] → [AI処理] → [出力]

適用場面: リスクが高く、取り消しが困難な処理
例: 高額支払い処理、顧客への一斉メール送信

パターン2: 事後確認型

AIが処理した結果を人間が確認する。

[入力] → [AI処理] → [人間が確認] → [出力確定]

適用場面: ある程度のAI精度があるが、最終確認が必要
例: AIが作成した請求書データの承認、レポートのレビュー

パターン3: 例外エスカレーション型

AIが処理し、問題がある場合のみ人間にエスカレーションする。

[入力] → [AI処理] → <確信度チェック>
  ├── 高確信度 → [自動出力]
  └── 低確信度 → [人間にエスカレーション] → [人間が処理] → [出力]

適用場面: 大量処理で、大部分はAIで問題なく処理できる
例: 問い合わせの自動回答、請求書のOCR読み取り

パターン4: 並行処理型

AIと人間が同じタスクを並行して処理し、結果を比較する。

[入力] ──→ [AI処理]  ──→ [結果比較] → <一致?>
       └→ [人間処理] ──┘              ├── 一致 → [出力]
                                       └── 不一致 → [上位者判断]

適用場面: AI導入初期のパイロットフェーズ
例: AI診断と専門家判断の比較検証

パターン5: 段階的委譲型

AI精度の向上に応じて、人間の関与を段階的に減らす。

Phase 1: [AI提案] → [人間が全件確認] → [出力]
Phase 2: [AI処理] → [人間がサンプル確認（20%）] → [出力]
Phase 3: [AI処理] → [低確信度のみ人間確認（5%）] → [出力]
Phase 4: [AI処理] → [月次で品質監査] → [出力]

NetShop社へのHITL適用

請求書処理のHITL設計

問い合わせ対応のHITL設計

承認フロー設計のポイント

承認権限マトリクス

例外処理フロー

[AI処理結果] → <例外検出?>
  ├── 例外なし → [通常フロー]
  └── 例外あり → <例外タイプ?>
      ├── 軽微（データ不備）→ [担当者に差し戻し] → [修正後再処理]
      ├── 中程度（照合不一致）→ [チームリーダーにエスカレーション]
      └── 重大（不正の疑い）→ [マネージャーに即時通知] → [調査開始]

まとめ

チェックリスト

• HITLが必要な理由を5つ挙げられる
• 5つのHITLパターンの特徴と適用場面を説明できる
• 承認権限マトリクスを設計できる
• 例外処理フローを設計できる

次のステップへ

次は「信頼度キャリブレーション」として、AIの確信度をどう活用するかを学ぼう。

推定読了時間: 30分