LESSON 30分

ストーリー

田中VPoE
「自動化レベルの設計ができた。次はAIと人間がどう協業するか、具体的なインタラクションパターンを設計しよう。Level 2〜3のタスクでは、AIと人間のやり取りが頻繁に発生する。その設計が悪いと、かえって業務が非効率になることもある。」
あなた
「AIが便利でも、使いにくいと現場が使ってくれなさそうですね。」
田中VPoE
「その通り。技術的に可能なことと、現場で使われることは違う。人間中心設計の観点から、AIとの最適なインタラクションを考えよう。」

コラボレーションパターン

パターン1: AIアシスタント型

AIが人間の作業を補助する。主導権は人間にある。

[人間] ──── 質問・指示 ────→ [AI]
[人間] ←──── 回答・提案 ──── [AI]
[人間] ──── 採用/却下 ────→ [AI](学習データとして蓄積)

適用場面:

  • 問い合わせ対応時のFAQサジェスト
  • レポート作成時のデータ分析アシスト
  • 勘定科目判定時の候補提示

設計のポイント:

  • AIの提案は3つ以内に絞る(選択肢が多すぎると判断負荷が増す)
  • 提案の根拠を簡潔に表示する(「過去30件の類似ケースでは90%がカテゴリAでした」)
  • 人間がAIの提案を修正した場合、その理由を簡単に入力できるようにする

パターン2: AIドラフト型

AIが成果物のドラフトを作成し、人間が編集・承認する。

[入力データ] → [AIがドラフト作成] → [人間がレビュー・編集] → [確定]

                                         ├── 承認(修正なし)
                                         ├── 軽微な修正後に承認
                                         └── 差し戻し(再生成指示)

適用場面:

  • 問い合わせ回答文の作成
  • レポートのサマリー作成
  • 請求書データの自動入力

設計のポイント:

  • ドラフトの変更箇所がわかりやすいUI(差分表示)
  • ワンクリック承認とインライン編集の両方を提供
  • 修正パターンを蓄積し、ドラフト品質を継続的に改善

パターン3: AIゲートキーパー型

AIが条件判定を行い、適切な処理ルートに振り分ける。

[入力] → [AI判定] → <条件分岐>
                     ├── ルートA: 自動処理
                     ├── ルートB: 担当者Xへ
                     ├── ルートC: 担当者Yへ
                     └── ルートD: マネージャーへ

適用場面:

  • 問い合わせの自動分類と担当者振り分け
  • 請求書の承認ルート決定
  • 例外ケースの検出とエスカレーション

設計のポイント:

  • 振り分けルールの透明性(なぜこのルートに振り分けられたかを表示)
  • 担当者が手動でルートを変更できるオーバーライド機能
  • 振り分け精度のモニタリングダッシュボード

パターン4: AIモニター型

AIがプロセスをリアルタイムで監視し、異常時にアラートを出す。

[業務プロセス実行中] ←──── [AIが常時監視]

                              ├── 正常 → 何もしない
                              ├── 注意 → ダッシュボードに表示
                              └── 異常 → アラート発報 → [人間が対応]

適用場面:

  • 処理時間の異常検知(SLA超過リスク)
  • 入力データの異常パターン検出(不正請求の疑い)
  • オペレーターの負荷偏りの検知

インタラクション設計の原則

1. 透明性(Transparency)

AIがなぜその結論に至ったかを人間が理解できるようにする。

レベル説明
結果のみAIの判断結果だけ表示「勘定科目: 通信費」
確信度付き結果と確信度を表示「勘定科目: 通信費(確信度92%)」
根拠付き判断の根拠も表示「勘定科目: 通信費(確信度92%)- 取引先NTTの過去50件中48件が通信費」
比較付き代替候補も含めて表示「通信費 92% / 支払手数料 5% / その他 3%」

推奨: Level 2〜3の自動化タスクでは「根拠付き」以上の透明性を確保する。

2. 制御可能性(Controllability)

人間がAIの判断を容易にオーバーライドできるようにする。

必須機能:
  ├── ワンクリックで承認/却下
  ├── AIの判断を上書きする機能
  ├── 自動処理の一時停止機能
  └── 自動化レベルの変更権限

3. 段階的信頼構築(Progressive Trust)

最初から全面的に信頼することを求めず、段階的に信頼を構築する。

Week 1-2:  AI提案を全件表示、人間が全て判断
Week 3-4:  AI提案の採用率を計測、精度が80%以上なら次フェーズへ
Week 5-8:  高確信度の提案は自動適用、低確信度のみ人間が判断
Week 9-12: 例外のみ人間が対応、定期監査で品質確認

4. フィードバックループ

人間の修正をAIの改善に活かす仕組みを組み込む。

[AI処理] → [人間レビュー] → <修正あり?>
  │                          ├── なし → そのまま出力
  │                          └── あり → [修正内容を記録]
  │                                          │
  └── [AIモデル改善] ←── [修正データを学習] ←─┘

NetShop社のコラボレーション設計例

問い合わせ対応のコラボレーションフロー

[顧客の問い合わせ]


[AIゲートキーパー: カテゴリ分類・緊急度判定]

    ├── 配送状況確認 → [AIが自動回答](Level 5)

    ├── FAQ該当(確信度85%以上)→ [AIドラフト型]
    │     └── AIが回答ドラフトを表示
    │         └── オペレーターがワンクリック送信 or 編集して送信

    ├── FAQ該当(確信度85%未満)→ [AIアシスタント型]
    │     └── AIが類似FAQと過去対応を表示
    │         └── オペレーターが回答を作成

    └── クレーム・高額返金 → [AIアシスタント型 + AIモニター型]
          └── AIが過去の類似クレーム対応を表示
              └── シニアオペレーターが対応
                  └── AIが対応品質をリアルタイム分析

請求書処理のコラボレーションフロー

[請求書PDF到着]


[AI自動処理: OCR → データ抽出 → 照合](Level 3)

    ├── 全項目の確信度が90%以上 & 照合一致
    │     └── [AIゲートキーパー: 承認ルート判定]
    │           ├── 10万円未満 → 自動承認
    │           └── 10万円以上 → 承認者のキューに追加

    └── 確信度90%未満の項目あり or 照合不一致
          └── [AIドラフト型: 経理担当者のレビューキュー]
                └── 担当者が確認・修正 → 承認フローへ

まとめ

項目ポイント
4つのコラボレーションパターンアシスタント型、ドラフト型、ゲートキーパー型、モニター型
インタラクション設計原則透明性、制御可能性、段階的信頼構築、フィードバックループ
実装のポイント提案は3つ以内、根拠を表示、オーバーライド可能に
組み合わせ1つのプロセスで複数パターンを組み合わせて設計する

チェックリスト

  • 4つのコラボレーションパターンの特徴と使い分けを説明できる
  • インタラクション設計の4原則を理解した
  • 具体的な業務フローにコラボレーションパターンを適用できる
  • フィードバックループの設計ができる

次のステップへ

次は演習として、NetShop社の業務プロセスに対して、AIと人間の協業設計を実際に行おう。


推定読了時間: 30分