LESSON

総合演習:カスタマーサポートAI導入レポート

「いよいよ総仕上げだ。カスタマーサポートAIの導入を経営会議で提案するレポートを作ってくれ。」

田中VPoEが最終課題を提示する。

「NLP技術の選定からAIエージェントの設計、運用計画まで、一貫した戦略として提案するんだ。」

ミッション概要

NetShop社の経営会議に提出する「カスタマーサポートAI導入レポート」を作成する。


Mission 1: エグゼクティブサマリー(20分)

以下を含む1ページサマリーを作成せよ。

  1. 課題: 月5,000件の問い合わせへの対応コストと品質問題
  2. アプローチ: NLP+AIエージェントによるサポート自動化
  3. 期待効果: コスト削減とCSAT改善の試算
  4. 投資対効果: ROIと回収期間
解答例
=== エグゼクティブサマリー ===

■ 課題
月間5,000件の問い合わせ対応: 人件費月間1,250万円
平均対応時間: 15分/件、一次解決率: 60%、CSAT: 3.5/5.0
手動分類の誤り率: 15%、テンプレート回答の不適合率: 30%

■ アプローチ
BERT Fine-tuning + LangGraphエージェントで自動化
分類精度: F1=0.92(SVM:0.85, LLM:0.88との比較検証済み)
RAGベース回答生成 + エスカレーション判断

■ 期待効果
- AI対応率: 70%(3,500件/月を自動対応)
- 対応コスト: 1,250万→410万円/月(67%削減)
- CSAT: 3.5→4.0以上
- 対応時間: 15分→2分(AI対応)

■ 投資対効果
- 開発費: 600万円、年間運用費: 240万円
- 年間コスト削減: 約1億円
- ROI: 1,090%、回収期間: 0.9ヶ月

Mission 2: 技術アプローチの詳細(25分)

以下を含むテクニカルレポートを作成せよ。

  1. 3手法の比較結果(NB/SVM vs BERT vs LLM)
  2. NLPパイプライン設計
  3. エージェントアーキテクチャ
  4. エスカレーション設計
解答例
=== テクニカルレポート ===

■ 3手法比較
| 手法 | F1 | 推論時間 | コスト/1K | 学習データ |
|------|-----|---------|----------|-----------|
| SVM | 0.85 | 0.1ms | 0円 | 3000件 |
| BERT | 0.92 | 10ms | 0円 | 500件 |
| LLM | 0.88 | 500ms | 2000円 | 0件 |

選定: BERT Fine-tuning(精度とコストの最適バランス)
フォールバック: LLM Zero-shot(確信度<0.7時)

■ パイプライン
入力 → 前処理(Janome) → BERT分類 → FAQ検索(SentenceTransformer)
→ 回答生成(RAG) → 品質チェック → 応答

■ エスカレーション
確信度<0.5, フラストレーション>=4, 法的キーワード, リピート3回以上
→ AI回答ドラフト付きで人間に引き継ぎ

Mission 3: 運用計画(25分)

以下を含む運用計画を作成せよ。

  1. 品質評価体制(LLM-as-Judge + CSAT)
  2. 導入スケジュール
  3. リスクと対策
  4. 改善ロードマップ
解答例
=== 運用計画 ===

■ 品質評価
日次: LLM-as-Judge自動評価(5軸)
週次: CSATレビュー + 低品質回答分析
月次: 人間による100件サンプルレビュー

■ 導入スケジュール
Phase 1(1ヶ月): モデル構築 + エージェント開発
Phase 2(2ヶ月): シャドー運用(人間回答と並行)
Phase 3(3ヶ月): パイロット導入(商品問合せカテゴリのみ)
Phase 4(4ヶ月): 全カテゴリ展開

■ リスクと対策
| リスク | 対策 |
|--------|------|
| ハルシネーション | FAQ外は「確認します」と回答 |
| 感情的クレーム | 自動エスカレーション |
| モデル劣化 | 月次再学習 + ドリフト監視 |
| システム障害 | 人間対応へのフォールバック |

■ 改善ロードマップ
3ヶ月後: 全カテゴリ展開、CSAT 4.0達成
6ヶ月後: 多言語対応(英語)
9ヶ月後: チャットボットUI導入
12ヶ月後: 音声対応(コールセンター)

達成度チェック

  • エグゼクティブサマリーにROIと削減額を含めた
  • 3手法の定量比較を提示した
  • エスカレーション設計を含めた
  • 品質評価体制を設計した
  • リスク対策と改善ロードマップを含めた

推定所要時間: 90分