LESSON

総合演習:離反防止戦略レポート

「いよいよ総仕上げだ。経営会議でプレゼンするレポートを作ってくれ。」

田中VPoEが最終課題を提示する。

「今まで学んだすべてを結集して、NetShop社の離反防止戦略レポートを完成させてほしい。データ分析からモデル構築、AIエージェント、品質管理まで、一貫した戦略として提案するんだ。」

ミッション概要

NetShop社の経営会議に提出する「顧客離反防止戦略レポート」を作成する。データ分析の結果からAIエージェントの提案まで、すべてを統合した包括的なレポートである。


Mission 1: エグゼクティブサマリー(20分)

経営層向けの1ページサマリーを作成せよ。以下を含めること。

  1. 課題: 月間解約率5%の現状とビジネスインパクト(金額ベース)
  2. アプローチ: Kaggle Telcoデータでの分析と予測モデル構築
  3. 主要発見: 離反の主要因Top 3とその定量的根拠
  4. 解決策: AIエージェントによる離反予防システムの提案
  5. 期待効果: 離反率改善による収益インパクト(金額)
解答例
=== エグゼクティブサマリー ===

【課題】
NetShop社の月間解約率が5%に上昇。年間で顧客の46%を失う計算であり、
年間売上損失は約6億円と推定される。
(顧客10,000人 × 月間離反500人 × LTV ¥100,000 × 12ヶ月補正)

【アプローチ】
Kaggle Telco Customer Churn(7,043件)を用いた分析とモデル構築。
仮説ドリブンEDA → 特徴量エンジニアリング → LightGBM → AIエージェント化。

【主要発見】
1. 契約形態: Month-to-month契約の離反率は42.7%(年間契約の4倍)
2. 利用期間: 入会後12ヶ月以内の離反率は47.7%
3. サービス加入: 付加サービス0個の離反率は50%(6個の3倍以上)

【解決策】
LangGraphベースの離反分析AIエージェントを構築。
- 自然言語で顧客の離反リスクを問い合わせ可能
- SHAP分析で離反要因を自動特定
- 要因に応じたリテンション施策を自動提案
- Human-in-the-Loop設計で品質を担保

【期待効果】
離反率を5%→4%に1%改善した場合:
- 月間維持顧客: +100人/月
- 年間LTV増加: 約1.25億円
- 初年度ROI: 約500%(システム開発コスト ¥2,500万に対して)

Mission 2: 技術アーキテクチャと分析結果(40分)

以下を含む技術レポートを作成せよ。

  1. データ分析セクション

    • 使用データの概要(件数、特徴量数、離反率)
    • 仮説検証の結果(最低5つの仮説と検証結果)
    • 主要な発見の可視化(グラフ2つ以上の説明)
  2. モデル構築セクション

    • モデル比較結果(最低4モデル)
    • 最終モデルの性能(AUC-ROC, PR-AUC, F1, Recall)
    • 特徴量重要度Top 10
  3. AIエージェントセクション

    • システムアーキテクチャ図
    • ワークフローの説明(ノード数、条件分岐)
    • 使用例(入力→出力のサンプル)
解答例
=== 技術レポート ===

■ データ分析

データ概要:
- Kaggle Telco Customer Churn: 7,043件 × 21列
- 離反率: 26.5%(不均衡だが極端ではない)
- 前処理: TotalCharges型変換(11件欠損→0補完)、One-Hotエンコーディング

仮説検証結果:
| 仮説 | 検証値 | 判定 |
|------|--------|------|
| H1: Month-to-month→離反率高 | 42.7% vs 2.8%(2yr) | 支持 |
| H4: Fiber optic→離反率高 | 41.9% vs 19.0%(DSL) | 支持 |
| H7: tenure短→離反率高 | 0-12M: 47.7% | 支持 |
| H10: E-check→離反率高 | 45.3% vs 16%(他) | 支持 |
| H5: Security未加入→離反高 | 41.8% vs 14.6% | 支持 |

■ モデル構築

モデル比較:
| モデル | AUC-ROC | PR-AUC | F1 |
|--------|---------|--------|-----|
| LightGBM(tuned) | 0.86 | 0.70 | 0.62 |
| XGBoost(tuned) | 0.85 | 0.68 | 0.60 |
| Random Forest | 0.84 | 0.66 | 0.58 |
| Logistic Reg. | 0.83 | 0.63 | 0.56 |

最終モデル: LightGBM (Optuna 100試行チューニング)
- テストデータ AUC-ROC: 0.86, Recall: 0.78
- 過学習: 訓練0.89 vs テスト0.86(差分0.03、許容範囲)

特徴量重要度Top 5:
1. tenure(利用月数)
2. Contract_Month-to-month
3. MonthlyCharges
4. InternetService_Fiber optic
5. TotalCharges

■ AIエージェント

アーキテクチャ: LangGraph StateGraph
- 8ノード: 意図分類/データ取得/前処理/予測/SHAP/施策/応答/エラー
- 2条件分岐: 意図分類後、リスクレベル判定後
- HITL: リスクレベル × アクション種類の承認マトリックス

使用例:
入力: "顧客 7590-VHVEG の離反リスクを分析して"
出力: "離反確率: 72.3%(高リスク)
  主要因: 1. Month-to-month契約 2. 利用期間2ヶ月 3. Fiber optic
  推奨: 年間契約20%割引提案、オンボーディング強化、セキュリティ無料トライアル"

Mission 3: 実行計画とROI(30分)

以下を含む実行計画を策定せよ。

  1. フェーズ計画(3フェーズ、各フェーズの目標・期間・コスト)
  2. リスクと対策(最低3つのリスクと緩和策)
  3. KPI設計(最低5つのKPIとモニタリング方法)
  4. ROI計算(投資額 vs 期待リターン、回収期間)
解答例
=== 実行計画 ===

■ フェーズ計画

Phase 1: PoC(1ヶ月, ¥500万)
  目標: 社内テスト環境でエージェント動作検証
  成果物: プロトタイプ、テスト結果レポート
  KPI: AUC-ROC 0.85以上、レスポンス3秒以下

Phase 2: パイロット(2ヶ月, ¥1,000万)
  目標: CSチーム5名で実業務テスト
  成果物: パイロット結果レポート、改善版エージェント
  KPI: 施策実行率50%以上、離反率1%改善

Phase 3: 全社展開(3ヶ月, ¥1,000万)
  目標: 全CS/営業チームへ展開
  成果物: 本番システム、運用マニュアル
  KPI: 月間利用1,000回以上、離反率2%改善

■ リスクと対策

1. モデル精度の低下
   リスク: データ分布の変化でモデルが劣化
   対策: 月次でのモデルモニタリング、自動再学習パイプライン

2. ユーザー採用率の低さ
   リスク: 営業/CSチームが使わない
   対策: トレーニング実施、成功事例の共有、UI/UXの改善

3. プライバシー・セキュリティ
   リスク: 顧客データの不適切な取り扱い
   対策: データアクセス制御、監査ログ、匿名化の検討

4. LLM APIの障害
   リスク: API停止時にエージェントが使えない
   対策: フォールバック(ルールベース応答)の実装

■ KPI設計

| KPI | 目標 | 測定方法 | 頻度 |
|-----|------|---------|------|
| 月間離反率 | 3%以下 | 月次解約数/月初顧客数 | 月次 |
| エージェント利用回数 | 1,000回/月 | ログ集計 | 週次 |
| 施策実行率 | 70%以上 | 提案に対する実行数 | 月次 |
| モデルAUC-ROC | 0.85以上 | テストデータで評価 | 月次 |
| ユーザー満足度 | 4.0/5以上 | フィードバック平均 | 月次 |
| 平均レスポンス時間 | 3秒以下 | APMツール | リアルタイム |

■ ROI計算

投資額:
  Phase 1-3合計: ¥2,500万
  年間運用コスト: ¥500万(LLM API + インフラ + 保守)

期待リターン:
  離反率2%改善(5%→3%)の場合:
  月間維持増: 200人 × LTV ¥100,000 = ¥2,000万/月
  年間: ¥2.4億

ROI:
  初年度: (¥2.4億 - ¥3,000万) / ¥3,000万 = 700%
  回収期間: 約2ヶ月

達成度チェック

  • エグゼクティブサマリーを1ページで作成した
  • 課題とインパクトを金額で定量化した
  • 5つ以上の仮説検証結果を記載した
  • モデル比較表と最終モデルの性能を記載した
  • AIエージェントのアーキテクチャを説明した
  • 3フェーズの実行計画を策定した
  • 3つ以上のリスクと対策を記載した
  • ROI計算と回収期間を算出した

推定所要時間: 90分