総合演習:離反防止戦略レポート
「いよいよ総仕上げだ。経営会議でプレゼンするレポートを作ってくれ。」
田中VPoEが最終課題を提示する。
「今まで学んだすべてを結集して、NetShop社の離反防止戦略レポートを完成させてほしい。データ分析からモデル構築、AIエージェント、品質管理まで、一貫した戦略として提案するんだ。」
ミッション概要
NetShop社の経営会議に提出する「顧客離反防止戦略レポート」を作成する。データ分析の結果からAIエージェントの提案まで、すべてを統合した包括的なレポートである。
Mission 1: エグゼクティブサマリー(20分)
経営層向けの1ページサマリーを作成せよ。以下を含めること。
- 課題: 月間解約率5%の現状とビジネスインパクト(金額ベース)
- アプローチ: Kaggle Telcoデータでの分析と予測モデル構築
- 主要発見: 離反の主要因Top 3とその定量的根拠
- 解決策: AIエージェントによる離反予防システムの提案
- 期待効果: 離反率改善による収益インパクト(金額)
解答例
=== エグゼクティブサマリー ===
【課題】
NetShop社の月間解約率が5%に上昇。年間で顧客の46%を失う計算であり、
年間売上損失は約6億円と推定される。
(顧客10,000人 × 月間離反500人 × LTV ¥100,000 × 12ヶ月補正)
【アプローチ】
Kaggle Telco Customer Churn(7,043件)を用いた分析とモデル構築。
仮説ドリブンEDA → 特徴量エンジニアリング → LightGBM → AIエージェント化。
【主要発見】
1. 契約形態: Month-to-month契約の離反率は42.7%(年間契約の4倍)
2. 利用期間: 入会後12ヶ月以内の離反率は47.7%
3. サービス加入: 付加サービス0個の離反率は50%(6個の3倍以上)
【解決策】
LangGraphベースの離反分析AIエージェントを構築。
- 自然言語で顧客の離反リスクを問い合わせ可能
- SHAP分析で離反要因を自動特定
- 要因に応じたリテンション施策を自動提案
- Human-in-the-Loop設計で品質を担保
【期待効果】
離反率を5%→4%に1%改善した場合:
- 月間維持顧客: +100人/月
- 年間LTV増加: 約1.25億円
- 初年度ROI: 約500%(システム開発コスト ¥2,500万に対して)
Mission 2: 技術アーキテクチャと分析結果(40分)
以下を含む技術レポートを作成せよ。
-
データ分析セクション
- 使用データの概要(件数、特徴量数、離反率)
- 仮説検証の結果(最低5つの仮説と検証結果)
- 主要な発見の可視化(グラフ2つ以上の説明)
-
モデル構築セクション
- モデル比較結果(最低4モデル)
- 最終モデルの性能(AUC-ROC, PR-AUC, F1, Recall)
- 特徴量重要度Top 10
-
AIエージェントセクション
- システムアーキテクチャ図
- ワークフローの説明(ノード数、条件分岐)
- 使用例(入力→出力のサンプル)
解答例
=== 技術レポート ===
■ データ分析
データ概要:
- Kaggle Telco Customer Churn: 7,043件 × 21列
- 離反率: 26.5%(不均衡だが極端ではない)
- 前処理: TotalCharges型変換(11件欠損→0補完)、One-Hotエンコーディング
仮説検証結果:
| 仮説 | 検証値 | 判定 |
|------|--------|------|
| H1: Month-to-month→離反率高 | 42.7% vs 2.8%(2yr) | 支持 |
| H4: Fiber optic→離反率高 | 41.9% vs 19.0%(DSL) | 支持 |
| H7: tenure短→離反率高 | 0-12M: 47.7% | 支持 |
| H10: E-check→離反率高 | 45.3% vs 16%(他) | 支持 |
| H5: Security未加入→離反高 | 41.8% vs 14.6% | 支持 |
■ モデル構築
モデル比較:
| モデル | AUC-ROC | PR-AUC | F1 |
|--------|---------|--------|-----|
| LightGBM(tuned) | 0.86 | 0.70 | 0.62 |
| XGBoost(tuned) | 0.85 | 0.68 | 0.60 |
| Random Forest | 0.84 | 0.66 | 0.58 |
| Logistic Reg. | 0.83 | 0.63 | 0.56 |
最終モデル: LightGBM (Optuna 100試行チューニング)
- テストデータ AUC-ROC: 0.86, Recall: 0.78
- 過学習: 訓練0.89 vs テスト0.86(差分0.03、許容範囲)
特徴量重要度Top 5:
1. tenure(利用月数)
2. Contract_Month-to-month
3. MonthlyCharges
4. InternetService_Fiber optic
5. TotalCharges
■ AIエージェント
アーキテクチャ: LangGraph StateGraph
- 8ノード: 意図分類/データ取得/前処理/予測/SHAP/施策/応答/エラー
- 2条件分岐: 意図分類後、リスクレベル判定後
- HITL: リスクレベル × アクション種類の承認マトリックス
使用例:
入力: "顧客 7590-VHVEG の離反リスクを分析して"
出力: "離反確率: 72.3%(高リスク)
主要因: 1. Month-to-month契約 2. 利用期間2ヶ月 3. Fiber optic
推奨: 年間契約20%割引提案、オンボーディング強化、セキュリティ無料トライアル"
Mission 3: 実行計画とROI(30分)
以下を含む実行計画を策定せよ。
- フェーズ計画(3フェーズ、各フェーズの目標・期間・コスト)
- リスクと対策(最低3つのリスクと緩和策)
- KPI設計(最低5つのKPIとモニタリング方法)
- ROI計算(投資額 vs 期待リターン、回収期間)
解答例
=== 実行計画 ===
■ フェーズ計画
Phase 1: PoC(1ヶ月, ¥500万)
目標: 社内テスト環境でエージェント動作検証
成果物: プロトタイプ、テスト結果レポート
KPI: AUC-ROC 0.85以上、レスポンス3秒以下
Phase 2: パイロット(2ヶ月, ¥1,000万)
目標: CSチーム5名で実業務テスト
成果物: パイロット結果レポート、改善版エージェント
KPI: 施策実行率50%以上、離反率1%改善
Phase 3: 全社展開(3ヶ月, ¥1,000万)
目標: 全CS/営業チームへ展開
成果物: 本番システム、運用マニュアル
KPI: 月間利用1,000回以上、離反率2%改善
■ リスクと対策
1. モデル精度の低下
リスク: データ分布の変化でモデルが劣化
対策: 月次でのモデルモニタリング、自動再学習パイプライン
2. ユーザー採用率の低さ
リスク: 営業/CSチームが使わない
対策: トレーニング実施、成功事例の共有、UI/UXの改善
3. プライバシー・セキュリティ
リスク: 顧客データの不適切な取り扱い
対策: データアクセス制御、監査ログ、匿名化の検討
4. LLM APIの障害
リスク: API停止時にエージェントが使えない
対策: フォールバック(ルールベース応答)の実装
■ KPI設計
| KPI | 目標 | 測定方法 | 頻度 |
|-----|------|---------|------|
| 月間離反率 | 3%以下 | 月次解約数/月初顧客数 | 月次 |
| エージェント利用回数 | 1,000回/月 | ログ集計 | 週次 |
| 施策実行率 | 70%以上 | 提案に対する実行数 | 月次 |
| モデルAUC-ROC | 0.85以上 | テストデータで評価 | 月次 |
| ユーザー満足度 | 4.0/5以上 | フィードバック平均 | 月次 |
| 平均レスポンス時間 | 3秒以下 | APMツール | リアルタイム |
■ ROI計算
投資額:
Phase 1-3合計: ¥2,500万
年間運用コスト: ¥500万(LLM API + インフラ + 保守)
期待リターン:
離反率2%改善(5%→3%)の場合:
月間維持増: 200人 × LTV ¥100,000 = ¥2,000万/月
年間: ¥2.4億
ROI:
初年度: (¥2.4億 - ¥3,000万) / ¥3,000万 = 700%
回収期間: 約2ヶ月
達成度チェック
- エグゼクティブサマリーを1ページで作成した
- 課題とインパクトを金額で定量化した
- 5つ以上の仮説検証結果を記載した
- モデル比較表と最終モデルの性能を記載した
- AIエージェントのアーキテクチャを説明した
- 3フェーズの実行計画を策定した
- 3つ以上のリスクと対策を記載した
- ROI計算と回収期間を算出した
推定所要時間: 90分