ストーリー

LLMシステムのコスト構造

コストの内訳

主要LLMの価格比較

NetShop社のコスト分析

from dataclasses import dataclass

@dataclass
class SystemCostAnalysis:
    """AIシステム別コスト分析"""
    system_name: str
    monthly_requests: int
    avg_input_tokens: int
    avg_output_tokens: int
    model: str
    input_price_per_1m: float
    output_price_per_1m: float

    @property
    def monthly_token_cost(self) -> float:
        input_cost = (self.monthly_requests * self.avg_input_tokens / 1_000_000) * self.input_price_per_1m
        output_cost = (self.monthly_requests * self.avg_output_tokens / 1_000_000) * self.output_price_per_1m
        return input_cost + output_cost

# NetShop社の各システム
systems = [
    SystemCostAnalysis("チャットボット", 10000, 2000, 500, "GPT-4o", 2.50, 10.00),
    SystemCostAnalysis("レコメンド", 5000000, 500, 200, "GPT-4o-mini", 0.15, 0.60),
    SystemCostAnalysis("商品説明生成", 2000, 3000, 1000, "GPT-4o", 2.50, 10.00),
    SystemCostAnalysis("請求書処理", 3000, 5000, 800, "Claude 3.5 Sonnet", 3.00, 15.00),
    SystemCostAnalysis("通話記録", 4000, 8000, 2000, "GPT-4o", 2.50, 10.00),
    SystemCostAnalysis("画像チェック", 5000, 1000, 300, "GPT-4o-mini", 0.15, 0.60),
]

for s in systems:
    print(f"{s.system_name}: ${s.monthly_token_cost:.2f}/月")

コスト可視化

コストダッシュボードの設計

コスト異常の検知

コスト最適化の機会特定

最適化の4つの軸

軸1: モデル選択の最適化
├── タスク複雑度に応じたモデルの使い分け
└── 高性能モデルが不要な箇所を特定

軸2: トークン使用量の削減
├── プロンプトの圧縮
├── 不要なコンテキストの削除
└── 出力長の制限

軸3: キャッシュの活用
├── 同一/類似リクエストのキャッシュ
└── RAG結果のキャッシュ

軸4: アーキテクチャの最適化
├── バッチ処理の活用
├── 非同期処理によるスループット向上
└── リクエストルーティングの最適化

まとめ

チェックリスト

• LLMシステムのコスト構造を理解した
• 主要モデルの価格体系を把握した
• コスト可視化ダッシュボードの主要パネルを設計できる
• コスト最適化の4つの軸を理解した

次のステップへ

次はキャッシング戦略を学び、コスト削減の具体的手法を習得します。

推定読了時間: 30分