ストーリー

Token使用量の最適化

プロンプトエンジニアリングによる最適化

class PromptOptimizer:
    """プロンプトのトークン効率を最適化"""

    @staticmethod
    def compress_system_prompt(original: str) -> str:
        """システムプロンプトの圧縮"""
        # 冗長な記述を簡潔に
        optimizations = {
            "あなたはNetShop社のカスタマーサポート担当AIアシスタントです。お客様の質問に対して丁寧にお答えください。":
            "NetShop CSアシスタント。丁寧に回答。",

            "以下のルールに従って回答してください。まず、質問の内容を理解し、次に適切な回答を生成してください。":
            "以下のルールで回答:",
        }
        compressed = original
        for old, new in optimizations.items():
            compressed = compressed.replace(old, new)
        return compressed

    @staticmethod
    def optimize_few_shot(examples: list[dict], max_examples: int = 2) -> list[dict]:
        """Few-shot例の最適化"""
        # 最も代表的な例のみを選択
        if len(examples) > max_examples:
            return examples[:max_examples]
        return examples

    @staticmethod
    def truncate_context(context: str, max_tokens: int = 2000) -> str:
        """コンテキストのトランケーション"""
        # 簡易的なトークン数推定（日本語は文字数×1.5程度）
        estimated_tokens = len(context) * 1.5
        if estimated_tokens > max_tokens:
            char_limit = int(max_tokens / 1.5)
            return context[:char_limit] + "\n...(省略)"
        return context

出力トークンの制御

AI FinOpsの3つの柱

柱1: 可視化（Inform）

柱2: 最適化（Optimize）

柱3: 運営（Operate）

コスト最適化のROI計算

最適化施策のROI試算テンプレート

@dataclass
class OptimizationROI:
    """最適化施策のROI試算"""
    name: str
    current_monthly_cost: float
    expected_reduction_rate: float
    implementation_cost: float
    monthly_operation_cost: float

    @property
    def monthly_savings(self) -> float:
        return self.current_monthly_cost * self.expected_reduction_rate

    @property
    def net_monthly_savings(self) -> float:
        return self.monthly_savings - self.monthly_operation_cost

    @property
    def payback_months(self) -> float:
        if self.net_monthly_savings <= 0:
            return float('inf')
        return self.implementation_cost / self.net_monthly_savings

# NetShop社の試算
optimizations = [
    OptimizationROI("セマンティックキャッシュ", 100_0000, 0.30, 50_0000, 5_0000),
    OptimizationROI("モデルルーティング", 100_0000, 0.50, 30_0000, 3_0000),
    OptimizationROI("プロンプト圧縮", 100_0000, 0.15, 10_0000, 1_0000),
]

for opt in optimizations:
    print(f"{opt.name}: 月間削減{opt.net_monthly_savings/10000:.0f}万円, "
          f"回収{opt.payback_months:.1f}ヶ月")

まとめ

チェックリスト

• Token使用量の最適化テクニックを習得した
• AI FinOpsの3つの柱を理解した
• コスト配賦とチャージバックの仕組みを把握した
• 最適化施策のROI計算ができる

次のステップへ

次は演習で、NetShop社のコスト最適化計画を実際に策定します。

推定読了時間: 30分