ARCHIVE · 21

記事一覧

基礎概念から実務の判断基準まで、順にご覧ください。

AIコーディングとエージェント読了 5 分

[AIコンテキスト #7] プロンプトキャッシュでAPIコストを削減

シリーズ最終回はお金の話です。エージェントをAPIで動かしたことがあれば、請求書の違和感に気づいたでしょう。出力より入力トークン料金が圧倒的に高いのです。第1回の構造を思い出せば当然です。毎ターン、システムプロンプトから会話履歴全体まで再送するため、50ターンのエージェントセッションでは同じシステムプロンプトに50回課金されます…

記事を読む