- LLMコストがいくらかかっているかを可視化します
- 品質を落とさないことを、成果報酬の条件にしています
- 削減まで進めば、診断費用は成果報酬から差し引きます
クラウドコスト削減「CTO Booster」と生成AI開発を手がける 株式会社DELTA が担当します。
こんな会社におすすめです
- 自社プロダクトにLLMを組み込んで、本番運用している
- BedrockやOpenAIなどのAPI費用が月20万円以上かかっている
- どの機能にLLMコストがかかっているか
可視化できていない
利用者が増えても、1人あたりの LLMコストは下がらない
生成AIを組み込んだサービスならではの課題が発生しています
LLMはAPI課金の場合、使用量に応じてコストが増加します。
SaaS やアプリなどのソフトウェアは、利用者が増えるほど1人あたりの原価（サーバー費など）が下がります。一方、LLMの API 費用は使われた分だけコストがかかるため、利用者が増えても1人あたりの原価はほとんど下がりません。
ユーザーが増える
LLMを使った機能が使われる
呼び出し回数と
トークン数が増える。
クラウドのコスト診断200社以上
生成AI開発のエキスパートDELTAが支援します
コンサルティングだけでなく、実行まで伴走します。
DELTAの
パートナー認定
解決①機能ごとのコストを見直します
請求書で分かるのは毎月の合計。
機能ごとの内訳は分かりません。
機能ごとにコストを追える
計測の仕組みを作ります。
計測にはアプリケーション側の改修も必要です。
過去にさかのぼれないため、最初に計測方法を決めます。
計測の仕組みは貴社の環境に残ります。
機能ごとの原価を把握し、利用の多い機能を安心して伸ばせます。
| 機能 | 呼び出し回数・トークン数 | 金額 |
|---|---|---|
| 履歴書の要約 | 月◯回・◯トークン | 月◯円 |
| チャットの回答 | 月◯回・◯トークン | 月◯円 |
- オブザーバビリティSaaS
- 汎用APM
- OSS（セルフホスト）
- AIゲートウェイ
システムの構成と扱うデータに合わせて選びます。
右端の「低・中・高」は品質への影響
単価を下げる
- プロンプトキャッシング低
- バッチ推論低
- 低価格モデルへ切り替え高
- ファインチューニング
使用量を減らす
- 不要なリトライを防止低
- 出力トークンの削減
- コンテキストの圧縮中
- リーズニングの調整中
実際の順番は、機能ごとの内訳を見てから決めます。
解決②品質への影響が小さい施策から、
効果を検証して実施します
安いモデルへの切り替えは、打ち手の一つ。
単純な切り替えは、品質低下のリスクも。
- 01機能ごとの内訳を確認
- 02品質への影響を検証影響が小さい施策から試します
- 03効果を確認して実施
解決③インフラからプロンプトまで、
まとめて任せられます
インフラ担当だけでは、LLMコストは下がりません。
LLMコストの削減には、インフラ以外の見直しも必要です。
- アプリケーション改修・LLM処理の置き換え
- プロンプト内容の見直し
- 出力品質品質の評価
- 個人データ取り扱いの設計
アプリケーションからインフラ、LLMまで。
株式会社DELTAが一つのチームで担当します。
進め方は5ステップ
1から3が有償の診断、4と5が成果報酬です
有償の診断STEP 1〜3・1ヶ月
-
STEP 1
計測環境の導入
貴社の環境や利用サービスに合わせて、最適な計測方法をご提案し、導入します。
貴社にお願いすること検証用の書き込み権限
-
STEP 2
診断
機能ごとの回数・トークン数・金額まで分解します。
貴社にお願いすることなし（データが貯まるまでの期間）
-
STEP 3
レポート
打ち手を、見込み額・品質リスク・工数つきでご提案します。
貴社にお願いすること打ち手の採否のご判断
成果報酬STEP 4〜5
-
STEP 4
削減の実施
隔離環境での比較・シャドウ実行・カナリアリリースを経て実装します。
貴社にお願いすること開発チームとの連携
-
STEP 5
成果報酬
削減額に応じてご請求します。診断費用はここで差し引きます。
貴社にお願いすることなし
LLMコストの削減事例
株式会社BOX様
LLMコストを削減
37件の文字起こしに対して、要約は1,528件。
本番の呼び出しを計測し、同じ内容を最大94回要約していたと判明しました。
モデル・プロンプトは変更せず、
アプリケーションの修正だけで削減。
インフラコストの削減事例
株式会社ジモティー様（AWS）
月約200万円
株式会社オークファン様（AWS）
月約80万円
株式会社カケハシ様（AWS）
月約55万円
（約21%）
株式会社Stack様（Google Cloud）
月約55万円・約30万円
（2サービス）
診断は有償、削減まで進めば
成果報酬から差し引きます
有償の診断（STEP 1〜3）
計測、診断、改善案の作成まで
成果報酬（STEP 4〜5）
削減できた金額に応じて。診断費用は成果報酬から差し引きます
削減まで進まなかった場合も、計測の仕組みと診断結果はお手元に残ります。
LLMの出力品質を落とさないことを重視し
切り替え後も品質を監視します
コストだけを下げると、出力の品質が下がることがあります。
そのため、削減施策をそのまま本番に入れず、段階的にリリースします。
-
1隔離環境で新旧の出力を比較
-
2シャドウ実行（本番のリクエストで検証）
-
3カナリアリリース（一部のユーザーから段階的に切り替え）
評価スコアが基準を下回った施策は、コストが下がっていても成果に計上しません。
成果報酬だからこそ、「とにかく安くする」ことはしません。
個人データがあっても進められます
- ・内訳を出すときに、プロンプト本文は見ません
- ・品質検証は貴社の環境内で完結し、ダミーデータでも進められます
- ・シャドウ実行とカナリアリリースは機械的に行い、人は中身を見ません
- ・観測データの置き場所とリージョンから設計します
- ・取り扱い方針は着手前に書面にし、法務確認に使えます
よくある質問
Q. Amazon Bedrock以外でも対象になりますか？
A. 対象になります。OpenAI・Anthropic・Azure OpenAI Service・Gemini Enterprise Agent Platform（旧Vertex AI）など、プロバイダを問いません。
Q. なぜ診断は有料なのですか？
A. LLMの請求書には、どの機能にいくら使ったかが出ません。そのため、先に測る仕組みを作らないと、いくら減らせるかが分からないからです。サーバーやデータベースは過去の請求データを見れば無駄が分かりますが、LLMの内訳は、計測を入れた日から先の分しか取れません。読み取り専用の権限で見るだけでは、「減らせそうだ」という推測止まりで、具体的な削減額までは算出できません。
まず、検証用の書き込み権限をいただいて計測環境を導入し、数週間分のデータを貯めてから診断します。この作業が、有償の診断に含まれる提供内容です。
Q. 診断ではどこまで対応してもらえますか？
A. LLMの利用状況やコストを計測・分析し、削減できるポイントを特定します。また、診断時に導入した計測の仕組みは、その後もご利用いただけます。
Q. 診断費用とは別に成果報酬もかかりますか？
A. 削減の実施まで進んだ場合は、診断費用を成果報酬から差し引きます。最後まで進めば、お支払いは実質的に成果報酬だけになります。成果報酬の計算方法（算出条件）は、個別にご説明します。
Q. 契約はどのような形になりますか？
A. 計測・診断と削減の実施を行う業務委託の契約を結び、削減の成果に応じて報酬をいただきます。
まずは、削減の余地があるかを
ご相談ください
- ・どの機能にコストがかかっているのか
- ・現在の環境で、どこまで計測できているのか
- ・どんな削減方法が考えられるのか
現在の状況を伺い、診断の対象と進め方をご案内します。
※オンライン商談です。情報収集だけのご相談でも構いません。
無料相談（30分）のお申し込み
フォームを読み込んでいます…
フォームが表示されない場合は、お問い合わせページからお申し込みください。