LLM トークンの請求非公開プレビュー

LLM トークンの請求を、価格設定の複雑さを管理することなく行えます。マークアップを設定し、モデルを選択し、呼び出しを当社の LLM プロキシ (またはサポートされているパートナー) 経由でルーティングしてください。人気モデルの価格を同期し、マージンに応じた 高度な従量課金 を設定し、使用状況を自動で記録します。LLM トークンの請求はプライベートプレビュー機能であり、実験的な性質を持つものと考えられています。

概要

例えば、AI アプリを開発する場合、LLM トークンのコストに対して 30% のマージンを確保したいとします。

請求はプロセスを自動化し、Stripeは以下を行います。

• プロバイダー間で最新モデルの価格を同期します。
• トークンのマークアップに従量課金を設定します。
• LLM プロキシまたは対応するパートナーを通じて自動的に使用状況を記録します。

トークンの価格を一括表示

主要プロバイダーのトークン価格を 1 つのダッシュボードページで確認 - 価格を常に更新しているため、常に最新の価格情報を入手できます。マークアップはいつでも調整できます。プロバイダーの価格が変更された場合は通知されます。

トークンのマークアップのためのワンクリック従量課金の設定

ご希望のマークアップ (例: 30%) を入力します。Submit をクリックすると、必要な従量課金リソース - 価格、メーター、および料金設定を設定します。従量課金の使用を開始するには、マージン率を設定するだけです。

モデルの呼び出しと請求を一括リクエスト

LLM 統合と請求統合を維持する代わりに、当社の LLM プロキシを使用して、1 回のリクエストでモデルを呼び出し、従量課金の使用量を記録します。プロンプト、選択したモデル、顧客 ID を提供します。プロバイダーにルーティングし、レスポンスを返し、モデルとタイプ別にトークンを属性化します。

すでに別の LLM プロキシと連携している場合は、使用状況を自動的に (追加の API コールなしで) 取得するために業界リーダーと提携しています。

ウェイトリストに登録

プライベートプレビューにご興味のある方は登録してください。空きがあればご連絡いたします。