Facturation des tokens LLMVersion bêta privée
Découvrez comment facturer des tokens LLM.
Facturez les tokens LLM sans avoir à gérer la complexité des tarifs. Définissez votre marge, choisissez vos modèles et acheminez les appels via notre proxy LLM (ou nos partenaires pris en charge). Nous synchronisons les prix des modèles populaires, configurons la facturation avancée à l’usage pour votre marge et enregistrons automatiquement l’utilisation. La facturation des tokens LLM est une fonctionnalité en version bêta privée, que nous considérons comme expérimentale.
Version bêta à destination des développeurs
Ceci est une version bêta privée expérimentale. Nous recherchons des développeurs prêts à tester les fonctionnalités et à partager leurs commentaires.
Vue d’ensemble
Imaginons que vous développiez une application IA : vous voulez une marge cohérente de 30 % par rapport aux coûts bruts des tokens LLM entre les fournisseurs.
La facturation automatise le processus et Stripe :
- Synchronise les derniers modèles tarifaires de tous les fournisseurs.
- Configure la facturation à l’usage pour votre majoration de token.
- Enregistre automatiquement l’utilisation via notre proxy LLM ou nos partenaires pris en charge.
Prix de token au même endroit
Affichez les tarifs de token des principaux fournisseurs sur une seule page du Dashboard. Nous tenons les tarifs à jour afin que vous disposiez toujours des informations tarifaires actuelles. Vous pouvez ajuster votre majoration à tout moment. Nous vous informons lorsque les tarifs des fournisseurs changent.
Configuration de la facturation à l’usage en un clic pour votre majoration de token
Saisissez la majoration souhaitée (par exemple, 30 %). Cliquez sur Envoyer et nous configurerons les ressources requises pour la facturation à l’usage (tarifs, compteurs et configuration des taux). Il vous suffit de définir votre pourcentage de marge pour commencer à utiliser la facturation à l’usage.
Appeler les modèles et effectuer la facturation en une seule requête
Au lieu de maintenir une intégration LLM et une intégration de facturation, utilisez notre proxy LLM pour appeler des modèles et enregistrer l’utilisation comptabilisée en une seule requête. Indiquez votre invite, le modèle choisi et l’ID client. Nous acheminons vers le fournisseur, renvoyons la réponse et attribuons des tokens par modèle et par type.
Si vous avez déjà intégré un proxy LLM différent, nous nous sommes associés à des leaders du secteur pour capturer automatiquement l’utilisation (sans avoir à effectuer d’appels API supplémentaires).
S’inscrire sur la liste d’attente
Si la version bêta privée vous intéresse, inscrivez-vous et nous vous contacterons si nous avons d’espace disponible.