Réduisez de 90 % les coûts de l'API Claude grâce au cache de prompts

Cessez de retraiter des prompts système et des contextes identiques à chaque appel d'API. Le cache de prompts stocke les préfixes de prompt répétés et les réutilise entre les requêtes avec 90 % de réduction par rapport au tarif d'entrée standard, ce qui réduit considérablement les coûts pour les systèmes RAG, les conversations multi-tours et les workflows par lots.

La fonctionnalité de cache de prompts de Claude vous permet de marquer des portions de votre prompt comme pouvant être mises en cache - généralement les instructions système, les définitions d'outils et le contexte statique - afin que l'API réutilise la représentation traitée entre les requêtes au lieu de retraiter les mêmes tokens à chaque fois. C'est particulièrement puissant pour les workflows de production où le même grand ensemble d'instructions ou la même base de connaissances est envoyé de manière répétée.

Pour l'implémenter, vous marquez un point de rupture de cache à l'aide de cache_control: {"type": "ephemeral"} sur des blocs de contenu d'au moins 1024 tokens (pour les modèles Sonnet/Opus). Lors de la première requête, Claude traite tout normalement. Lors des requêtes suivantes avec un préfixe identique, le système récupère la version mise en cache depuis la couche de cache et ne traite que les nouveaux tokens de suffixe que vous ajoutez - en payant environ 10 % du prix d'entrée standard pour les hits de cache.

Un exemple concret : si vous exploitez un chatbot de support client utilisant une base de connaissances d'entreprise de 20 000 tokens, l'envoi de cette base à chaque message client coûte 4 $ pour 100 requêtes sur Claude Sonnet 5.5. Avec le cache, les mêmes 100 requêtes coûtent environ 0,25 $, car seul le message réel du client (le suffixe non mis en cache) est facturé au tarif plein. Combinez cela avec la Batch API (50 % de réduction supplémentaire pour le travail asynchrone) et vous obtenez plus de 95 % d'économies totales sur les coûts de tokens.

Notez que les préfixes mis en cache expirent après 5 minutes par défaut - rafraîchis à chaque hit de cache - le TTL importe donc pour votre profil de trafic. Pour les charges de travail à haute fréquence, la valeur par défaut de 5 minutes suffit généralement. Pour les requêtes sporadiques, envisagez l'option TTL d'une heure (disponible via ttl: "1h" dans votre requête API).