ReuploadVotre actu IA
Retour à l'accueil

Astuce · Anthropic Claude Platform Documentation

Traitez 10 000 requêtes API à 50 % du coût avec Claude Batches

Traitez 10 000 requêtes API à 50 % du coût avec Claude Batches

Photo: Homa Appliances sur Unsplash

Soumettez des tâches d'analyse groupées à l'API Message Batches de Claude pour réduire les coûts API de moitié tout en traitant jusqu'à 10 000 requêtes de manière asynchrone. Idéal pour les travaux non urgents comme la classification de tickets de support, l'analyse de référentiels de documents ou l'enrichissement de bases de données de produits — avec des résultats disponibles en moins de 24 heures.

L'API Message Batches de Claude résout un problème crucial pour les équipes qui traitent de grands volumes de documents : le coût et la complexité de l'envoi de milliers de requêtes API individuellement. En regroupant les requêtes et en les traitant de manière asynchrone, vous réduisez les coûts de 50 % par rapport aux appels API standard — une remise qui s'applique à la fois aux jetons d'entrée et de sortie. Voici le flux de travail : Au lieu d'appeler l'API Claude une fois par requête (ce qui est lent et coûteux), vous préparez un fichier de lots contenant jusqu'à 10 000 requêtes individuelles. Chaque requête comprend un identifiant personnalisé pour le suivi. Vous soumettez l'intégralité du lot au point de terminaison API d'Anthropic, et celui-ci traite toutes les requêtes de manière asynchrone — se terminant généralement en moins d'une heure, avec un SLA maximal de 24 heures. Une fois terminé, les résultats sont renvoyés sous forme de fichier JSONL, organisés par identifiant de requête pour une correspondance facile. Exemple pratique : Une équipe de support doit classer 5 000 tickets clients en catégories (bug, demande de fonctionnalité, facturation, compte). Plutôt que d'envoyer chaque ticket individuellement (ce qui prendrait des heures et coûterait nettement plus cher), ils regroupent les 5 000 tickets dans une seule requête. L'API les traite pendant la nuit à moitié prix, et l'équipe télécharge les résultats classifiés le lendemain matin. Autre cas d'usage : Une entreprise analysant un référentiel de 1 000 contrats juridiques pour extraire les clauses de responsabilité. Le traitement par lots rend cette opération économiquement viable. L'API prend également en charge la mise en cache des invites, ce qui signifie que si vos requêtes partagent un contexte commun (comme une invite système ou un document de référence), les accès au cache peuvent se cumuler avec les remises de lot pour des économies encore plus importantes. Une précaution : les lots sont véritablement asynchrones, cette approche est donc idéale pour les travaux sans exigences de temps réel. Si vous avez besoin de réponses immédiates, l'API synchrone reste nécessaire.

Sources & crédits

Source originale: Anthropic Claude Platform Documentation