Reupload
Todas las IA¿IA local?
← Volver al inicio

Skill · Anthropic Claude Blog

Recorta un 90 % los costes de la API de Claude con el almacenamiento en caché de prompts

Recorta un 90 % los costes de la API de Claude con el almacenamiento en caché de prompts

Foto: Growtika en Unsplash

Deja de reprocesar system prompts y contextos idénticos en cada llamada a la API. El almacenamiento en caché de prompts guarda los prefijos de prompt repetidos y los reutiliza entre solicitudes con un 90 % de descuento sobre el precio estándar de entrada, lo que reduce drásticamente los costes en sistemas RAG, conversaciones multiturno y flujos de trabajo por lotes.

La función de almacenamiento en caché de prompts de Claude permite marcar partes del prompt como almacenables en caché -normalmente instrucciones de sistema, definiciones de herramientas y contexto estático- para que la API reutilice la representación procesada entre solicitudes en lugar de reprocesar tokens idénticos cada vez. Esto resulta especialmente potente en flujos de trabajo de producción en los que se envía repetidamente el mismo conjunto grande de instrucciones o la misma base de conocimiento.

Para implementarlo, se marca un punto de corte de caché usando cache_control: {"type": "ephemeral"} en bloques de contenido de al menos 1024 tokens (para los modelos Sonnet/Opus). En la primera solicitud, Claude lo procesa todo con normalidad. En las solicitudes posteriores con un prefijo idéntico, el sistema recupera la versión almacenada de la capa de caché y solo procesa los nuevos tokens de sufijo que se añaden, pagando aproximadamente el 10 % del precio estándar de entrada por los aciertos de caché.

Un ejemplo real: si tienes un chatbot de atención al cliente con una base de conocimiento de la empresa de 20 000 tokens, enviar esa base en cada mensaje del cliente cuesta 4 $ por cada 100 solicitudes en Claude Sonnet 5.5. Con caché, esas mismas 100 solicitudes cuestan unos 0,25 $, porque solo el mensaje real del cliente (el sufijo no almacenado en caché) se factura a precio completo. Si a esto le sumas la Batch API (50 % de descuento adicional por trabajo asíncrono), estarás hablando de ahorros totales de más del 95 % en costes de tokens.

Ten en cuenta que los prefijos almacenados en caché caducan a los 5 minutos por defecto -y se renuevan con cada acierto de caché-, por lo que el TTL importa según tu patrón de tráfico. Para cargas de trabajo de alta frecuencia, el valor por defecto de 5 minutos suele ser suficiente. Para consultas esporádicas, considera la opción de TTL de 1 hora (disponible mediante ttl: "1h" en tu solicitud a la API).

Fuentes y créditos

Fuente original: Anthropic Claude Blog