How Prompt Caching Cuts AI Costs by 90%

O cache de prompts, lançado pela Anthropic e oferecido por outros grandes provedores de LLMs, pode reduzir os custos de API de IA em até 90%. Essa otimização reutiliza estados internos previamente calculados para partes comuns de prompts, resultando em respostas mais rápidas e economias significativas.