The Context Window Trap: Why More AI Context is Costing You More Money

O autor relata sua descoberta de que fornecer contexto excessivo aos modelos de IA, como Claude e GPT-4, para desenvolvimento de software, na verdade aumentava os custos em vez de melhorar a eficiência. Ao usar sua ferramenta TokenBar para monitorar o uso de tokens, ele percebeu que "dumps" de contexto massivos, de 8.000-12.000 tokens, eram ineficientes e caros.