heapsort-ai
ARTICLE27

Plug-and-Play Context Compression for Any LLM API — CRISP

DEV.to AI·12 de abril de 2026

CRISP é uma biblioteca Python que comprime o contexto enviado a APIs de LLM para maximizar a informação por token. Seu objetivo é resolver o problema de excesso de contexto, que causa custos e latência elevados, oferecendo uma alternativa plug-and-play a soluções complexas como RAG avançado.

Context CompressionRAGAPIPython libraryLLM
Ler original