GET Serves Cache, POST Runs Inference: Cost Safety for a Public LLM Endpoint

Um endpoint público de LLM para um site de brinquedo que dá respostas erradas usa uma arquitetura única: requisições GET servem respostas em cache, enquanto requisições POST disparam inferência fresca de IA. Este design visa limitar o abuso, tornar os custos previsíveis e desestimular ataques casuais no serviço de acesso aberto.