Why Most AI Agents Are Insecure by Default (And No One Is Testing Them)

Muitos agentes de IA são inerentemente inseguros porque não são testados para entradas adversárias, permitindo que prompts simples ignorem a lógica do sistema e manipulem as saídas. Ao contrário do software tradicional, os sistemas de IA falham de forma diferente, seguindo instruções erradas em vez de falharem ruidosamente.