3 posts encontrados
Injeção de prompt não é bug — é propriedade fundamental da arquitetura atual de LLMs. O paper Countermind propõe defesa em 4 camadas. O OWASP Top 10 para LLMs lista prompt injection como vulnerabilidade #1. E seu system prompt 'blindado' não vai te salvar.
85% de precisão por passo parece bom. Mas em um workflow de 10 passos, isso é 20% de sucesso. Gartner prevê que 40% dos projetos de agentes serão abandonados até 2027. E a solução não é um modelo melhor — é engenharia que eu gostaria de ter aprendido antes.
Em 2024, alucinações de IA custaram $67,4 bilhões globalmente. Um advogado foi punido por citar casos inventados pelo ChatGPT. Uma prova matemática de 2025 confirmou: alucinações NÃO podem ser eliminadas. Por quê?