24 posts found
Seu RAG funciona no teste e quebra em produção? Eu já passei por isso. O problema quase nunca é o LLM — é a pipeline de recuperação. Aqui estão os 4 passos que eu uso pra consertar isso de vez.
Your RAG works great in testing and falls apart in production? I've been there. The problem is almost never the LLM — it's the retrieval pipeline. Here are the 4 steps I use to fix it for good.
#1 on MTEB English by 5.09 points. 5 modalities in a single 3,072-dimensional vector. Matryoshka to truncate to 768 without retraining. Text, images, 128s video, 80s audio, 6-page PDFs. Google solved the problem that forced teams to maintain 3 models and 3 indexes.
#1 no MTEB English por 5,09 pontos. 5 modalidades em um único vetor de 3.072 dimensões. Matryoshka para truncar até 768 sem retreinar. Texto, imagens, vídeo de 128s, áudio de 80s, PDFs de 6 páginas. O Google resolveu o problema que obrigava equipes a manter 3 modelos e 3 índices.
86,7% de overlap entre citações do Claude e resultados do Brave Search. Loop ReAct com até 20 iterações. Filtragem dinâmica via código Python. Custo de $0,08-$0,25 por resposta pesquisada. A anatomia de como uma IA decide verificar fatos em vez de inventar.
86.7% overlap between Claude's citations and Brave Search results. ReAct loop with up to 20 iterations. Dynamic filtering via Python code. Cost of $0.08-$0.25 per searched response. The anatomy of how an AI decides to verify facts instead of inventing them.
Nature Medicine, 12 de junho de 2026: GPT-5.2, Claude Opus 4.6 e Gemini 3.1 Pro venceram OpenEvidence e UpToDate em TODOS os testes. 100 queries reais de médicos. 12 clínicos avaliando às cegas. 1.800 anotações. E as ferramentas 'especializadas' não superaram nem o Google Search AI Overview.
Nature Medicine, June 12, 2026: GPT-5.2, Claude Opus 4.6 and Gemini 3.1 Pro beat OpenEvidence and UpToDate on ALL tests. 100 real physician queries. 12 clinicians evaluating blind. 1,800 annotations. And the 'specialized' tools didn't even beat Google Search AI Overview.
O Cursor 3 lançou multi-agente com 8 agentes paralelos. Claude Code cabe 30.000 linhas em um único prompt. Diffs falham 40% das vezes — reescritas completas reduzem para 0%. Aqui está a arquitetura que faz tudo funcionar.
Cursor 3 launched multi-agent with 8 parallel agents. Claude Code fits 30,000 lines in a single prompt. Diffs fail 40% of the time — full rewrites drop it to 0%. Here's the architecture that makes it all work.
FloTorch's February 2026 benchmark shocked the community: recursive 512-token chunking BEAT semantic. 80% of RAG failures trace to ingestion, not the LLM. And the 'simple' strategy is often the best. Here's the guide I wish I'd read sooner.
O benchmark FloTorch de fevereiro 2026 chocou a comunidade: chunking recursivo de 512 tokens VENCEU o semântico. 80% das falhas de RAG vêm da ingestão, não do LLM. E a estratégia 'simples' costuma ser a melhor. Aqui está o guia que eu queria ter lido antes.
Chroma tested 18 frontier models: ALL degrade with long context. Effective context can drop up to 99% below advertised. But prompt caching saves 41-80%. This is the guide I wish I'd read before burning $2,000 in tokens.
Chroma testou 18 modelos de fronteira: TODOS degradam com contexto longo. O contexto efetivo pode cair até 99% do anunciado. Mas prompt caching economiza 41-80%. Este é o guia que eu queria ter lido antes de queimar $2.000 em tokens.
60% of production projects use both. The combined approach hits 96% accuracy vs 89% RAG-only and 91% fine-tuning-only. Salesforce's AI VP cut hallucinations from 12% to 3%. But where do you start?
60% dos projetos em produção usam os dois. A abordagem combinada atinge 96% de precisão vs 89% só RAG e 91% só fine-tuning. A VP de AI da Salesforce reduziu alucinações de 12% para 3%. Mas por onde começar?
85% per-step accuracy sounds good. But in a 10-step workflow, that's 20% success. Gartner predicts 40%+ of agentic AI projects will be scrapped by 2027. The fix isn't a better model — it's engineering I wish I'd learned sooner.
85% de precisão por passo parece bom. Mas em um workflow de 10 passos, isso é 20% de sucesso. Gartner prevê que 40% dos projetos de agentes serão abandonados até 2027. E a solução não é um modelo melhor — é engenharia que eu gostaria de ter aprendido antes.
Em 2024, alucinações de IA custaram $67,4 bilhões globalmente. Um advogado foi punido por citar casos inventados pelo ChatGPT. Uma prova matemática de 2025 confirmou: alucinações NÃO podem ser eliminadas. Por quê?
In 2024, AI hallucinations cost $67.4 billion globally. A lawyer was sanctioned for citing cases invented by ChatGPT. A 2025 mathematical proof confirmed: hallucinations CANNOT be eliminated. Why?
If you've spent hours transcribing meetings to feed your AI, I feel your pain. Google's Gemini Embedding 2 just changed the game with natively multimodal embeddings.
Se você já perdeu horas transcrevendo reuniões para alimentar sua IA, eu te entendo. O Gemini Embedding 2 do Google acaba de mudar as regras do jogo com embeddings nativamente multimodais.
Se RAG tradicional fatia documentos e perde contexto, PageIndex propõe algo radical: a IA lê o documento inteiro como humano. 98% de precisão, mas a que custo?
If traditional RAG chunks documents and loses context, PageIndex proposes something radical: AI reads entire documents like humans. 98% precision, but at what cost?