O RAG virou a resposta corporativa para o problema das alucinações de IA. De fato, em 2025, 70% das empresas que usam IA generativa já implementaram alguma forma de RAG. O problema é o que vem depois da implementação, e o que ninguém está monitorando.
A apresentação estava impecável.
O responsável pela estratégia digital subiu ao palco com a segurança de quem chegou com a resposta. Slides limpos, linguagem executiva, conclusão direta: a empresa havia resolvido o problema das alucinações de IA. A solução tinha nome técnico, e isso, por si só, já transmitia seriedade. Ninguém na sala pediu uma explicação ou perguntou o que compunha a base de conhecimento que o sistema consultava. Ninguém questionou quando aqueles documentos tinham sido atualizados pela última vez.
O aplauso foi discreto, como costuma ser em reuniões de diretoria. Assim, a mensagem ficou: o problema estava resolvido. A equipe podia confiar.
Na verdade, resolver a alucinação com RAG é como trocar um problema por outro menos óbvio. E o menos óbvio, como já vimos nesta série, é sempre o mais perigoso.
O Que RAG Realmente É
RAG é a sigla para Retrieval-Augmented Generation, ou Geração com Recuperação Aumentada, em tradução livre que ninguém usa. O conceito é mais simples do que o nome sugere.
Um modelo de linguagem padrão responde com base no que aprendeu durante o treinamento: um snapshot do mundo até uma determinada data, sem acesso a documentos internos da empresa, sem políticas atualizadas, sem contratos vigentes, sem o relatório publicado semana passada. Quando você pergunta sobre algo específico, ele tenta completar a resposta com o que sabe. Ou seja, quando não sabe, inventa com convicção. Esse é o problema da alucinação que exploramos na edição anterior.
Por isso, o RAG muda essa dinâmica. Em vez de depender apenas do que foi treinado, o modelo passa a consultar uma base de documentos específica antes de responder. É como dar ao orador um pesquisador que, a cada pergunta, corre até uma biblioteca particular, busca os trechos relevantes e os coloca na mesa antes de o orador falar.
A lógica é sólida. O orador não precisa mais inventar: ele tem fontes à mão.
O problema é o que está dentro da biblioteca. E quem cuida dela.
Por Que RAG Virou a Resposta Corporativa
Quando o mercado começou a entender a extensão do problema das alucinações, e os números são sérios, com até 88% de taxa de erro em contextos jurídicos complexos segundo o Stanford RegLab, a indústria precisava de uma narrativa de solução.
Por isso, o RAG se tornou essa narrativa.
Hoje, 70% das empresas que usam IA generativa implementaram RAG ou alguma forma de augmentação da base de modelos, segundo levantamento de mercado de 2025. O mercado global de RAG saiu de US$ 1,2 bilhão em 2024 e projeta alcançar US$ 11 bilhões até 2030, crescendo a quase 50% ao ano.
A adoção é real. Porém, a confiança que ela gera, nem sempre.
O movimento corporativo foi previsível: identificou-se o problema (a IA alucina), encontrou-se uma solução técnica (RAG), apresentou-se nas reuniões de diretoria como resposta definitiva, e seguiu-se em frente. Ninguém parou para perguntar o que RAG resolve, e mais importante, o que ele não resolve.
O Que RAG Resolve de Verdade
Para ser justo com a tecnologia: RAG é um avanço genuíno. Ele resolve problemas reais.
Com RAG bem implementado, a IA deixa de inventar fatos que não existem. Ela passa a ancorar respostas em documentos concretos que a organização escolheu como fonte de verdade. Ela consegue responder perguntas sobre processos internos, contratos específicos, políticas vigentes, coisas que um modelo genérico jamais saberia.
Para casos de uso bem delimitados, com bases de conhecimento bem mantidas e equipes que entendem os limites do sistema, RAG é uma ferramenta poderosa. Não é hype. É tecnologia que funciona.
Portanto, o problema não é RAG. É o que as organizações fazem, e principalmente o que deixam de fazer, depois que o implementam.
O Que RAG Não Resolve
Aqui está o que os slides de venda não costumam incluir.
RAG não elimina alucinações. Ele as transforma.
O Stanford RegLab documentou que ferramentas jurídicas com RAG ainda alucinam entre 17% e 33% das consultas. Em contextos médicos, as taxas permanecem entre 43% e 64% dependendo da qualidade do prompt e da base de dados. Ou seja, o RAG reduz o problema. Mas não o resolve.
No entanto, quando ele falha, falha de uma forma nova e mais insidiosa: a alucinação com citação.
No artigo anterior desta série, o problema era uma fonte inventada. Com RAG, o problema evolui: a fonte é real, o documento existe, mas a IA recuperou o trecho errado. Ou puxou uma versão desatualizada da política. Ou interpretou mal o contexto de um parágrafo fora do lugar. O resultado ainda está errado, mas agora vem acompanhado de uma referência que parece legítima.
É mais difícil questionar o que tem fonte do que o que não tem.
O Problema que Ninguém Quer Discutir: Os Dados
A Gartner foi direta em seus alertas de 2025: 60% dos projetos de IA serão abandonados por falta de dados prontos para IA. Além disso, organizações abandonaram pelo menos 30% dos projetos de IA generativa após a fase de prova de conceito, sendo a principal causa a qualidade inadequada dos dados.
RAG é tão bom quanto a base de conhecimento que o alimenta. Na prática, a base de conhecimento é tão boa quanto a governança que a mantém.
Isso significa: quem decide quais documentos entram? Com que frequência são atualizados? O que acontece quando uma política muda, mas o documento antigo continua na base? Quem valida que o que a IA recuperou é a versão correta? Existe um processo para remover informações desatualizadas?
Em geral, a maioria das organizações não tem respostas claras para essas perguntas. E sem essas respostas, o RAG vira um sistema que entrega respostas com aparência de confiabilidade sobre dados que ninguém verificou.
Garbage in, garbage out. Agora com citação.
O Que os Líderes Precisam Perguntar
A adoção de RAG não é uma decisão técnica. É uma decisão de governança.
Contudo, quando alguém apresentar RAG como a solução para as alucinações da sua empresa, as perguntas que um líder precisa fazer não são sobre arquitetura de sistemas. São sobre responsabilidade e processo:
Em primeiro lugar: quem é o dono da base de conhecimento? Com que critério os documentos entram e saem? Sem uma política clara de curadoria, a base envelhece sem que ninguém perceba.
Em seguida: como a equipe vai saber quando a base está desatualizada? Existe um processo de revisão periódica ou a base simplesmente acumula documentos desde o dia da implementação?
Além disso: existe um processo de validação antes que respostas críticas sejam usadas em decisões? Ou o RAG opera com supervisão zero porque a equipe acredita que as fontes eliminam o risco?
Por fim: quem responde quando a IA citar uma política revogada como se fosse vigente? A resposta a essa pergunta define o nível real de maturidade da organização em governança de IA.
Sem essas respostas, RAG é uma sofisticação técnica construída sobre uma fundação de barro. E fundações de barro, em algum momento, cedem.
O Gartner reforçou em 2025 que as organizações que não estabelecem métricas de sucesso claras e não alinham a IA com objetivos estratégicos têm as maiores taxas de falha. RAG não é exceção. Implementar bem a tecnologia sem o processo que a suporta é exatamente o tipo de investimento que aparece nos relatórios de lições aprendidas. Depois que o dano já foi feito.
Para Refletir
RAG é uma ferramenta valiosa. No entanto, ferramenta não substitui processo. E processo não substitui julgamento.
Por consequência, a organização que implementa RAG sem governança sobre a base de dados não resolveu o problema das alucinações. Ela transferiu a responsabilidade pela qualidade da informação para um sistema que ninguém está monitorando com rigor.
Afinal, a IA vai citar o que estiver disponível. Com convicção, fonte e aparência de fato verificado.
Cabe ao líder, ao analista, a quem assina a decisão, entender o que está por trás daquela citação.
Ter fonte não é o mesmo que ter razão.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.