Modelos de linguagem grandes são eficientes para responder perguntas, mas apenas se as respostas estiverem em sua base de conhecimento. Isso é um problema para designers de UX que desejam usar esses modelos como ponte entre pessoas e documentos fora dessa base. Treinar modelos em novos documentos exige tempo e dinheiro, e aumentar o tamanho dos modelos pode reduzir sua confiabilidade.

RAG (Geração Aumentada por Recuperação) resolve esse problema ao conectar modelos de linguagem a diferentes bancos de dados, permitindo substituir softwares tradicionais de gestão do conhecimento por IA baseada em linguagem.

Como o RAG funciona

O RAG emparelha modelos de linguagem com fontes de dados externas para fornecer conhecimento não treinado. O sistema busca informações relevantes em bancos de dados conectados e as integra à resposta gerada pelo modelo de linguagem.

Ferramentas como Perplexity já utilizam RAG, onde a internet serve como banco de dados. A IA realiza uma busca na web e resume a informação retornada.

RAG com busca semântica

A eficácia dos sistemas RAG depende da organização dos bancos de dados. Uma abordagem comum usa documentos vetorizados para capturar relações semânticas, permitindo buscas baseadas no significado dos termos, superando buscas por palavras-chave.

Buscas semânticas retornam documentos com representações vetoriais relacionadas, capturando melhor a intenção do pesquisador.

Graph RAG revela conexões entre dados

Bancos de dados gráficos, além de texto, incluem imagens, áudio e vídeo, revelando conexões ocultas. Em um banco de dados gráfico, informações são representadas por nós conectados por arestas, permitindo descobrir relações complexas entre itens.

O Graph RAG usa linguagem natural para encontrar conexões ocultas, tornando a gestão do conhecimento mais eficaz.

O RAG faz sentido?

Embora não seja sempre a melhor solução, o RAG é ideal para sistemas de gestão baseados em comandos de texto ou voz. A chave é emparelhá-lo com um banco de dados bem estruturado. Para dados textuais, a vetorização e a busca semântica são eficazes. Para conectar fontes diversificadas de dados, o Graph RAG é mais adequado.