Quando uma empresa começa a usar inteligência artificial, a primeira queixa costuma ser sempre a mesma: «responde bem, mas não sabe nada sobre nós». Não conhece as tuas tarifas, nem a tua forma de fazer um orçamento, nem a letra pequena dos teus contratos. Um RAG é a forma de lhe dar isso sem mudar o modelo.
O que é um RAG, explicado sem jargão?
RAG vem do inglês retrieval-augmented generation, geração com pesquisa prévia. Antes de responder, a IA procura nos teus documentos os trechos que têm a ver com a pergunta e responde com eles à frente. É como um funcionário novo que, antes de responder a um cliente, abre o manual na página correta.
O modelo não muda: o que muda é o que tem à mão em cada resposta. Se amanhã carregares a nova tarifa, a resposta seguinte já a usa.
Para que serve um RAG numa empresa?
- Responder a clientes com o que já está escrito nas tuas condições, no teu catálogo ou nas tuas perguntas frequentes.
- Resolver dúvidas da equipa sobre procedimentos, férias ou como se faz algo, sem perguntar sempre à mesma pessoa.
- Consultar contratos, fichas técnicas ou normas que tens em PDF.
- Encontrar um dado em anos de documentos sem saber em que pasta está.
Como funciona por dentro?
- Leitura. É extraído o texto de cada documento. As páginas digitalizadas, que são apenas imagem, têm de ser transcritas antes; caso contrário, não acrescentam nada.
- Fragmentação. O texto é dividido em fragmentos com sentido próprio. A cada fragmento é acrescentada uma linha de contexto do seu documento, para que não perca de que fala.
- Índice por significado. Cada fragmento é convertido num vetor que representa o seu significado. Assim, encontra «dias livres» mesmo que perguntes por «férias».
- Pesquisa. Perante uma pergunta, combinam-se a pesquisa por significado e a pesquisa por palavra, e os fragmentos são ordenados consoante o quão bem encaixam.
- Resposta. A IA responde com esses fragmentos à frente e pode dizer de que documento sai cada dado.
Que documentos servem?
Quase todos os que já tens: PDF, Word, Excel, texto e também imagens, como a fotografia de um quadro branco, um cartaz ou um recibo. O que mais ajuda não é o formato, mas a ordem:
- Remover versões antigas e duplicados. Se houver duas tarifas, a IA pode usar a que não deve.
- Colocar data no que caduca.
- Não colocar no RAG dados que já vivem no seu programa de gestão, como faturas ou clientes: é melhor que a IA os consulte lá, atualizados.
Quem pode ver o quê?
É a pergunta que mais importa e a que menos se faz. Um bom RAG respeita as permissões: se a pesquisa só olha para o que quem pergunta pode ver, um funcionário não encontra a pasta da direção mesmo que esteja no mesmo sistema. Separar documentos da empresa e documentos pessoais, e que cada um só veja os seus, tem de estar no desenho desde o primeiro dia.
Como saber se um RAG responde bem?
Um RAG pode falhar sem fazer ruído: se a pesquisa trouxer o trecho errado, a resposta sai bem escrita e mal informada. Por isso é preciso medi-lo:
- Um conjunto de perguntas de teste com o fragmento correto de cada uma, para verificar se a pesquisa o encontra. Repete-se antes e depois de cada alteração.
- Um ecrã para testar a pesquisa com perguntas reais e ver que fragmentos traz e com que semelhança.
- Rever os documentos que são mal lidos e os que ninguém encontra.
E treinar um modelo com os meus dados?
É outra técnica, o ajuste fino, que altera o próprio modelo. Para que a IA saiba coisas da sua empresa quase nunca é preciso: um RAG é atualizado assim que carrega um documento e sabe de onde vem cada dado. Se o seu caso o exigir mesmo, estudamo-lo consigo.
Como o fazemos na BionicAdri
A ADRI, o agente da BionicAdri, já trabalha assim com a memória de documentos de cada empresa: lê PDF, Word, Excel, texto e imagens, transcreve as páginas digitalizadas, pesquisa por significado e por palavra e respeita as permissões de cada pessoa. Para empresas que precisam de algo próprio, montamos RAG à medida, também sem a plataforma: sobre as suas pastas, os seus manuais ou os dados do seu programa, no seu escritório ou em servidores na Europa, e medido com as suas próprias perguntas.
Se quiser saber onde é que ele iria correr, leia IA privada para empresas e servidor de IA com GPU: comprar ou alugar. Ou conte-nos o seu caso.
Perguntas frequentes
O que é um RAG para empresas?
Um sistema que, antes de responder, pesquisa nos documentos da sua empresa os fragmentos relacionados com a pergunta e responde com eles. O modelo não muda; muda o que tem à frente.
Os meus documentos servem tal como estão?
Quase sempre. PDF, Word, Excel, texto e imagens podem ser lidos; os digitalizados são transcritos antes. O que mais ajuda é remover versões antigas e duplicados.
Um RAG inventa coisas?
Pode enganar-se se a pesquisa trouxer o fragmento errado. Por isso mede-se com perguntas de teste e pede-se que diga de que documento vem cada dado.
É preciso treinar um modelo com os meus dados?
Quase nunca para que a IA saiba coisas da sua empresa: um RAG é atualizado ao carregar um documento. Se o seu caso o exigir, estudamo-lo.
- IA à medida
- RAG
- PME