RAG personalizat pentru companii: cum faci ca IA să răspundă cu documentele tale

Când o companie începe să folosească inteligența artificială, prima plângere este de obicei aceeași: „răspunde bine, dar nu știe nimic despre noi”. Nu cunoaște tarifele tale, nici felul în care faci un buget, nici textul mărunt al contractelor tale. Un RAG este modalitatea de a-i oferi aceste lucruri fără a schimba modelul.

Ce este un RAG, explicat fără jargon?

RAG provine din engleză retrieval-augmented generation, generare cu căutare prealabilă. Înainte de a răspunde, IA caută în documentele tale fragmentele care au legătură cu întrebarea și răspunde cu ele în față. Este ca un angajat nou care, înainte de a răspunde unui client, deschide manualul la pagina corectă.

Modelul nu se schimbă: ceea ce se schimbă este ce are la îndemână în fiecare răspuns. Dacă mâine încarci tariful nou, următorul răspuns îl folosește deja.

La ce folosește un RAG într-o companie?

• Să răspunzi clienților cu ceea ce este deja scris în condițiile tale, catalogul tău sau întrebările tale frecvente.
• Să rezolvi întrebările echipei despre proceduri, concedii sau cum se face ceva, fără să întrebi mereu aceeași persoană.
• Să consulți contracte, fișe tehnice sau reglementări pe care le ai în PDF.
• Să găsești o informație în ani de documente fără să știi în ce folder se află.

Cum funcționează în interior?

1. Citire. Se extrage textul din fiecare document. Paginile scanate, care sunt doar imagine, trebuie transcrise în prealabil; altfel, nu aduc nimic.
2. Fragmentare. Textul este împărțit în fragmente cu sens propriu. Fiecărui fragment i se adaugă o linie de context din documentul său, ca să nu piardă despre ce vorbește.
3. Index după sens. Fiecare fragment este transformat într-un vector care îi reprezintă sensul. Astfel se găsește „zile libere” chiar dacă întrebi de „concediu”.
4. Căutare. La o întrebare se combină căutarea după sens și căutarea după cuvânt, iar fragmentele sunt ordonate după cât de bine se potrivesc.
5. Răspuns. IA răspunde cu acele fragmente în față și poate spune din ce document provine fiecare informație.

Ce documente sunt utile?

Aproape toate cele pe care le ai deja: PDF, Word, Excel, text și, de asemenea, imagini, cum ar fi fotografia unei table, a unui afiș sau a unui bon. Ce ajută cel mai mult nu este formatul, ci ordinea:

• Elimină versiunile vechi și duplicatele. Dacă există două tarife, IA poate folosi tariful greșit.
• Să pui dată la ceea ce expiră.
• Nu pune în RAG date care se află deja în programul tău de gestiune, cum ar fi facturi sau clienți: este mai bine ca IA să le consulte acolo, la zi.

Cine poate vedea ce?

Este întrebarea care contează cel mai mult și care se pune cel mai puțin. Un RAG bun respectă permisiunile: dacă căutarea se uită doar la ce poate vedea cel care întreabă, un angajat nu găsește folderul conducerii chiar dacă acesta este în același sistem. Separarea documentelor companiei de documentele personale, astfel încât fiecare să le vadă doar pe ale sale, trebuie să fie în design încă din prima zi.

Cum știi dacă un RAG răspunde bine?

Un RAG poate eșua fără să facă zgomot: dacă căutarea aduce fragmentul greșit, răspunsul iese bine formulat, dar cu informații greșite. De aceea trebuie măsurat:

• Un set de întrebări de test cu fragmentul corect pentru fiecare, pentru a verifica dacă căutarea îl găsește. Se repetă înainte și după fiecare modificare.
• Un ecran pentru a testa căutarea cu întrebări reale și a vedea ce fragmente aduce și cu ce grad de similaritate.
• Să revizuiești documentele care se citesc greșit și pe cele pe care nimeni nu le găsește niciodată.

Și să antrenezi un model cu datele mele?

Este o altă tehnică, ajustarea fină, care schimbă modelul în sine. Pentru ca IA să știe lucruri despre compania ta, aproape niciodată nu este nevoie: un RAG se actualizează imediat ce încarci un document și știe de unde provine fiecare informație. Dacă cazul tău o necesită cu adevărat, îl analizăm împreună cu tine.

Cum facem asta la BionicAdri

ADRI, agentul BionicAdri, lucrează deja astfel cu memoria documentelor fiecărei companii: citește PDF, Word, Excel, text și imagini, transcrie paginile scanate, caută după sens și după cuvânt și respectă permisiunile fiecărei persoane. Pentru companiile care au nevoie de ceva propriu configurăm RAG personalizat, chiar și fără platformă: pe folderele tale, pe manualele tale sau pe datele din programul tău, în biroul tău sau pe servere în Europa, și măsurat cu propriile tale întrebări.

Dacă vrei să știi unde ar rula, citește IA privată pentru companii și server de IA cu GPU: cumpărare sau închiriere. Sau spune-ne despre situația ta.

Întrebări frecvente

• IA personalizată
• RAG
• IMM-uri