RAG explicat: AI care consultă documentele tale

RAG, prescurtare de la Retrieval-Augmented Generation, adică generare augmentată prin regăsire, este o tehnică prin care un asistent AI caută informații într-o colecție de documente înainte să răspundă. În loc să se bazeze doar pe ce a memorat în timpul antrenării, modelul primește, odată cu întrebarea ta, fragmentele relevante din sursele alese. Răspunsul poate astfel să pornească din regulamentul firmei tale, din manualul unui produs sau din arhiva unui site, nu din presupuneri.

Tehnica a devenit una dintre cele mai folosite pentru asistenții care răspund despre un domeniu anume. Mai jos vezi cum funcționează pas cu pas, ce problemă rezolvă, unde se poate strica și când merită folosită. Pentru contextul modelelor în sine, vezi Modelele de limbaj mari (LLM): cum generează text.

De ce este nevoie de RAG?

RAG există pentru că un model de limbaj are trei limite: nu știe nimic despre documentele tale private, nu are informații după data la care s-a oprit antrenarea și poate inventa un răspuns plauzibil când nu știe. Ultima limită este explicată în articolul despre halucinații.

Soluția evidentă ar fi să lipești toate documentele în conversație, dar nu încap: există o limită de text, descrisă la fereastra de context. RAG rezolvă problema alegând, din mii de pagini, doar câteva fragmente potrivite întrebării și trimițându-le modelului.

Cum funcționează RAG, pas cu pas?

Procesul are o fază de pregătire, făcută o dată, și o fază de răspuns, făcută la fiecare întrebare.

Pregătirea documentelor

1. Colectarea: se adună documentele (PDF-uri, pagini web, fișe de produs, proceduri interne).
2. Împărțirea: textul este tăiat în fragmente de câteva paragrafe, numite uneori chunks.
3. Transformarea în vectori: fiecare fragment este convertit într-o listă de numere, numită embedding, care reprezintă sensul lui. Fragmentele cu înțeles apropiat primesc vectori apropiați.
4. Stocarea: vectorii sunt păstrați într-o bază de date specializată, care știe să caute după apropiere.

Răspunsul la o întrebare

1. Întrebarea ta este și ea transformată în vector.
2. Sistemul caută în baza de date fragmentele cu sens cel mai apropiat.
3. Fragmentele găsite sunt lipite în cerere, alături de întrebare și de o instrucțiune de tipul „răspunde doar pe baza textului de mai jos”.
4. Modelul scrie răspunsul, de obicei cu trimitere la sursă.

Partea de căutare după sens, nu după cuvinte identice, contează mult în felul în care se comportă sistemul: o întrebare despre „anularea comenzii” poate găsi un paragraf care vorbește despre „returnarea produsului”, chiar dacă nu împart niciun cuvânt. Baza de date folosită este un cuvânt-cheie de reținut; pentru fundalul general vezi Bazele de date: ce sunt și cum organizează informația.

Ce avantaje are față de un asistent obișnuit?

Avantajele RAG sunt practice și ușor de verificat. Răspunsurile se sprijină pe un text care poate fi arătat, deci poți verifica sursa. Informația se poate actualiza schimbând documentele, fără să reantrenezi modelul, ceea ce este mult mai ieftin. Datele private rămân sub controlul organizației, în baza ei de documente, nu sunt încorporate în model. Și poți limita domeniul: sistemul poate fi instruit să refuze întrebările la care nu găsește răspuns în documente.

Unde se poate strica RAG?

RAG nu elimină greșelile, ci le mută în alte locuri. Cel mai frecvent punct slab este căutarea: dacă sistemul aduce fragmentul greșit, modelul va formula cu siguranță un răspuns greșit, dar bine scris. Alte cauze apar des:

• Documente prost pregătite: tabele rupte la conversie, PDF-uri scanate fără text recunoscut, titluri pierdute.
• Fragmente prea mici sau prea mari: cele mici pierd contextul, cele mari aduc zgomot.
• Documente contradictorii: dacă există două versiuni ale aceluiași regulament, sistemul poate alege vechea versiune.
• Întrebări care cer sinteză pe tot corpusul: „care sunt cele mai frecvente reclamații” nu se rezolvă bine aducând trei fragmente.
• Model care ignoră sursa: uneori adaugă din memorie detalii care nu apar în fragmente.

Atenție: un sistem RAG reduce riscul halucinațiilor, nu îl elimină. Pentru răspunsuri cu consecințe, deschide sursa citată și verifică dacă fraza chiar spune ce pretinde asistentul.

Cum arată o folosire concretă?

Un exemplu realist, fără nume de firme: un magazin online își încarcă politica de retur, descrierile produselor și întrebările frecvente într-un sistem RAG. Un client întreabă dacă poate returna un produs desfăcut. Sistemul găsește paragraful despre retur și condițiile pentru produse deschise, iar asistentul răspunde pe baza lui, indicând pagina de unde provine.

Alte situații potrivite sunt asistenții pentru manualele tehnice, pentru proceduri interne de personal, pentru arhive de documente legale sau pentru ghidurile unui site. Pe site-uri WordPress, de pildă, un asemenea mecanism poate alimenta un chatbot cu conținutul paginilor proprii; un exemplu românesc este descris în Cum funcționează Leono, chatbotul AI pentru WordPress din România.

RAG sau reantrenarea modelului?

Pentru informații care se schimbă și trebuie citate, RAG este de obicei alegerea mai practică. Reantrenarea fină (fine-tuning) schimbă stilul sau comportamentul modelului, dar nu este un mod bun de a-i „învăța” fapte care evoluează. Cele două nu se exclud: unele proiecte folosesc un model ajustat pentru ton și un RAG pentru conținut.

Dacă vrei să situezi tehnica în ansamblul domeniului, ghidul despre inteligența artificială oferă harta generală.

Pe aceeași temă, citește și Agenții AI: ce sunt și ce pot face singuri.