O halucinație AI este un răspuns generat de un model de inteligență artificială care sună credibil, dar este fals: un articol de lege care nu există, o carte atribuită greșit, o statistică inventată, o funcție a unui program care nu a existat niciodată. Termenul a fost împrumutat din psihologie, dar descrie ceva mult mai banal decât o percepție falsă: un sistem care completează golurile cu text plauzibil.
Problema nu este că modelele greșesc, ci că greșesc cu același ton sigur cu care spun lucruri adevărate. Articolul explică de ce se întâmplă asta, în ce situații riscul crește, cum recunoști un răspuns suspect și ce obiceiuri te protejează când folosești un asistent pentru muncă, studiu sau decizii personale.
Ce este, concret, o halucinație
Halucinația este o afirmație generată de model care nu are sprijin în realitate sau în documentele primite, dar este formulată ca fapt. Ea diferă de o simplă greșeală de calcul prin faptul că modelul creează un conținut nou, coerent, care nu provine din nicio sursă.
Tipurile frecvente
| Tip | Cum arată | Unde apare des |
|---|---|---|
| Fapt inventat | o dată, un nume, un eveniment care nu au existat | biografii, istorie locală |
| Sursă fabricată | titlu de carte, studiu sau link care nu există | lucrări școlare, rapoarte |
| Cifră falsă | procent, prag, valoare fără bază | statistici, finanțe |
| Atribuire greșită | citat pus în gura altei persoane | articole, discursuri |
| Contradicție cu documentul | rezumat care adaugă sau inversează informații | rezumate de contracte, procese-verbale |
| Raționament greșit | pași logici care par corecți, dar nu sunt | probleme de matematică, planificare |
Cel mai înșelător tip este sursa fabricată: un titlu credibil, autori cu nume obișnuite, un an plauzibil și chiar o adresă web care respectă formatul site-ului real, dar duce la o pagină inexistentă.
De ce apar: mecanismul din spatele răspunsului
Halucinațiile apar pentru că un model de limbaj este construit să genereze continuarea cea mai probabilă a textului, nu să verifice adevărul. Pentru model, o propoziție falsă dar bine formulată și una adevărată arată, din punct de vedere statistic, foarte asemănător.
Mecanismul complet, de la tokeni la predicția fragmentului următor, este descris în Modelele de limbaj mari (LLM): cum generează text. De aici decurg câteva cauze concrete.
Cauzele principale
- Generarea probabilistică: modelul alege cuvinte plauzibile; când nu are informația, „plauzibil” înseamnă inventat.
- Golurile din datele de antrenare: subiectele rare, locale sau de nișă au fost întâlnite de puține ori, așa că asocierile sunt slabe.
- Data-limită a cunoștințelor: ce s-a schimbat după antrenare îi este necunoscut, dar modelul poate răspunde ca și cum ar ști.
- Presiunea de a răspunde: reglarea modelelor a recompensat istoric răspunsurile complete și utile, iar recunoașterea incertitudinii a fost mai rar încurajată.
- Întrebări cu premise false: dacă întrebi „de ce a interzis legea X ceva”, modelul tinde să accepte premisa și să explice un lucru care nu s-a întâmplat.
- Context foarte lung sau confuz: în documente mari, detaliile se pot amesteca între ele.
Comprimarea cunoașterii
Un model are miliarde de parametri, dar a citit mult mai mult text decât poate stoca exact. Cunoștințele sunt comprimate cu pierderi, cam cum o fotografie puternic comprimată păstrează forma generală, dar pierde detaliile fine. Ideea generală despre un domeniu rămâne, dar numărul exact al unui articol de lege sau anul unei ediții de carte se pot „reconstrui” greșit. Principiul comprimării cu pierderi este explicat în Compresia datelor: cum se micșorează fișierele digitale.
Când crește riscul de halucinație
Riscul nu este același la toate întrebările: el crește când ceri detalii precise despre subiecte rare, recente sau locale și scade la explicații generale despre concepte bine cunoscute.
| Risc redus | Risc ridicat |
|---|---|
| explicarea unui concept general | numere de lege, articole, alineate |
| reformularea unui text primit | citate exacte și cine le-a spus |
| idei și liste de verificare | bibliografii și trimiteri la studii |
| rezumatul unui document scurt pus în context | date, cifre, statistici fără sursă |
| corectarea gramaticii | informații despre persoane puțin cunoscute |
| structurarea unui plan | instituții, proceduri și termene locale |
Pentru utilizatorii din România, un risc specific apare la informațiile despre proceduri administrative, taxe, termene sau instituții locale: textele în română sunt mai puține în datele de antrenare, iar regulile se schimbă des. Un model poate amesteca proceduri din alte țări sau versiuni vechi ale unor reguli.
Atenție: Pentru întrebări de sănătate, drept, taxe sau bani, un răspuns AI poate fi doar un punct de plecare. Verifică informația la instituția competentă, pe site-ul ei oficial, sau la un specialist. În urgențe medicale sună la 112.
Semnele de alarmă într-un răspuns
Un răspuns halucinat se poate recunoaște adesea după câteva indicii: detalii foarte precise fără sursă, trimiteri care nu se deschid și o siguranță neobișnuită pe un subiect obscur. Niciun semn nu e o dovadă, dar fiecare merită o verificare.
- precizie suspectă: cifre cu zecimale, date exacte sau nume complete la o întrebare la care nici specialiștii nu au răspuns imediat;
- surse greu de găsit: titluri pe care nu le găsești în catalogul unei biblioteci sau într-o căutare obișnuită;
- linkuri care dau eroare ori duc la pagini fără legătură cu subiectul;
- schimbări la reîntrebare: dacă repeți întrebarea într-o conversație nouă și primești alt nume sau altă cifră, probabil nu există un răspuns solid;
- acceptarea oricărei premise: modelul confirmă cu ușurință și lucruri pe care le-ai introdus intenționat greșit;
- lipsa nuanțelor: un subiect controversat este prezentat ca având un singur răspuns clar.
Testul celor trei întrebări
Când primești o informație care contează, întreabă-te:
- Pot găsi această informație într-o sursă primară, independentă de model?
- Sursa citată există și spune exact ce susține modelul?
- Răspunsul rămâne același dacă reformulez întrebarea?
Cum reduci halucinațiile când folosești un asistent
Cea mai eficientă metodă de a reduce halucinațiile este să-i dai modelului materialul pe care să se bazeze și să-i ceri explicit să nu completeze din imaginație. Felul în care formulezi cererea contează mult, iar tehnicile generale sunt prezentate în ghidul despre prompturi clare.
Obiceiuri care ajută:
- pune sursa în context: lipește textul legii, al contractului sau al articolului și cere un rezumat strict pe baza lui;
- cere permisiunea de a nu ști: adaugă o instrucțiune de tipul „dacă informația nu apare în text sau nu ești sigur, spune asta”;
- cere citate exacte din documentul furnizat, pe care le poți căuta apoi în original;
- împarte sarcina: întâi extragerea informațiilor, apoi analiza, nu totul într-o singură cerere;
- folosește temperatura joasă, dacă aplicația permite, la sarcini factuale;
- compară cu altă sursă pentru orice informație care ajunge într-un document oficial, într-o lucrare sau într-o decizie.
Sfat: Pentru lucrările școlare și universitare, nu prelua niciodată o bibliografie generată fără să verifici fiecare titlu. O singură sursă inventată poate compromite credibilitatea întregii lucrări.
Ce fac furnizorii pentru a reduce problema
Sistemele moderne folosesc mai multe metode: generarea augmentată prin căutare, care pune documente reale în context; instrumente externe pentru calcule; reglări care recompensează recunoașterea incertitudinii; afișarea surselor lângă fiecare afirmație. Acestea scad frecvența erorilor, dar nu le elimină, pentru că mecanismul de bază rămâne generarea probabilistică.
Halucinațiile în alte tipuri de AI
Fenomenul nu ține doar de text: orice model generativ poate produce detalii care nu corespund realității, iar efectele diferă după domeniu.
- imagini generate: mâini cu prea multe degete, text fără sens pe firme și etichete, obiecte care se contopesc, consecințe ale felului în care funcționează difuzia, explicat în Generarea de imagini cu AI: cum funcționează difuzia;
- transcrieri audio: în porțiunile cu zgomot sau tăcere, un sistem de transcriere poate „auzi” propoziții care nu au fost rostite;
- traduceri: pot adăuga sau omite negații, ceea ce inversează sensul unei fraze;
- recunoașterea imaginilor: un model poate identifica cu încredere un obiect care nu se află în cadru.
Halucinațiile vizuale trebuie distinse de deepfake-uri, care sunt falsuri create intenționat pentru a păcăli. Despre acestea afli mai multe în Deepfake-urile: cum sunt create și cum le recunoști.
Responsabilitatea rămâne la om
Oricât de bun ar deveni un model, răspunderea pentru informația folosită sau publicată rămâne a persoanei sau a organizației care o folosește. Un text generat și copiat fără verificare într-un raport, într-o cerere oficială sau pe un site devine eroarea celui care l-a semnat.
În Uniunea Europeană, regulamentul privind inteligența artificială cere furnizorilor de sisteme cu risc ridicat să asigure acuratețe, documentare și supraveghere umană, iar unor categorii de conținut generat să le fie semnalată originea artificială. Detaliile sunt rezumate în Regulamentul european privind AI (AI Act) pe scurt. Pentru imaginea de ansamblu a punctelor tari și a limitelor AI, revino la ghidul complet despre inteligența artificială.
Câteva reguli practice pentru echipe și firme:
- stabilește în scris pentru ce sarcini se poate folosi un asistent AI și pentru care nu;
- cere ca orice cifră, citat sau trimitere legală să fie verificată la sursă înainte de folosire;
- păstrează un om responsabil pentru fiecare document care pleacă în afara organizației;
- nu introduce date personale ale clienților în servicii neaprobate de organizație.
Ce reții despre halucinațiile AI
Halucinațiile sunt o consecință directă a felului în care funcționează modelele generative: ele produc text plauzibil, nu text verificat. Riscul crește la detalii precise, subiecte rare, informații recente sau locale și la întrebări cu premise greșite. Îl reduci punând sursele în context, cerând modelului să recunoască incertitudinea și verificând personal orice informație importantă.
De reținut:
- tonul sigur al unui răspuns nu spune nimic despre corectitudinea lui;
- sursele, cifrele și citatele sunt cele mai expuse la invenții;
- documentul pus în context reduce mult riscul;
- informațiile medicale, juridice și financiare se verifică la surse oficiale;
- răspunderea pentru ce publici sau semnezi rămâne a ta.
Întrebări frecvente
De ce nu spune modelul pur și simplu că nu știe?
Pentru că nu are un mecanism intern sigur care să-i arate limitele cunoștințelor. Generează continuarea cea mai probabilă, iar un răspuns complet este adesea mai probabil decât recunoașterea incertitudinii.
Pot fi eliminate complet halucinațiile?
Nu, cu tehnologia actuală. Pot fi reduse mult prin căutare în surse reale, instrumente de calcul și reglări atente, dar modelele generative rămân probabilistice.
Cum verific o sursă dată de un asistent AI?
Caut-o direct, după titlu și autor, în catalogul unei biblioteci, pe site-ul editurii sau al instituției. Dacă nu o găsești ori conținutul ei nu spune ce susține modelul, consideră informația neconfirmată.
Halucinațiile sunt același lucru cu minciunile?
Nu. Modelul nu are intenția de a înșela; produce un text plauzibil fără să știe că este fals. Efectul asupra cititorului poate fi însă la fel de dăunător, de aceea verificarea rămâne necesară.
