Datele de antrenament AI: surse, calitate și limite

Datele de antrenament sunt materialul brut din care un model de inteligență artificială își formează comportamentul: texte, imagini, sunete, tabele sau înregistrări de senzori. Un model nu are intuiție proprie și nu „știe” nimic în afara a ceea ce a întâlnit în aceste date. Dacă materialul este bogat și corect, modelul devine util. Dacă este sărac, dezechilibrat sau plin de erori, defectele se văd apoi în fiecare răspuns.

Fraza „modelul este tot atât de bun cât sunt datele lui” e simplificată, dar punctează bine ideea. Dacă ai citit despre învățarea automată, știi deja că nu există rețetă scrisă de om, ci tipare extrase din exemple. Aici vezi de unde vin acele exemple, cum se pregătesc și unde apar limitele.

De unde vin datele cu care învață un model?

Datele provin din patru direcții mari: colecții publice, date licențiate, date create de utilizatori și date produse special pentru antrenare. Fiecare are avantaje și riscuri diferite.

• Colecții publice: pagini web, cărți digitalizate, enciclopedii, arhive de cod sau seturi de imagini adunate de cercetători. Sunt ieftine și voluminoase, dar neuniforme.
• Date licențiate: arhive de presă, baze de date profesionale sau fotografii de stoc, obținute printr-un contract cu deținătorul drepturilor.
• Date de utilizare: interacțiuni cu un produs, cum ar fi corecturi făcute de utilizatori sau alegerea unui răspuns în locul altuia, folosite doar în anumite condiții și cu setări de confidențialitate.
• Date create special: exemple scrise sau evaluate de oameni plătiți pentru asta, uneori și date sintetice, generate de alte modele.

Cine deține drepturile asupra acestor materiale este o discuție juridică activă, iar regulile diferă de la o țară la alta. Pentru partea europeană a subiectului merită parcurs și regulamentul european privind AI, care cere transparență privind datele folosite la anumite sisteme.

De ce contează calitatea mai mult decât cantitatea?

Un volum mare de date proaste produce un model mare și prost, deoarece modelul învață tot ce i se arată, inclusiv greșelile. Cantitatea ajută până într-un punct: după ce modelul a văzut destule exemple variate, un set suplimentar de același tip aduce tot mai puțin.

Calitatea înseamnă mai multe lucruri deodată:

1. Corectitudine: informațiile sunt adevărate, iar etichetele sunt puse bine.
2. Diversitate: datele acoperă situații, limbi, stiluri și cazuri de margine, nu doar varianta cea mai frecventă.
3. Curățenie: fără duplicate, fără text spart, fără fragmente trunchiate.
4. Actualitate: datele nu descriu o lume depășită, iar modelul semnalează unde cunoștințele lui se opresc.

Un exemplu simplu: un model care ar învăța rețete culinare doar din comentarii de pe forumuri, în care jumătate dintre oameni modifică cantitățile „după ochi”, va reproduce aceleași proporții șovăitoare. Nu pentru că ar fi defect, ci pentru că a făcut exact ce i s-a cerut: a imitat materialul.

Cum se curăță și se pregătesc datele?

Pregătirea datelor este, de multe ori, cea mai lungă parte a unui proiect AI, mai lungă decât antrenarea propriu-zisă. Se parcurg câțiva pași tipici, într-o ordine care variază după domeniu.

Pașii obișnuiți

Ultimul pas este ușor de subestimat. Dacă modelul este testat pe aceleași exemple pe care a fost antrenat, rezultatul arată impecabil și nu spune nimic despre comportamentul lui cu cazuri noi. De aceea setul de test trebuie să rămână complet separat, iar cine îl scurge accidental în antrenare obține cifre frumoase, dar înșelătoare.

Ce se întâmplă când datele sunt slabe?

Datele slabe produc modele cu defecte previzibile, dintre care patru apar mai des decât celelalte. Modelul poate reproduce erori, pentru că a văzut aceeași afirmație falsă repetată de multe ori. Poate ignora grupuri întregi, dacă ele lipsesc din date. Poate memora fragmente private sau protejate, dacă nu au fost filtrate. Și poate pierde actualitatea, fiindcă materialul se oprește la o anumită dată.

Primul și al doilea defect sunt strâns legate de prejudecățile din sistemele AI. Al treilea ține de confidențialitate, iar al patrulea explică de ce un asistent poate vorbi cu siguranță despre lucruri care s-au schimbat între timp. Un efect înrudit este halucinația, în care golurile din cunoștințe sunt completate cu text plauzibil.

Atenție: faptul că o informație apare de multe ori în datele de antrenare nu o face adevărată. Modelul învață frecvența, nu veridicitatea.

Ce înseamnă datele sintetice?

Datele sintetice sunt exemple generate artificial, de obicei de un alt model sau de un program de simulare, folosite pentru a completa ce lipsește din datele reale. Sunt utile când datele reale sunt rare sau sensibile: de exemplu, scenarii de conducere periculoase pentru o mașină autonomă, care nu pot fi provocate pe stradă, sau înregistrări medicale simulate care nu aparțin niciunui pacient.

Au însă o limită serioasă. Dacă un model învață doar din rezultatele altui model, erorile se pot amplifica, iar diversitatea scade treptat. Practica sănătoasă este să le amesteci cu date reale și să verifici periodic rezultatul pe exemple din lumea reală.

Ce poți face tu ca utilizator?

Tu nu alegi datele unui model, dar poți judeca mai bine ce primești de la el. Un asistent AI este mai de încredere pe subiecte bine documentate și mai șovăielnic pe teme locale, rare sau foarte noi. Pentru o întrebare despre o regulă dintr-o localitate din România, probabilitatea ca datele lui să fie subțiri este mare, deci verificarea la sursă devine obligatorie.

De asemenea, textul pe care îl trimiți unui serviciu poate deveni, în funcție de setări, material pentru îmbunătățirea lui, motiv pentru care merită să te gândești ce date personale sau de serviciu trimiți unui asistent AI. Iar volumele uriașe de informație din spatele acestor sisteme se leagă de ideile din Big data: ce înseamnă și cum se analizează volumele mari.