Prejudecățile în AI: de unde vin și cum le reduci

Prejudecata în inteligența artificială, numită în engleză bias, este tendința unui sistem de a da rezultate sistematic mai slabe sau mai nefavorabile pentru anumite grupuri, contexte sau tipuri de cazuri. Nu înseamnă că programul „are păreri”. Înseamnă că a învățat dintr-un material care nu reflecta echilibrat lumea și a preluat, fără să-și dea seama, asimetriile lui.

Subiectul contează pentru oricine, nu doar pentru specialiști, pentru că sisteme automate sortează cereri de credit, CV-uri, anunțuri afișate sau fotografii. Mai jos vezi de unde apar prejudecățile, cum arată în practică, cum se măsoară și ce se poate face pentru a le reduce.

De unde apar prejudecățile într-un sistem AI?

Prejudecățile apar în trei locuri principale: în date, în etichete și în felul în care este proiectat sistemul. Rareori există un singur vinovat, iar mai multe cauze se pot suprapune.

Date care nu reprezintă lumea reală

Dacă un model de recunoaștere a vocii este antrenat în mare parte cu înregistrări în accente din studiouri, va funcționa mai prost cu o vorbitoare cu accent regional într-o încăpere zgomotoasă. Modelul nu a greșit regula; i-au lipsit exemplele. Despre cum se adună și se curăță materialul de bază vezi Datele de antrenament AI: surse, calitate și limite.

Etichete subiective

La învățarea supervizată, oamenii decid răspunsul corect. Dacă evaluatorii au judecat inconsecvent, de pildă ce înseamnă un comentariu „agresiv”, modelul copiază inconsecvența. Mecanismul este explicat în Învățarea supervizată și nesupervizată: diferențele.

Alegeri de proiectare

Chiar cu date bune, rezultatul depinde de ce se optimizează. Un sistem care maximizează numărul de clicuri va favoriza conținutul care provoacă reacții, nu cel mai corect. Despre asta vorbește și articolul despre algoritmii de recomandare.

Cum arată prejudecata în situații obișnuite?

Prejudecata se vede concret în decizii mici, repetate de multe ori. Câteva situații descrise general, fără cazuri inventate:

• Un sistem de selecție a CV-urilor antrenat pe angajările din trecut poate prefera profilurile asemănătoare cu cele angajate înainte, perpetuând un tipar existent.
• Un generator de imagini cerut să deseneze „un director” poate produce aproape mereu același tip de persoană, pentru că așa apare în materialul văzut.
• Un detector de conținut generat de AI poate marca mai des textele scrise de persoane care folosesc o limbă a doua, pentru că stilul lor este mai uniform.
• Un sistem de recunoaștere facială poate avea rate de eroare diferite pentru grupuri diferite, dacă acestea au fost reprezentate inegal în setul de antrenare.

Ce au în comun: erorile nu sunt aleatoare, ci sistematice, adică lovesc aceleași tipuri de cazuri. De aici rezultă și motivul pentru care un procent general de acuratețe bun poate ascunde probleme serioase pe un subgrup.

Cum se măsoară prejudecata?

Prejudecata se măsoară comparând rezultatele sistemului pe grupuri diferite, nu doar pe ansamblu. Dacă un model are 95% acuratețe în medie, dar 99% pe un grup și 80% pe altul, media ascunde diferența.

Există și o dificultate de fond: corectitudinea poate fi definită în mai multe moduri, iar unele definiții nu pot fi satisfăcute simultan. De aceea nu există un singur număr care să certifice că un sistem este „nepărtinitor”; se discută întotdeauna în context și se alege ce fel de eroare este mai grav tolerată.

Ce se poate face pentru a o reduce?

Prejudecata nu dispare complet, dar se poate limita prin măsuri aplicate în trei momente: înainte, în timpul și după antrenare.

1. Înainte: date mai variate, echilibrate, cu verificarea surselor și documentarea modului în care au fost adunate.
2. În timpul antrenării: ajustarea modelului ca erorile să fie penalizate echilibrat între grupuri, nu doar în medie.
3. După: teste pe cazuri variate, monitorizare după lansare și o cale clară prin care utilizatorii pot semnala rezultate nepotrivite.

La toate acestea se adaugă supravegherea umană în deciziile cu miză mare. Un sistem care sugerează și un om care decide este o configurație mai sigură decât un sistem care hotărăște singur, mai ales în angajări, credite sau sănătate. Cadrul european al regulilor pentru astfel de utilizări este rezumat în Regulamentul european privind AI (AI Act) pe scurt.

Sfat: când întrebi un asistent AI despre oameni, grupuri sau stereotipuri, tratează răspunsul ca punct de plecare. Cere explicit perspective multiple și verifică afirmațiile la surse independente.

Ce poți face tu, ca utilizator?

Ca persoană care folosește uneltele, ai la îndemână câteva obiceiuri utile. Testează o unealtă pe câteva cazuri diferite înainte să te bazezi pe ea, de pildă schimbând numele sau contextul dintr-o cerere și comparând rezultatele. Observă dacă răspunsurile repetă aceleași imagini sau formulări stereotipe. Și nu folosi un rezultat automat ca singură bază pentru o decizie care afectează o persoană.

Dacă lucrezi într-o firmă care alege sau construiește astfel de sisteme, întreabă furnizorul pe ce date a fost testat modelul, pe ce grupuri a fost evaluat și ce procent de erori apare pe fiecare. Răspunsurile vagi sunt, ele însele, o informație. Pentru contextul general al acestor tehnologii poți relua și ghidul de bază despre inteligența artificială.

Pe aceeași temă, citește și rețelele neuronale: cum învață un model din date.