Un deepfake este un conținut audio, video sau foto în care chipul, vocea ori gesturile unei persoane reale au fost create sau modificate cu ajutorul inteligenței artificiale, astfel încât să pară autentice. Numele combină termenul englezesc pentru învățarea profundă (deep learning) cu cuvântul „fals” (fake). Poți vedea un cunoscut spunând lucruri pe care nu le-a spus niciodată sau poți auzi la telefon vocea unei rude care, de fapt, nu te-a sunat.
Tehnologia are și utilizări legitime, în film, dublaj sau accesibilitate, dar a devenit și un instrument preferat al escrocilor. Articolul explică pe înțeles cum se construiește un deepfake, ce tipuri există, la ce înșelătorii sunt folosite, după ce semne le poți recunoaște și, mai ales, ce obiceiuri te protejează chiar și atunci când falsul este perfect.
Ce este un deepfake și ce tipuri există
Un deepfake este orice conținut sintetic care imită convingător o persoană reală, iar el poate afecta imaginea, sunetul sau pe amândouă. Diferența față de un montaj clasic este că modificarea nu e făcută manual, cadru cu cadru, ci de un model care a învățat cum arată și cum sună persoana respectivă.
| Tip | Ce se modifică | Exemplu de folosire abuzivă |
|---|---|---|
| Înlocuirea feței | fața unei persoane pusă pe corpul alteia | clipuri compromițătoare false |
| Sincronizarea buzelor | gura este animată după un text nou | declarații inventate ale unor oameni cunoscuți |
| Clonarea vocii | vocea este reprodusă pe orice text | apeluri false de la rude sau șefi |
| Persoană sintetică | un chip complet inventat | profiluri false pe rețele sociale |
| Animarea unei fotografii | o poză statică „vorbește” și se mișcă | păcălirea verificărilor video de identitate |
Deepfake-urile diferă de erorile involuntare ale modelelor generative, descrise în Halucinațiile AI: de ce inventează uneori modelele: aici falsul este creat intenționat, pentru a convinge.
Cum se creează un deepfake
Un deepfake se obține antrenând sau folosind un model care a învățat trăsăturile unei persoane din fotografii, clipuri sau înregistrări și care le poate apoi reproduce în situații noi. Tehnicile s-au schimbat rapid, dar trei familii de metode explică aproape tot.
Autoencoderele pentru înlocuirea feței
Primele deepfake-uri populare foloseau autoencodere: rețele neuronale care comprimă o imagine a feței într-o reprezentare scurtă, cu expresia și poziția capului, și apoi o reconstruiesc. Trucul este folosirea unui singur codificator comun și a două decodoare, câte unul pentru fiecare persoană. Codifici expresia persoanei A, dar o reconstruiești cu decodorul persoanei B, iar rezultatul este fața lui B cu mimica lui A.
Rețelele generative adversariale
Rețelele generative adversariale (GAN) pun două rețele să concureze: una generează imagini false, cealaltă încearcă să le deosebească de cele reale. Fiecare o forțează pe cealaltă să devină mai bună, până când falsurile devin foarte greu de distins. Așa au apărut chipurile complet inventate, cu aspect fotografic.
Modelele de difuzie și clonarea vocii
Generațiile recente folosesc modele de difuzie, aceleași care generează imagini din text, explicate în Generarea de imagini cu AI: cum funcționează difuzia, adaptate pentru video. Pentru voce, modelele de sinteză vorbită învață timbrul, ritmul și intonația unei persoane. Un aspect important: unele sisteme moderne pot imita destul de convingător o voce pornind de la înregistrări scurte, cum ar fi un mesaj vocal sau un clip publicat pe o rețea socială.
Mecanismul general prin care aceste rețele învață din exemple este descris în Rețelele neuronale: cum învață un model din date.
Important: Fiecare clip în care vorbești public, fiecare mesaj vocal și fiecare fotografie clară a feței pot deveni material pentru un fals. Nu înseamnă că trebuie să dispari de pe internet, ci că merită să-ți setezi conturile ca private și să fii atent ce publici.
La ce sunt folosite deepfake-urile
Deepfake-urile sunt folosite atât în scopuri legitime, cât și pentru înșelăciune, hărțuire și manipulare; tehnologia este aceeași, diferă intenția și consimțământul persoanei imitate.
Utilizări legitime
- dublajul filmelor cu sincronizarea buzelor în altă limbă;
- efecte speciale și întinerirea actorilor în producții autorizate;
- redarea vocii pentru persoane care și-au pierdut capacitatea de a vorbi;
- materiale educaționale și reconstituiri istorice semnalate ca atare;
- satiră și parodie clar marcate.
Utilizări abuzive frecvente
- escrocheria „rudei în necaz”: o voce clonată a unui copil sau a unui nepot cere bani urgent după un accident sau o arestare inventată;
- frauda „șefului”: un angajat de la contabilitate primește un apel sau chiar o videoconferință cu „directorul”, care cere un transfer urgent și confidențial;
- reclamele de investiții false: clipuri cu persoane publice cunoscute care „recomandă” o platformă de investiții sau un produs-minune;
- șantajul și hărțuirea: imagini intime false create fără consimțământ;
- dezinformarea politică: declarații fabricate, publicate în momente sensibile;
- ocolirea verificărilor de identitate: clipuri sintetice folosite pentru a deschide conturi în numele altcuiva.
Toate aceste scheme se bazează pe aceleași pârghii psihologice: urgență, frică, autoritate și secret. Ele sunt descrise în detaliu în articolul despre ingineria socială.
Semnele vizuale după care recunoști un fals
Un deepfake video se trădează adesea prin mici nepotriviri la marginile feței, la ochi, la gură și la lumină, mai ales în mișcare. Cu cât falsul este mai elaborat, cu atât semnele sunt mai discrete, așa că nicio verificare vizuală nu oferă certitudine.
| Zonă | Ce urmărești |
|---|---|
| Conturul feței | margini neclare sau tremurânde, mai ales la întoarcerea capului |
| Ochii | clipit rar ori nenatural, privire fixă, reflexii diferite în cei doi ochi |
| Gura și dinții | dinți neclari sau contopiți, buze nesincronizate cu sunetul |
| Pielea | textură prea netedă sau „ceroasă”, fără pori și riduri naturale |
| Lumina | umbre pe față care nu corespund luminii din încăpere |
| Părul și accesoriile | fire care se topesc în fundal, cercei sau ochelari care apar și dispar |
| Mâinile | degete deformate când trec prin fața feței |
Testul mișcării
Dacă vorbești în direct, prin apel video, cu cineva despre care ai dubii, cere-i să facă un gest neobișnuit: să-și întoarcă complet capul în profil, să-și treacă mâna prin fața feței sau să ridice un obiect lângă obraz. Multe sisteme de înlocuire a feței în timp real produc distorsiuni vizibile în astfel de situații. Totuși, tehnologia avansează, așa că un test trecut nu este o garanție.
Semnele audio: cum recunoști o voce clonată
O voce clonată sună adesea corect ca timbru, dar greșește la ritm, respirație și emoție; la telefon, unde calitatea sunetului e oricum slabă, semnele sunt și mai greu de prins. De aceea contextul apelului contează mai mult decât sunetul.
Indicii posibile:
- intonație plată sau emoție care nu se potrivește cu situația descrisă;
- pauze ciudate, respirații lipsă sau așezate nefiresc;
- răspunsuri întârziate la întrebări neașteptate, pentru că escrocul tastează textul;
- evitarea detaliilor personale pe care persoana reală le-ar ști;
- apel de pe un număr necunoscut, cu explicația că „telefonul meu s-a stricat”.
Semnalele de context, mai sigure decât sunetul
Cel mai puternic semnal de alarmă nu este calitatea vocii, ci combinația: urgență + bani + secret. O rudă reală poate fi într-o situație grea, dar rareori îți va cere să trimiți imediat bani prin metode neobișnuite și să nu spui nimănui.
Cum te protejezi, chiar dacă falsul e perfect
Cea mai eficientă protecție nu este să devii expert în detectarea falsurilor, ci să ai obiceiuri de verificare care funcționează indiferent cât de convingător este clipul sau vocea. Pașii de mai jos sunt simpli și se pot aplica imediat.
- Stabilește un cuvânt-cod cu familia: un cuvânt sau o întrebare pe care doar voi le știți, folosite în orice situație de urgență cu bani.
- Închide și sună tu înapoi, la numărul pe care îl ai deja salvat, nu la cel de pe care ai fost apelat.
- Confirmă pe un al doilea canal: un mesaj scris, un alt membru al familiei, un coleg.
- Nu acționa sub presiunea timpului: cererile care nu suportă cinci minute de verificare sunt aproape întotdeauna înșelătorii.
- În firme, cere dublă aprobare pentru transferuri, indiferent cine le solicită și pe ce canal.
- Limitează materialul public: conturi private, mai puține clipuri cu vocea ta, atenție la mesajele vocale trimise necunoscuților.
- Nu crede reclamele cu persoane celebre care promit câștiguri sigure; verifică la instituțiile de supraveghere financiară dacă platforma este autorizată.
Sfat: Discută despre cuvântul-cod mai ales cu părinții și bunicii. Persoanele în vârstă sunt ținta preferată a escrocheriei cu ruda în necaz, iar o singură regulă clară stabilită dinainte îi poate proteja mai bine decât orice explicație tehnică.
Obiceiurile generale de protecție a conturilor, care fac mai greu de exploatat o identitate furată, sunt adunate în Securitatea online: ghid complet pentru utilizatori obișnuiți.
Instrumentele de detecție și limitele lor
Există programe și servicii care analizează un clip sau o înregistrare și estimează probabilitatea ca acestea să fie sintetice, dar niciunul nu este infailibil. Detectoarele sunt antrenate pe tipurile de falsuri cunoscute și pot rata metodele noi, iar comprimarea clipurilor pe rețelele sociale șterge multe dintre urmele pe care se bazează.
Abordarea care câștigă teren este inversă: în loc să demonstrezi că ceva e fals, demonstrezi că ceva e autentic. Standardele de proveniență atașează fișierului informații semnate digital despre dispozitivul care l-a creat și despre modificările ulterioare, folosind aceleași principii ca semnăturile electronice, explicate în Criptografia pe scurt: criptare simetrică, asimetrică și chei. În paralel, regulamentul european cere marcarea conținutului generat de AI, iar cei care publică deepfake-uri trebuie să le semnaleze ca atare, conform Regulamentul european privind AI (AI Act) pe scurt.
Ce faci dacă ai fost țintă sau victimă
Dacă ai primit un apel suspect, ai trimis deja bani sau ai descoperit un fals cu chipul tău, acționează repede și păstrează toate dovezile. Ordinea pașilor depinde de situație.
| Situație | Ce faci imediat |
|---|---|
| Ai trimis bani sau date bancare | suni la bancă pe numărul oficial și ceri blocarea sau contestarea plății |
| Ai fost sunat, dar nu ai plătit | anunți persoana imitată și familia, ca să fie atenți |
| Există un clip fals cu tine | salvezi linkurile și capturile, raportezi conținutul platformei |
| Ești șantajat cu imagini false | nu plătești, păstrezi mesajele, depui plângere la poliție |
| Ai văzut o reclamă falsă cu o persoană publică | o raportezi platformei pe care a apărut |
Incidentele de securitate cibernetică pot fi semnalate Directoratului Național de Securitate Cibernetică (DNSC), inclusiv la numărul de telefon 1911. Pentru fapte penale, cum ar fi înșelăciunea sau șantajul, depune plângere la poliție. Dacă un clip fals folosește datele tale personale, poți apela și la ANSPDCP.
Atenție: Nu negocia cu cei care te șantajează și nu șterge mesajele lor. Conversațiile, numerele de telefon și conturile folosite sunt probe utile anchetatorilor.
Lucrurile esențiale despre deepfake-uri
Deepfake-urile sunt conținuturi în care fața sau vocea unei persoane reale sunt generate ori modificate cu inteligență artificială. Se creează cu autoencodere, rețele adversariale sau modele de difuzie și devin tot mai greu de deosebit de realitate. Semnele vizuale și audio ajută, dar protecția reală vine din obiceiuri: verificarea pe alt canal, cuvântul-cod cu familia, refuzul de a acționa în grabă și raportarea rapidă a incidentelor. Pentru imaginea de ansamblu asupra tehnologiei, vezi Inteligența artificială explicată: ghid complet pe înțeles.
De reținut:
- urgența, banii și secretul sunt semnalul principal de alarmă;
- închide și sună înapoi la numărul pe care îl știi;
- stabilește un cuvânt-cod pentru situații de urgență;
- detectoarele automate ajută, dar nu sunt infailibile;
- păstrează dovezile și raportează la bancă, poliție sau DNSC.
Întrebări frecvente
Cât material îi trebuie cuiva ca să-mi cloneze vocea?
Unele sisteme moderne pot imita o voce pornind de la înregistrări scurte, de ordinul zecilor de secunde, deși calitatea crește cu cât au mai mult material. De aceea merită să fii atent la mesajele vocale și clipurile publice.
Pot avea încredere într-un apel video?
Nu complet, dacă subiectul este o cerere de bani sau de date sensibile. Există sisteme care înlocuiesc fața în timp real, așa că verifică pe un alt canal, chiar dacă imaginea pare normală.
Este ilegal să creezi un deepfake?
Depinde de scop și de consimțământ. Înșelăciunea, șantajul, defăimarea sau folosirea imaginii cuiva fără acord pot constitui fapte sancționate, iar în Uniunea Europeană deepfake-urile publicate trebuie semnalate ca artificiale.
Cum recunosc o reclamă falsă cu o persoană celebră?
Promite câștiguri mari și sigure, te grăbește și te trimite pe un site necunoscut. Persoanele publice reale nu recomandă investiții miraculoase, iar platformele autorizate pot fi verificate la autoritățile de supraveghere financiară.
