Fiecare dintre noi a întâlnit pe rețelele de socializare fotografii, videoclipuri sau texte, uneori emoționante sau amuzante, fără să fie avertizat în niciun fel că acestea au fost generate cu inteligența artificială. De ce există astfel de practici înșelătoare în online, cine este de vină și cum ne putem proteja de acestea? HotNews încearcă să răspundă la aceste întrebări cu ajutorul unor specialiști în domeniul digital și în legislația europeană din domeniu.
- Realitatea e că devine din ce în ce mai greu de făcut diferența între imaginile, textele sau videoclipurile autentice și cele generate cu inteligența artificială.
- Există, totuși, niște indicii după care ne putem uita, dar trebuie să fim conștienți că sunt adesea subtile și cer o privire atentă.
- „Cei care generează conținut cu inteligența artificială au obligația să-l marcheze”, explică Mădălina Botan, care este vicepreședinte în grupul care lucrează la codul de bune practici pentru transparența conținutului produs cu AI din cadrul Comisiei Europene.
- Totuși, legislația europeană are limite. Una ar fi că platformele sociale, precum Facebook sau TikTok, au obligația de a marca conținutul generat cu AI doar când acesta prezintă „riscuri sistemice”, precum alegeri, dezinformare sau teme de larg interes public. Alte limite sunt legate de distincția făcută de lege între postările făcute „în scop comercial” și cele ale utilizatorilor obișnuiți. Cei din urmă nu sunt obligați să-și marcheze conținutul făcut cu Inteligența Artificială.
Rețelele sociale sunt pline de imagini și videoclipuri care, la prima vedere, par absolut reale: scene emoționante sau amuzante, oameni obișnuiți surprinși în momente extraordinare, de la bătrâni salvați în mod miraculos de studenți la medicină, până la scene „autentice” din viața de zi cu zi. Aceste postări sunt construite astfel încât să declanșeze reacții rapide (empatie, indignare, admirație) ale celor care le privesc. Problema cu acest conținut nu este că a fost generat cu inteligența artificială, ci că acest lucru nu este clar precizat, încă de la început. De multe ori nu știm că ne aflăm în fața unui fals.
Ca să luăm un exemplu concret, pagina de Facebook „Românașul Isteț”, cu peste 100.000 de followers, e plină de astfel de postări. Una virală, cu peste 3.000 de share-uri, este o imagine generată cu AI, însoțită de un text lung despre un tânăr care ajută un bătrân aflat în dificultate.
Povestea e lacrimogenă, construită astfel încât să țină cititorul captiv până la final. Abia după un text lung, care pare că nu se mai termină, apare o mențiune discretă că imaginea și povestea sunt generate cu AI, dar „inspirate din fapte reale”, un detaliu pe care majoritatea utilizatorilor nici nu ajung să îl vadă. În practică, postarea funcționează ca și cum ar fi reală, fiind distribuită și comentată ca atare.
Dacă până recent era destul de ușor de făcut diferența dintre fotografii făcute de oameni și cele cu inteligența artificială (de exemplu, mâinile aveau șase degete la o mână), pe măsură ce tehnologiile devin tot mai sofisticate, diferența dintre real și artificial este tot mai greu de observat, chiar și pentru utilizatori atenți.
În lipsa unor etichete clare și vizibile, conținutul generat cu AI se amestecă natural cu cel autentic, iar platformele nu reușesc (sau nu sunt motivate) să marcheze corespunzător aceste materiale. Rezultatul este un ecosistem în care oamenii ajung tot mai des în situația de a consuma și chiar a distribui postări, fără să știe exact ce distribuie.
Legea UE care reglementează Inteligența Artificială intră în vigoare în august 2026
La nivel european, există deja reguli care ar trebui să acopere această problemă, însă situația e mai complicată decât pare la prima vedere. Regulamentul principal în Uniunea Europeană este „AI Act” (Legea Inteligenței Artificiale), care stabilește obligații de transparență pentru conținutul generat cu inteligența artificială. Legea va intra în vigoare, însă, abia din august 2026. Regulile se vor aplica direct în toate țările UE, iar în România, ANCOM va fi instituția care se va asigura că AI Act va fi pus în aplicare.
„Cei care generează conținut cu inteligența artificială au obligația de a marca output-ul (n.r.- produsul), fie prin watermarking, fie prin metadate”, explică Mădălina Botan, conferențiar universitar la SNSPA și vicepreședinte în grupul care lucrează la codul de bune practici pentru transparența conținutului produs cu AI din cadrul Comisiei Europene.
Cu alte cuvinte, informația că un conținut este generat cu AI ar trebui să existe în spate, chiar dacă nu este întotdeauna vizibilă pentru utilizator. Acest lucru ajută rețelele sociale să le identifice ca atare. Astfel, platformele pot să eticheteze conținutul ca să informeze utilizatorii, să îi limiteze vizibilitatea sau să îl analizeze mai atent din punctul de vedere al dezinformării.
Obligațiile nu se opresc, totuși, la nivelul companiilor. AI Act prevede și responsabilități pentru cei care folosesc aceste sisteme în scopuri profesionale sau comerciale; de exemplu, un brand, un creator de conținut sau o publicație.
„Obligațiile pentru utilizatori sunt mai nuanțate: nu se aplică tuturor utilizatorilor individuali, ci doar celor care folosesc conținut generat de AI în scop profesional sau comercial. Asta înseamnă jurnaliști, creatori de conținut, antreprenori, practic orice activitate care nu este pur personală. În aceste cazuri există obligația de a eticheta conținutul”, spune Botan.
În schimb, utilizatorii obișnuiți, care postează în scop personal, nu sunt vizați direct de aceste obligații.
Care este diferența între utilizatori obișnuiți și cei care folosesc AI în scop comercial
Concret, diferența dintre un utilizator obișnuit și cineva care folosește AI în interes profesional sau comercial se face în funcție de scopul și contextul postării.
„Legea urmărește scopul economic sau profesional al conținutului, nu neapărat cine îl postează”, explică Botan. Dacă postezi o imagine generată cu AI pe profilul tău personal, pentru prieteni și familie, fără să obții vreun beneficiu direct sau indirect, nu intri sub incidența obligațiilor de etichetare.
În schimb, dacă aceeași imagine e folosită într-un material de marketing, într-un articol publicat de o publicație sau ca parte dintr-o campanie social media, atunci legea se aplică: conținutul trebuie marcat clar pentru a informa publicul că este generat de AI. Practic, linia de demarcație e dată de natura activității și dacă respectivul conținut poate influența publicul sau produce profit.
Pe baza acestei distincții, pagini precum „Românașul Isteț” pot fi vizate de AI Act. Chiar dacă administratorii nu vând direct conținutul sau nu fac reclame plătite în fiecare postare, pagina are peste 100.000 de urmăritori și funcționează ca un canal profesional de comunicare. De altfel, pagina e încadrată la categoria „Digital creator” pe Facebook.
Conținutul generat cu AI ajunge la un public larg, poate fi monetizat indirect și influențează percepțiile cititorilor.
„Dacă tu postezi regulat același tip de mesaj, ești încadrat ca Digital Creator, atunci clar o să se aplice. Dacă e o pagină care asta face tot timpul, eu cred că are un scop comercial acolo, probabil ascuns. Poate să fie refolosită la alegeri, de exemplu. Dar este o activitate profesională acolo, clar”, consideră Bogdan Manolea, consultant juridic și director executiv al Asociației pentru Tehnologie și Internet.
Dacă vorbim însă de o postare făcută de un cont personal, făcută de un utilizator obișnuit care ajunge, accidental, virală, abia aici apar limitările AI Act și legea nu se mai aplică.
„Dacă nu ai avut niciun scop comercial sau profesional inițial, atunci AI Act nu se mai aplică. Cu toții facem greșeli. Trebuie să înțelegem distincția asta. Una e să faci astfel de postări în activitățile tale profesionale și una e să faci tu o postare la întâmplare și să ajungă virală”, spune Manolea.
Etichetarea, însă, trebuie să fie clară și accesibilă publicului. Nu e suficient să fie menționată la finalul unui text lung. Oamenii trebuie să știe din primul moment că materialul este generat de AI, conform AI Act.
Astfel, companiile AI trebuie să marcheze conținutul ca fiind generat cu inteligența artificială atunci când e creat, cei care se folosesc de el pe rețelele sociale trebuie și ei să îl eticheteze vizibil pentru public în cele mai multe cazuri. Însă cum rămâne cu rețelele sociale ca Facebook, Instagram sau TikTok?
Există și „zone gri”, neacoperite de lege
Un lucru important de înțeles este că „AI Act” nu impune platformelor precum Facebook, Instagram sau TikTok obligația directă de a eticheta tot conținutul generat cu AI. Legea se concentrează în principal pe obligațiile furnizorilor de tehnologie și pe cei care creează conținutul cu inteligența artificială, adică persoanele sau organizațiile care folosesc sistemele AI în scop profesional sau comercial.
Dar aceste obligații de marcaj tehnic nu se traduc automat într‑o obligație pentru platforme de a eticheta tot conținutul AI pe care utilizatorii îl postează.
„Rolul lor în ecosistem este enorm, dar responsabilitatea lor directă de etichetare nu vine din AI Act, ci mai degrabă dintr-o altă legislație europeană: Digital Services Act (DSA).
Sub DSA, platformele au obligația de a eticheta conținutul generat cu AI atunci când acesta prezintă riscuri sistemice, de exemplu, în contexte legate de dezinformare, alegeri, grupuri vulnerabile sau teme de interes public. Practic, AI Act și DSA trebuie să funcționeze împreună, dar în practică există zone gri între ele, iar platformele profită de aceste ambiguități”, explică Mădălina Botan.
O zonă gri apare, de exemplu, în definirea riscurilor sistemice din DSA: un videoclip generat cu AI care imită un politician poate fi considerat satiră sau dezinformare, în funcție de context, iar obligația de etichetare sau limitare devine interpretabilă.
„Realitatea este, însă, că procesul de aplicare a acestor reguli este lent și birocratic. Deși DSA prevede amenzi serioase, un procent din cifra de afaceri, durează mult până când autoritățile construiesc cazuri solide împotriva platformelor”, adaugă ea.
Rețelele sociale au propriile politici interne privind marcarea AI
Pe lângă cadrul legislativ european, marile rețele sociale au dezvoltat propriile politici interne pentru conținutul generat cu inteligență artificială.
Meta (Facebook, Instagram, Threads) adaugă eticheta „AI info” pe videoclipuri, imagini și conținut audio, generat cu inteligența artificială. Eticheta indică dacă conținutul a fost produs integral cu AI sau doar modificat cu ajutorul unor instrumente AI, iar în cazul modificărilor minore eticheta va fi vizibilă în meniul postării. Adică doar după ce utilizatorul apasă pe cele trei puncte din dreapta sus și se deschide noul meniu.
Și TikTok impune etichetarea pentru conținutul AI care include imagini, audio sau video realiste. Practic, regulile lor cer ca toate materialele generate sau semnificativ modificate cu AI să fie marcate, fie de creator, fie automat de platformă. Creatorii pot folosi text, hashtag sau descriere, iar TikTok poate aplica automat eticheta „AI-generated” dacă detectează conținut complet generat sau modificat cu AI.
De ce nu e etichetat mereu conținutul generat cu inteligența artificială
În primul rând, din cauza unor probleme mai degrabă tehnice, explică Alexandru Voica, expert în tehnologie și comunicare și Head of Corporate Affairs & Policy la Synthesia, o platformă de AI care transformă textul în videoclipuri realiste.
Marcarea conținutului de către companiile generative de AI poate fi făcută prin text vizibil, metadate, watermarking digital sau sisteme de identificare unică, dar fiecare metodă are limite: textele și watermark-urile pot fi șterse, metadatele se pierd adesea la comprimarea fișierelor, iar watermarking-ul avansat și soluțiile de tip blockchain nu sunt încă adoptate pe scară largă.
„Din cauza acestor limitări, nu există în prezent o soluție tehnică universală și perfectă. Vom trăi, cel mai probabil, într-un ecosistem mixt, în care unele conținuturi vor fi marcate ca fiind generate cu AI, iar altele nu vor putea fi identificate clar”, spune Voica.
„Pe termen lung, este posibil să apară soluții tehnice mai bune. Dar dezvoltarea acestor sisteme durează ani de zile. Chiar și atunci, însă, nu este sigur că vor rezolva problema complet. Chiar dacă un conținut ar fi etichetat clar ca fiind generat cu AI, mulți utilizatori ar putea ignora această informație sau ar continua să creadă mesajul”, consideră el.
Ce putem face ca să putem identifica mai ușor conținutul AI
Realitatea e că devine din ce în ce mai greu de făcut diferența între imaginile, textele sau videoclipurile autentice și cele generate cu inteligența artificială.
Există, totuși, niște indicii după care ne putem uita, dar trebuie să fim conștienți că sunt adesea subtile și cer o privire atentă.
În cazul imaginilor generate, erorile de anatomie sunt în continuare prezente: de exemplu, degete deformate, proporții ale corpului care nu respectă realitatea, membre care par să fie tăiate sau lipsite de continuitate, și fundaluri neclare sau deformate. De asemenea, AI-ul poate genera fețe care par simetrice în mod artificial sau cu expresii fixe, fără variațiile naturale pe care le vedem la oameni reali.
Spre exemplu, în fotografia de mai sus se observă din felul cum atârnă cerceii că nu există o simetrie a urechilor.
Videoclipurile aduc provocări suplimentare: mișcările personajelor pot fi prea uniforme, gesturile pot părea rigide sau cu o fluiditate nefirească, iar ochii sau buzele pot avea mișcări nerealiste. Sunetul generat poate avea tonalități monotone (dacă sună ca o voce AI, probabil chiar e) sau respirații și sunete ambientale care nu se potrivesc cu scena. Uneori, AI-ul nu reproduce corect reflexiile luminii sau umbrele, chiar dacă la prima vedere imaginea sau clipul par realiste.
Însă toate aceste erori devin tot mai rare pe măsură ce trece timpul și modelele AI devin din ce în ce mai sofisticate.
„În ceea ce privește utilizatorii, realitatea este că devine din ce în ce mai dificil, dacă nu imposibil, să distingă conținutul generat cu AI de cel real. Chiar și profesioniștii pot avea dificultăți în a identifica deepfake-uri bine realizate”, spune Mădălina Botan.
Gândirea critică devine tot mai importantă
În acest context, soluția vine din marcarea lor corespunzătoare pe de-o parte (însă cu limitările tehnice din prezent) și educația.
„În loc să ne concentrăm obsesiv pe întrebarea „este sau nu generat cu AI?”, cred că ar trebui să ne întrebăm dacă ceea ce vedem este credibil. O abordare mai eficientă este dezvoltarea gândirii critice. De exemplu, în țări precum Finlanda, oamenii nu consideră automat că ceea ce văd online este adevărat. Reflexul este să caute confirmări din mai multe surse. Dacă nu găsesc două sau trei surse credibile care să confirme informația, atunci nu o consideră reală. Acest tip de comportament este mult mai eficient în combaterea dezinformării decât orice soluție tehnologică”, spune Alexandru Voica.
Din punctul său de vedere, pentru utilizatorii obișnuiți, există câteva lucruri simple care pot ajuta. În primul rând, este importantă o formă de „igienă digitală”, „adică limitarea timpului petrecut online și conștientizarea faptului că există și alte lucruri în afara internetului”.
În al doilea rând, platformele oferă instrumente prin care poți controla, într-o anumită măsură, tipul de conținut pe care îl vezi. „Dacă feed-ul este dominat de conținut de slabă calitate, acesta poate fi ajustat”.
Cu siguranță că ajută foarte mult ca oamenii să fie atenți și la semnalele contextuale: cine postează materialul, ce alte surse există care confirmă informația și dacă există detalii specifice care arată experiența umană sau autenticitatea unei situații.
