Experiment HotNews.ro. Ce conținut îi oferă TikTok unei fete de 13 ani care-și face cont pe platformă: „Soțul meu e șeful meu, sunt de acord cu tot ce zice”

spot_img

Știri din aceeași categorie

DISTRIBUIE!

​Într-un context în care în Europa se discută despre cât de nesigură este aplicația TikTok pentru utilizatori, HotNews.ro a realizat un experiment pentru a vedea la ce fel de mesaje s-ar putea expune o fată de 13 ani (vârsta minimă la care poți să-ți faci cont pe platformă) ce decide să folosească aplicația. Rezultatele sunt șocante.

TiktokFoto: ANP / ddp USA / Profimedia

TikTok-ul este una dintre cele mai folosite platforme de către tinerii români cu vârste cuprinse între 18 și 29 de ani, potrivit Barometrului Tinerilor din România din perioada iulie-septembrie 2022.

Același lucru se întâmplă și la nivel internațional. Un sondaj realizat de Morning Consult arată că noua platformă înlocuiește Google-ul în rândul generației Z, care se informează în principal de pe rețelele sociale.

Vârsta minimă pentru a-ți face un cont de TikTok este 13 ani. Recent, compania a anunțat că va limita timpul petrecut pe ecran pentru utilizatorii minori și va oferi protecție suplimentară pentru copii. Asta înseamnă că utilizatorilor li se va cere să introducă o parolă, după ce ating limita de 60 de minute, dacă doresc să continue să folosească aplicația.

Măsura a fost profund criticată pentru că „acționează ca un bandaj pe o rană adâncă”, așa cum explică CEO-ul de la Centrul pentru Combaterea Urii Online, Imran Ahmed, într-un articol publicat de Euronews. Mai exact, este vorba de o „rană psihologică” care apare din cauza conținutului pe care îl livrează aplicația și care are un impact mult mai mare asupra copiilor.

De asemenea, Uniunea Europeană a luat decizia de a interzice folosirea aplicației în instituțiile europene din cauza problemelor de securitate cibernetică și, la momentul actual, se discută despre interzicerea TikTok în toată Europa din septembrie. Scenariul acesta poate deveni realitate dacă compania nu se adaptează la legislația UE privind serviciile digitale.

După ce jurnaliștii de la Observer au arătat cum TikTok-ul încearcă să promoveze clipuri cu Andrew Tate în rândul tinerilor, am vrut să vedem ce fel de video-uri promovează algoritmul aplicației atunci când e vorba despre fete minore.

Ce sfaturi primește o fată de 13 ani care își face cont pe TokTok

Așadar, în urmă cu o lună am creat un cont fictiv de fată cu vârsta de 13 ani din România. Ca să nu influențez prea tare algoritmul aplicației, am încercat să nu apreciez niciun video sau să fac vreo căutare.

Totuși, după cum mi-a explicat ulterior Robert Tatoi, fondator al companiei Play Vertical, specializată în video-urile de pe TikTok, algoritmul realizează că utilizatorul este interesat de un anumit conținut chiar și dacă acesta doar urmărește un video până la sfârșit.

Screenshot via TikTok

Încă din prima zi în care am creat contul, după două scroll-uri, mi-a apărut un video în care o femeie musulmană explică cum se supune total soțului ei:

„Soțul meu este șeful meu. Soțul meu este numărul unu. Dacă soțul meu îmi spune „Hei, stai jos!”, voi face asta. Dacă el îmi spune că nu pot ieși cu prietenii, nu voi ieși cu prietenii. Dacă îmi spune să spăl vasele în locul lui, voi merge să spăl vasele. Am ales ca acest om să fie regele vieții mele și sunt de acord cu tot ce zice și fac tot ceea ce îmi spune să fac”.

Postarea aparține utilizatorului „montrealbiking”, care are numeroase clipuri identice, cu aceeași femeie. În alte video-uri, aceasta explică, în limba engleză, cum bărbații sunt ademeniți de către femei, potrivit Coranului, și le sfătuiește să fie de acord cu absolut tot ceea ce spun partenerii lor.

Chiar dacă oamenii din secțiunea de comentarii au fost de acord că mesajul este unul total nepotrivit, misogin și dăunător, contul continuă să existe și promovează același tip de conținut. Descrierile sunt simple hashtag-uri de tipul #submission #ownership sau uzualele #women #islam.

Timp de două săptămâni după acest moment, pagina de „For You” al contului fictiv pe care l-am creat se transformase într-un maglavais din care făceau parte: clipuri despre operații estetice, tulburări de alimentație și alte video-uri mai benigne, precum „Cum să-ți faci părul creț, folosind o strecurătoare?”.

„AI-ul acesta se uită la nivel de țară, de unde ești, și, cel mai probabil, a observat că acest video a fost în Trending în România. De exemplu, el vede că femeile de peste 35 de ani s-au uitat la acest video, deci s-a gândit „hai să vedem dacă pot să trimit la persoane între 20-35, apoi 13-20”. Îți dai seama că nu are o filtrare impecabilă, e o chestie de reglementare care se face încetul cu încetul”, a explicat Robert Tatoi.

După vreo săptămână în care tot ceea ce apărea pe „For You Page” erau fete cu păr creț și video-uri cu Anamaria Prodan, algoritmul s-a gândit că trebuie să livreze și alte lucruri: un întreg univers în care fetele încearcă să slăbească.

Adolescente care arată că au trecut de la 50 la 39 de kg și oameni care lasă comentarii cu „Mi-aș dori să fiu ca tine” apăreau din ce în ce mai des, alături de diete cu ouă sau persoane care explică ce înseamnă să trăiești cu o tulburare de alimentație.

„Nothing feels as good as skinny feels” („Nimic nu te face să te simți mai bine decât sentimentul că ești slab”), o expresie cunoscută de fetele care aveau cont de Tumblr în 2016, apărea pe unele video-uri, însă era demontată în altele.

Nu au lipsit nici băieții care oferă sfaturi pentru dating. „Felul în care faceți sex ne spune multe despre voi”, „Vă verificăm locația atunci când ieșim la întâlnire” sau „Atunci când spune că merge la culcare, de fapt nu face asta” erau câteva dintre „secretele” pe care le-a împărtășit un utilizator despre bărbați.

În ultima săptămână în care am încercat aplicația, lucrurile au început să fie tot mai intense. Video-urile cu propagandă islamică sau teorii ale conspirației s-au multiplicat.

Screenshot via TikTok

Un clip în care o persoană pretinde a fi William Montague al III-lea a apărut de două ori. El susține un discurs, cu o carte de-a lui Aldous Huxley în mână, în care spune că deține adevărul despre cei care controlează lumea și pe oamenii obișnuiți, care sunt văzuți ca niște „oi ușor de controlat”.

Mesajul este unul specific teoriilor conspirației, bazându-se pe dihotomia „noi” vs. „ei”. Fără să fie precizat contextul, pare că acest om deține adevărul absolut despre „oculta mondială” sau „masonerie”. De fapt, așa cum arată fact-checking-ul publicat pe ANTI-FAKE.RO, clipul este un fragment dintr-o înregistrare a poeziei „The Banker” (Bancherul), recitată de actorul Michael Daviot.

Acest tip de conținut mergea mână în mână cu video-uri explicative despre „Matrix”, sistemul creat de societate care te transformă în sclav, și idei despre cum ai putea să scapi de statutul de victimă. Discursul din aceste video-uri este asemănător cu cel a lui Andrew Tate, care are și un curs despre asta în cadrul școlii sale pentru bărbați, Hustler’s University.

Discurs transfob, Jahannum și Piers Morgan

Video-urile în care apar musulmani începeau să devină mai temperate spre finalul experimentului. A apărut un cuplu care face conținut amuzant, roast și alte asemenea, iar totul arăta oarecum mai progresist.

Începea să fie conturată o imagine a Islamului în care bărbații își dau seama că femeile nu sunt doar un obiect și condițiile în care se desfășoară o relație amoroasă par mai permisive. Asta a durat puțin, până când TikTok-ul a promovat, din nou, video-uri în care femeile primeau sfaturi despre cum să treacă de la o relație de tipul „haram” (relații pasagere) la una „halal” (relații care au ca scop final căsătoria).

Screenshot via TikTok

Algoritmul a început să recomande clipuri în care tema principală era „femeile nu trebuie să facă sex înainte de căsătorie” sau „femeile nu pot refuza să facă sex cu soțul lor, doar dacă au un motiv bine întemeiat”.

După un timp au apărut și secvențe dintr-o o emisiune de-a lui Piers Morgan în care spune că „ar trebui să fie posibil ca el să se identifice ca femeie lesbiană, de culoare” dacă alte persoane care dețin penis se pot identifica drept femei. Discursul homofob și transfob a apărut, ulterior, și de la persoane din Islam, care argumentau că poți ajunge în „Jahannum” (iad) dacă ești transgender sau de la Jordan Peterson.

Noul target al extremiștilor de pe rețelele sociale: femeile tinere

Sfera digitală a devenit un factor important în ceea ce privește radicalizarea și un mediu folosit de către extrema dreaptă sau islamismul extremist pentru a recruta noi membri.

Asta arată un document al Comisiei Europene din 2022 care încearcă să crească gradul de conștientizare asupra problemei. Fetele ajung să fie victimele discursurilor misogine sau anti-feministe, promovate intens în așa-numita „Manosferă”, în grupuri precum Men Going Their Own Way (MGTOW).

Totodată, există și pericolul grupurilor de extremă dreaptă care folosește hashtag-uri specifice pentru a atrage fetele în lumea extremismului online. Islamismul extremist folosește de ceva vreme social media pentru a recruta noi membri în grupări radicale precum Daesh.

Acest tip de propagandă a fost găsită pe TikTok în 2018, iar compania a declarat oficial că încearcă să limiteze postările respective. Video-urile erau orientate în mod explicit către fete tinere și foloseau tag-uri precum „jihadi lover” sau „jihadist and proud”, după cum arată documentul publicat de Comisia Europeană.

Extremiștii răspândesc mesajele și reușesc să ajungă la o audiență mai mare, folosindu-se de trendurile existente pe platformă și de algoritmul din spatele paginii For You.

„În 2019, după ce Daesh a pierdut controlul asupra așa-numitului califat din Siria și Irak, aproximativ 24 de conturi, care între timp au fost șterse, erau afiliate cu gruparea și foloseau TikTok pentru a răspândi propagandă”, explică Comisia Europeană. Specificul extremismului văzut online este că mesajele sau conținutul promovat folosește stereotipuri de gen și segregare de gen, adresându-se unei audiențe specifice.

Un studiu bazat pe o analiză de conținut arată cum, pe site-urile din Indonezia, termenii „casnică”, „soție”, „mamă” erau asociați cu femeile. În același timp, bărbații erau „lideri” sau „apărători”.

Totuși, extrema dreaptă sau islamul extremist vor încerca, de multe ori, să combată rolurile de gen tradiționale, atunci când se adresează unui target tânăr.

Conținutul promovat de către algoritm nu este o simplă eroare, explică Ciprian Mihali, doctor în filosofie și conferențiar universitar abilitat la Universitatea Babeș-Bolyai, care a studiat fenomenul TikTok mai îndeaproape.

În opinia acestuia, numărul de vizualizări sau promovarea plătită sunt doar unele dintre lucrurile care pot influența ceea ce apare pe For You.

„Efectul de randomizare, acest efect aleatoriu introdus de TikTok, este următorul: de fiecare dată când închid TikTok-ul și îl deschid, din nou, peste 30 de secunde, îmi va arăta altceva. E posibil ca în această defilare aleatorie să apară și acest tip de conținut. Sunt lucruri introduse în el, pot să fie niște testări de gusturi, dar algoritmul nu judecă. Probabil că judecă doar cazurile de extremă violență, dar nu e un instrument democratic sau unul care să țină la valori democratice”.

Limitarea acestor comportamente va fi foarte dificil de controlat, adaugă profesorul. A fost greu să diminueze acest tip de conținut de pe platforme precum Facebook sau Youtube, care au fost create, totuși, în lumea democratică.

„Deci, în lumea americană unde există, măcar formal, respect pentru lege sau pentru statul de drept a fost dificil. Îmi imaginez că ar fi foarte greu ca patronii de la TikTok să fie chemați la Bruxelles, în care să li se spună să limiteze unele lucruri”. Tocmai de aceea apar acum decizii la nivelul UE sau SUA, pentru că e mai ușor să se facă intervenție de la user, nu de la sursă”, explică Ciprian Mihali.

Cum arată postările de social media orientate către fete?

Comisia Europeană a oferit o descriere care poate să prevină infestarea cu propagandă islamică sau de extremă dreaptă. Imaginile promovate de grupurile islamice pe social media se vor axa, în general, pe subiecte ce țin de relații sau sexualitate, care să trezească diferite emoții în persoana care le urmărește.

De asemenea, postările pot să instige, direct sau indirect, la violență. Influența poate să apară sub forma unor conturi de Instagram, videoclipuri pe TikTok sau chiar stickere pe Telegram. Meme-urile sau imaginile publicate pe rețelele sociale vor fi însoțite de mesaje motivaționale sau religioase.

Opțiunile de „like” sau „share” sunt cele care le permit să se infiltreze în conținutul primit de tinere fete. Compania susține că este împotrivă oricărui comportament terorist sau care se opune regulilor comunității, potrivit BBC care citează Wall Street Journal:

„Interzicem orice cont sau dispozitive asociate cu aceste conturi de îndată ce le identificăm și continuăm să dezvoltăm tehnicile de control ca să detectăm orice activitate suspectă. Asta este o problemă a industriei amplificată de actori de rea-credință care încearcă, în mod direct, să eludeze măsurile de protecție. Avem o echipă specializată în a proteja utilizatorii de comportamente dăunătoare”.

Cu toate acestea, propaganda continuă să existe pe platforme TikTok, chiar și după ce s-a încercat limitarea acestui tip de conținut. De exemplu, un raport realizat de Tracking Exposed arată că utilizatorii din Rusia au continuat să primească video-uri pro-Kremlin, în ciuda interzicerii acestor clipuri pe platformă.

La momentul actual, aplicația TikTok este interzisă la nivelul instituțiilor europene sau în țări precum Belgia, SUA, Canada, India, Taiwan, Pakistan și Afghanistan.

Am încercat să iau legătura cu reprezentanții TikTok România, însă nu am primit un răspuns până la publicarea articolului.

spot_imgspot_img