Un studiu asupra algoritmului de recomandare a materialelor video de pe TikTok a descoperit că sugerează conținutul legat de tulburări alimentare și autovătămare pentru unele conturi noi ale adolescenților în doar câteva minute de la activare, transmite Sky News.
Cercetările de la Centrul pentru Combaterea Urii Digitale (CCDH) au demonstrat că un cont a arătat conținutul de sinucidere în decurs de 2,6 minute de la activare, iar altul a sugerat aparținătorului conținut legat de tulburări alimentare în doar 8 minute.
O investigație ulterioară efectuată de Sky News a găsit, de asemenea, dovezi ale conținutului dăunător legat tulburări de alimentație recomandate prin funcția de căutare sugerată de TikTok, în ciuda faptului că nu a căutat conținut explicit dăunător.
Organizația de caritate pentru tulburări de alimentație din Marea Britanie, BEAT, a declarat că descoperirile sunt „extrem de alarmante” și a cerut TikTok să ia „măsuri urgente pentru a proteja utilizatorii vulnerabili”.
Pagina ”For You” a TikTok oferă un flux de videoclipuri care sunt sugerate utilizatorului în funcție de tipul de conținut cu care interacționează în aplicație.
Compania de social media spune că recomandările se bazează pe o serie de factori, inclusiv aprecierile videoclipurilor, urmăririle, distribuirile și setările dispozitivului, cum ar fi preferința de limbă.
Dar unii și-au exprimat îngrijorări cu privire la modul în care se comportă acest algoritm atunci când vine vorba de recomandarea conținutului dăunător, agresiv și periculos.
CCDH a creat câte două conturi noi cu originea în țările: Marea Britanie, SUA, Canada și Australia. Pentru fiecare, a fost dat un nume de utilizator tradițional feminin, iar vârsta a fost setată la 13 ani.
Al doilea cont al fiecărei țări a inclus, de asemenea, expresia „slăbire” în numele său de utilizator, despre care cercetări separate au arătat a fi o trăsătură prezentată de conturile aparținând utilizatorilor vulnerabili.
Cercetătorii de la CCDH au analizat conținutul video afișat pe pagina ”„Pentru tine” a fiecărui cont nou pe o perioadă de 30 de minute, interacționând doar cu videoclipuri legate de imaginea corpului și sănătatea mintală.
S-a constatat că utilizatorilor adolescenți standard li s-au oferit videoclipuri legate de sănătatea mintală și imaginea corpului la fiecare 39 de secunde. Nu tot conținutul recomandat în acest ritm a fost dăunător, iar studiul nu a făcut diferența între conținutul pozitiv și conținutul negativ. Cu toate acestea, s-a constatat că tuturor utilizatorilor li s-a oferit conținut legat de tulburări alimentare și conținut de sinucidere, uneori foarte rapid.
Cercetarea CCDH a constatat, de asemenea, că anumitor conturi vulnerabile li s-a afișat acest tip de conținut de trei ori mai mult decât conturile standard, iar acelor conturi li s-a afișat un conținut extrem decât conturile standard.
Rezultă concluziilor CCDH că TikTok găzduiește o comunitate cu conținut legat de tulburări alimentare care a strâns peste 13,2 miliarde de vizualizări în 56 de hashtag-uri diferite. Aproximativ 59,9 milioane dintre aceste vizionări au fost pe hashtag-uri care conțineau o concentrație mare de videoclipuri în favoarea tulburărilor alimentare.
Cu toate acestea, TikTok spune că activitatea și experiența rezultată surprinse în studiu „nu reflectă comportamentul sau experiențele de vizionare autentice ale oamenilor reali”.
Kelly Macarthur a început să sufere de o tulburare de alimentație la vârsta de 14 ani. Acum și-a revenit după boală, dar, în calitate de creator de conținut pe TikTok, este îngrijorată cu privire la impactul pe care o parte din conținutul acestuia l-ar putea avea asupra persoanelor care suferă. „Când nu mă simțeam bine, credeam că rețelele de socializare erau un loc cu adevărat sănătos în care să pot discuta despre problemele mele. Dar, în realitate, era plin de materiale care susținea anorexia, oferindu-ți diferite sfaturi.”, a spus ea pentru Sky News. „Văd că se întâmplă același lucru cu tinerii pe TikTok.”
O investigație ulterioară de la Sky News a constatat, de asemenea, conținut dăunător cu tulburări de alimentație sugerat de TikTok în alte zone ale aplicației, în ciuda faptului că nu l-a căutat în mod explicit.
Sky News și-a efectuat propria cercetare asupra algoritmului de recomandare al TikTok folosind mai multe conturi diferite. Dar, în loc să analizăm pagina ”Pentru tine”, a căutat termeni nedăunători precum „scădere în greutate” și „dietă” în bara de căutare a TikTok.
O căutare a termenului „dietă” într-un cont a adus o altă sugestie „pr0 a4a”. Acesta este codul pentru „pro ana”, care se referă la conținutul pro-anorexie.
Orientările comunității TikTok interzic conținutul legat de tulburările alimentare pe platforma sa și aceasta include interzicerea căutărilor de termeni care sunt asociați în mod explicit cu acesta. Dar utilizatorii vor face adesea modificări subtile ale terminologiei, ceea ce înseamnă că pot continua să posteze despre anumite probleme fără a fi observați de moderatorii TikTok. În timp ce termenul „pro ana” este interzis pe TikTok, încă apar variante ale acestuia.
Sky News a mai descoperit că întreg conținutul cu tulburări alimentare poate fi accesat cu ușurință prin intermediul funcției de căutare a utilizatorilor TikTok, în ciuda faptului că nu este căutat în mod explicit.
O căutare a termenului „scădere în greutate” ne duce spre cel puțin un cont care pare a fi un cont de tulburări de alimentație în primele 10 rezultate.
Sky News a raportat acest lucru lui TikTok și de atunci a fost eliminat. „Este alarmant că algoritmul TikTok împinge în mod activ utilizatorii spre videoclipuri dăunătoare, care pot avea un impact devastator asupra persoanelor vulnerabile.” a declarat Tom Quinn, director de afaceri externe la BEAT.
„TikTok și alte platforme de social media trebuie să ia de urgență măsuri pentru a proteja utilizatorii vulnerabili ai conținutul dăunător”.
Răspunzând la constatări, un purtător de cuvânt al TikTok a spus: „Ne consultăm în mod regulat cu experți în sănătate, eliminăm încălcările politicilor noastre și oferim acces la resurse de sprijin pentru oricine are nevoie.
„Suntem conștienți de faptul că declanșarea conținutului este unică pentru fiecare individ și rămânem concentrați pe promovarea unui spațiu sigur și confortabil pentru toată lumea, inclusiv pentru persoanele care aleg să-și împărtășească călătoriile de recuperare sau să-i educe pe alții cu privire la aceste subiecte importante.”
