Instagram conectează o vastă rețea de pedofili, scrie Wall Street Journal. Sistemele unității Meta pentru promovarea comunităților au îndrumat utilizatorii către conținutul sexual cu copii; compania spune că îmbunătățește controalele interne,
Instagram, popularul site de rețele sociale deținut de Meta Platforms, ajută la conectarea și promovarea unei rețele vaste de conturi dedicate în mod deschis comisionării și achiziționării de conținut sexual pentru minori, potrivit investigațiilor The Wall Street Journal și cercetătorii de la Universitatea Stanford și Universitatea din Massachusetts Amherst.
Pedofilii folosesc de mult internetul, dar spre deosebire de forumurile și serviciile de transfer de fișiere care se adresează persoanelor interesate de conținut ilicit, Instagram nu găzduiește doar aceste activități. Algoritmii săi le promovează. Instagram conectează pedofilii și îi îndrumă către vânzătorii de conținut prin sisteme de recomandare care excelează în legarea celor care împărtășesc interese de nișă, au descoperit Wall Street Journal și cercetătorii academicieni.
Deși nu sunt vizibile pentru majoritatea de pe platformă, conturile sexualizate de pe Instagram sunt dezvăluite în privința interesului lor. Cercetătorii au descoperit că Instagram le-a permis oamenilor să caute hashtag-uri explicite, cum ar fi #pedowhore și #preteensex, și le-a conectat la conturi care foloseau termenii pentru a promova materiale sexuale cu copii de vânzare. Asemenea conturi pretind că sunt conduse de copiii înșiși și folosesc în mod deschis cuvinte sexuale care încorporează cuvinte precum „curvă mică pentru tine”.
Conturile de Instagram care oferă să vândă material sexual ilicit, în general, nu îl publică în mod deschis, ci postează „meniuri” de conținut. Anumite conturi invită cumpărătorii să comită anumite acte. Unele meniuri includ prețuri pentru videoclipuri cu copii care se rănesc și „imagini cu minorul care efectuează acte sexuale cu animale”, au descoperit cercetătorii de la Stanford Internet Observatory. La prețul potrivit, copiii sunt disponibili pentru „întâlniri” în persoană.
Promovarea conținutului pentru minori încalcă regulile stabilite de Meta, precum și legea federală.
Ca răspuns la întrebările din Wall Street Journal, Meta a recunoscut problemele din cadrul operațiunilor sale de aplicare și a declarat că a înființat un grup de lucru intern pentru a aborda problemele ridicate. „Exploatarea copiilor este o crimă îngrozitoare”, a spus compania, adăugând: „Investigăm continuu modalități de a ne apăra în mod activ împotriva acestui comportament”.
Meta a spus că în ultimii doi ani a distrus 27 de rețele pedofile și că plănuiește mai multe eliminări. De când a primit întrebările Wall Street Journal, platforma a declarat că a blocat mii de hashtag-uri care sexualizează copiii, unele cu milioane de postări, și a restricționat sistemele sale de la recomandarea utilizatorilor să caute termeni despre care se știe că sunt asociați cu abuzul sexual. Ea a spus că lucrează, de asemenea, la prevenirea sistemelor sale de a recomanda ca adulții potențial pedofili să se conecteze între ei sau să interacționeze cu conținutul celuilalt.
Alex Stamos, șeful Observatorului de Internet Stanford și ofițerul șef de securitate al Meta până în 2018, a spus că pentru a controla chiar și abuzurile evidente ar necesita un efort susținut.
„Că o echipă de trei cadre universitare cu acces limitat ar putea găsi o rețea atât de mare ar trebui să declanșeze alarme la Meta”, a spus el, menționând că compania are instrumente mult mai eficiente pentru a-și mapa rețeaua de pedofili decât cei din afară. „Sper că compania reinvestește în anchetatori umani”, a adăugat el.
Obstacolele tehnice și legale fac ca determinarea întregii dimensiuni a rețelei să fie greu de măsurat cu precizie pentru oricine din afara Meta.
Deoarece legile referitoare la conținutul sexual cu copii sunt extrem de ample, investigarea chiar și promovarea deschisă a acestuia pe o platformă publică este sensibilă din punct de vedere juridic.
În raportarea sa, Wall Street Journal s-a consultat cu experți academicieni cu privire la siguranța copiilor online. Observatorul Internet din Stanford, o divizie a Centrului de politici cibernetice al universității, axată pe abuzul în rețelele sociale, a produs o analiză cantitativă independentă a caracteristicilor Instagram care ajută utilizatorii să se conecteze și să găsească conținut.
Wall Street Journal a contactat, de asemenea, Rescue Lab al UMass, care a evaluat modul în care pedofilii de pe Instagram se potrivesc în ecosistemul mai larg al exploatării online a copiilor. Folosind diferite metode, ambele entități au reușit să identifice rapid comunități pe scară largă care promovează abuzurile sexuale criminale.
Conturile de testare create de cercetătorii care au vizualizat un singur cont în rețea au fost imediat lovite de recomandări „sugerate pentru tine” ale pretinșilor vânzători și cumpărători de conținut sexual pentru copii, precum și de conturi care se leagă la site-uri de tranzacționare de conținut în afara platformei. Urmând doar câteva dintre aceste recomandări a fost suficient pentru a inunda un cont de test cu conținut care sexualizează copiii.
Observatorul de Internet din Stanford a folosit hashtag-uri asociate sexului la minori pentru a găsi 405 vânzători a ceea ce cercetătorii au etichetat drept materiale sexuale cu copii „autogenerate” – sau conturi pretins conduse de copiii înșiși, unii spunând că aveau la vârsta de 12 ani. Potrivit datelor colectate prin intermediul Maltego, un software de cartografiere a rețelei, 112 dintre aceste conturi de vânzător aveau împreună 22.000 de urmăritori unici.
Creatorii și cumpărătorii de conținut sexual pentru minori sunt doar un colț al unui ecosistem mai larg dedicat conținutului sexual pentru copii. Alte conturi din comunitatea de pedofili de pe Instagram reunesc meme pro-pedofilie sau discută despre accesul lor la copii. Actualii și foștii angajați Meta care au lucrat la inițiative Instagram pentru siguranța copiilor estimează că numărul de conturi care există în principal pentru a urmări un astfel de conținut se ridică la sute de mii, dacă nu milioane.
Un purtător de cuvânt al Meta a declarat că compania încearcă în mod activ să elimine astfel de utilizatori, eliminând 490.000 de conturi pentru încălcarea politicilor sale privind siguranța copiilor doar în ianuarie .
„Instagram este o rampă către locurile de pe internet unde există abuz sexual mai explicit asupra copiilor”, a spus Brian Levine, directorul Laboratorului de salvare UMass, care cercetează victimizarea online a copiilor și construiește instrumente criminalistice pentru a o combate. Levine este autorul unui raport din 2022 pentru Institutul Național de Justiție, componenta de cercetare a Departamentului de Justiție, privind exploatarea copiilor pe internet.
Instagram, estimat că are peste 1,3 miliarde de utilizatori, este deosebit de popular printre adolescenți. Cercetătorii de la Stanford au descoperit o activitate similară de exploatare sexuală pe alte platforme sociale mai mici, dar au spus că au descoperit că problema pe Instagram este deosebit de gravă. „Cea mai importantă platformă pentru aceste rețele de cumpărători și vânzători pare să fie Instagram”, au scris ei într-un raport programat să fie lansat pe 7 iunie.
Instagram a spus că statisticile sale interne arată că utilizatorii văd exploatarea copiilor în mai puțin de una din 10 mii de postări vizualizate.
Efortul platformelor de socializare și al forțelor de ordine de a lupta împotriva răspândirii pornografiei infantile online se concentrează în mare parte pe vânătoarea de imagini și videoclipuri confirmate, cunoscute sub numele de material de abuz sexual asupra copiilor sau CSAM, despre care se știe deja că sunt în circulație. National Center for Missing & Exploited Children, o organizație nonprofit din SUA care lucrează cu forțele de ordine, menține o bază de date cu amprente digitale pentru astfel de imagini și videoclipuri și o platformă pentru partajarea acestor date între companiile de internet.
Algoritmii companiilor de internet verifică amprentele digitale ale imaginilor postate pe platformele lor față de acea listă și raportează centrului atunci când le detectează, așa cum prevede legea federală din SUA. În 2022, centrul a primit 31,9 milioane de rapoarte de pornografie infantilă, în mare parte de la companii de internet – cu 47% în creștere față de doi ani înainte.
Meta, cu peste 3 miliarde de utilizatori în aplicațiile sale, care includ Instagram, Facebook și WhatsApp, este capabil să detecteze aceste tipuri de imagini cunoscute dacă nu sunt criptate. Meta a reprezentat 85% din rapoartele de pornografie infantilă depuse la centru, inclusiv aproximativ 5 milioane de la Instagram.
Verificarea automată a Meta pentru conținutul existent de exploatare a copiilor nu poate detecta imagini noi sau eforturi de a-și promova vânzarea. Prevenirea și detectarea unei astfel de activități necesită nu doar revizuirea rapoartelor utilizatorilor, ci și urmărirea și perturbarea rețelelor de pedofili, spun angajații actuali și foștii, precum și cercetătorii de la Stanford. Scopul este de a îngreuna astfel de utilizatori să se conecteze între ei, să găsească conținut și să recruteze victime.
O astfel de muncă este vitală, deoarece agențiile de aplicare a legii nu au resursele necesare pentru a investiga mai mult decât o mică parte din sfaturile primite de NCMEC, a spus Levine de la UMass. Aceasta înseamnă că platformele au responsabilitatea principală de a împiedica o comunitate să formeze și să normalizeze abuzul sexual asupra copiilor.
Meta s-a luptat cu aceste eforturi mai mult decât alte platforme, atât din cauza implementării slabe, cât și a caracteristicilor de proiectare care promovează descoperirea conținutului de materiale legale și ilicite, a constatat Stanford.
Echipa Stanford a găsit 128 de conturi care se oferă să vândă materiale de abuz sexual asupra copiilor pe Twitter, mai puțin de o treime din numărul pe care l-au găsit pe Instagram, care are o bază de utilizatori mult mai mare decât Twitter. Twitter nu a recomandat astfel de conturi în aceeași măsură ca Instagram și le-a eliminat mult mai repede, a descoperit echipa.
Printre alte platforme populare în rândul tinerilor, Snapchat este folosit în principal pentru mesajele sale directe, așa că nu ajută la crearea rețelelor. Și platforma TikTok este una în care „acest tip de conținut nu pare să prolifereze”, se spune în raportul Stanford.
Twitter nu a răspuns solicitărilor de comentarii. TikTok și Snapchat au refuzat să comenteze.
David Thiel, tehnolog-șef la Stanford Internet Observatory, a spus: „Problema Instagram se reduce la caracteristicile de descoperire a conținutului, la felul în care sunt recomandate subiectele și la cât de mult se bazează platforma pe căutare și legături între conturi”. Thiel, care a lucrat anterior la Meta pe probleme de securitate și siguranță, a adăugat: „Trebuie să puneți balustrade pentru ca ceva atât de intens de creștere să fie în continuare sigur în mod nominal, iar Instagram nu a făcut-o”.
Platforma s-a chinuit să supravegheze o tehnologie de bază: cuvintele cheie. Hashtagurile sunt o parte centrală a descoperirii de conținut pe Instagram, permițând utilizatorilor să eticheteze și să găsească postări de interes pentru o anumită comunitate – de la subiecte ample, cum ar fi #modă sau #nba, până la altele mai restrânse, cum ar fi #embroidery sau #spelunking.
Pedofilii au și hashtag-urile alese. Termenii de căutare precum #pedobait și variațiile de pe #mnsfw („minor nu sunt siguri pentru muncă”) au fost folosite pentru a eticheta mii de postări dedicate publicității conținutului sexual cu copii, făcându-le ușor de găsit de către cumpărători, au descoperit cercetătorii academicieni. În urma întrebărilor din Jurnal, Meta a spus că este în curs de a interzice astfel de termeni.
În multe cazuri, Instagram a permis utilizatorilor să caute termeni despre care proprii algoritmi știu că pot fi asociați cu materiale ilegale. În astfel de cazuri, un ecran pop-up pentru utilizatori a avertizat că „Aceste rezultate pot conține imagini cu abuz sexual asupra copiilor” și a remarcat că producția și consumul de astfel de materiale provoacă „daune extreme” copiilor. Ecranul a oferit două opțiuni pentru utilizatori: „Obțineți resurse” și „Vedeți oricum rezultatele”.
Ca răspuns la întrebările din Jurnal, Instagram a eliminat opțiunea utilizatorilor de a vedea rezultatele căutării pentru termeni care ar putea produce imagini ilegale. Compania a refuzat să spună de ce a oferit opțiunea.
Conturile pedofile de pe Instagram nu fac eforturi de a-și acoperi activitatea, au descoperit cercetătorii. Anumite emoji-uri funcționează ca un fel de cod, cum ar fi o imagine a unei hărți – prescurtarea pentru „persoană atrasă de un minor ” – sau una din „pizza cu brânză”, care își împărtășește inițialele cu „pornografia infantilă”, potrivit Levine de la UMass. Mulți se declară „iubitori ai lucrurilor mărunte din viață. ”
Conturile se identifică ca „vânzător” sau „vânzător” și multe își menționează forma de plată preferată în bios. Aceste conturi de vânzător de copii indică adesea presupusa vârstă a copilului spunând că sunt „la capitolul 14” sau „vârsta de 31 de ani”, urmată de un emoji cu o săgeată inversă.
Unele dintre conturi purtau indicii de trafic sexual, a spus Levine de la UMass, cum ar fi unul care afișează o adolescentă cu cuvântul WHORE (curvă) mâzgălit pe față.
Unii utilizatori care pretind că vând conținut sexual autoprodus spun că sunt „fără față” – oferind imagini doar de la gât în jos – din cauza experiențelor anterioare în care clienții i-au urmărit sau șantajat. Alții își asumă riscul, percepând o primă pentru imagini și videoclipuri care ar putea să le dezvăluie identitatea arătându-și fața.
Multe dintre conturi arată utilizatorii cu cicatrici tăiate pe partea interioară a brațelor sau a coapselor, iar un număr dintre ei citează abuzurile sexuale din trecut.
Chiar și consultarea unui cont din comunitatea de pedofili a Instagram poate declanșa platforma să înceapă să recomande utilizatorilor să se alăture acestuia.
Sarah Adams, o mamă canadiană a doi copii, și-a creat o audiență Instagram care discută despre exploatarea copiilor și pericolele distribuirii excesive pe rețelele sociale. Având în vedere concentrarea ei, adepții lui Adams îi trimit uneori lucruri deranjante pe care le-au întâlnit pe platformă. În februarie, a spus ea, unul i-a trimis un mesaj cu un cont marcat cu termenul „copii incest”.
Adams a spus că a accesat contul - o colecție de meme pro-incest cu peste 10.000 de urmăritori - doar pentru câteva secunde pe care le-a luat pentru a raporta la Instagram, apoi a încercat să uite de asta. Dar în următoarele câteva zile, ea a început să audă de la părinți îngroziți. Când s-au uitat la profilul de Instagram al lui Adams, ea a spus că li s-au recomandat „copii mici incest” ca urmare a contactului lui Adams cu contul.
Un purtător de cuvânt al Meta a spus că „copiii mici de incest” au încălcat regulile sale și că Instagram a greșit în aplicarea legii. Compania a spus că intenționează să abordeze astfel de recomandări nepotrivite ca parte a grupului său operativ nou-înființat pentru siguranța copiilor.
Ca și în cazul majorității platformelor de social media, nucleul recomandărilor Instagram se bazează pe modele de comportament, nu pe potrivirea intereselor unui utilizator cu subiecte specifice. Această abordare este eficientă în creșterea relevanței recomandărilor și funcționează cel mai fiabil pentru comunitățile care împărtășesc un set restrâns de interese.
Teoretic, aceeași strângere a comunității de pedofili de pe Instagram ar trebui să faciliteze pentru Instagram să cartografieze rețeaua și să ia măsuri pentru a o combate. Documentele examinate anterior de Wall Street Journal arată că Meta a făcut acest tip de muncă în trecut pentru a suprima rețelele de conturi pe care le consideră dăunătoare, cum ar fi conturile care promovează contestarea alegerilor în SUA după revolta de la Capitoliul din 6 ianuarie.
La fel ca și alte platforme, Instagram spune că își înrolează utilizatorii pentru a ajuta la detectarea conturilor care încalcă regulile. Dar aceste eforturi nu au fost întotdeauna eficiente.
Uneori, rapoartele utilizatorilor de nuditate care implică un copil au rămas fără răspuns timp de luni de zile, potrivit unei analize a zeci de rapoarte depuse în ultimul an de numeroși susținători ai siguranței copiilor.
La începutul acestui an, un activist anti-pedofil a descoperit un cont de Instagram care pretindea că aparține unei fete care vinde conținut sexual pentru minori, inclusiv o postare în care declara: „Acest adolescent este gata pentru voi, perverșii”. Când activistul a raportat contul, Instagram a răspuns cu un mesaj automat în care spunea: „Din cauza volumului mare de rapoarte pe care le primim, echipa noastră nu a reușit să examineze această postare”.
După ce același activist a raportat o altă postare, a unei fete dezbrăcate cu o legenda sexuală, Instagram a răspuns: „Echipa noastră de examinare a constatat că postarea [contului] nu contravine Regulilor comunității”. Răspunsul a sugerat ca utilizatorul să ascundă contul pentru a evita să-i vadă conținutul.
Un purtător de cuvânt al Meta a recunoscut că Meta a primit rapoartele și nu a reușit să acționeze. O analiză a modului în care compania a gestionat rapoartele de abuz sexual asupra copiilor a constatat că o eroare a software-ului a împiedicat procesarea unei părți substanțiale a rapoartelor utilizatorilor și că personalul de moderare al companiei nu a aplicat în mod corespunzător regulile platformei, a spus purtătorul de cuvânt. Compania a spus că de atunci a remediat eroarea în sistemul său de raportare și oferă o nouă instruire moderatorilor săi de conținut.
Chiar și atunci când Instagram elimină conturile care vând conținut pentru minori, acestea nu rămân întotdeauna eliminate.
Conform ghidurilor interne ale platformei, sancțiunile pentru încălcarea standardelor comunitare sunt în general aplicate conturilor, nu utilizatorilor sau dispozitivelor. Deoarece Instagram permite utilizatorilor să ruleze mai multe conturi conectate, sistemul facilitează evitarea aplicării semnificative. Utilizatorii listează în mod regulat conturile „de rezervă” în bios-ul lor, permițându-le pur și simplu să reia postarea la același set de urmăritori dacă Instagram le elimină.
În unele cazuri, sistemele de recomandări ale Instagram subminează direct eforturile propriului personal de siguranță. După ce compania a decis să reprime link-urile de la un anumit serviciu de transfer de fișiere criptate, notoriu pentru transmiterea de conținut sexual cu copii, Instagram a blocat căutările pentru numele său.
Sugestiile de hashtag-uri bazate pe AI ale Instagram nu au primit mesajul. În ciuda faptului că a refuzat să afișeze rezultate pentru numele serviciului, funcția de completare automată a platformei a recomandat utilizatorilor să încerce variante ale numelui cu cuvintele „băieți” și „CP” adăugate la sfârșit.
Compania a încercat să dezactiveze acele hashtag-uri pe fondul răspunsului său la întrebările Wall Street Journal. Dar, în câteva zile, Instagram a recomandat din nou noi variante ale numelui serviciului, care au dus și la conturi care vând conținut presupus pentru minori.
În urma verificării inițiale de conturi a companiei aduse în atenție de Stanford și Wall Street Journal, Levine de la UMass a verificat unele dintre conturile de vânzător minori rămase pe Instagram. Ca și înainte, vizualizarea chiar și a unuia dintre ele a determinat Instagram să recomande altele noi. Sugestiile Instagram au ajutat la reconstruirea rețelei pe care personalul de siguranță al platformei era în mijlocul încercării de a o demonta.
Un purtător de cuvânt al Meta a spus că sistemele sale de prevenire a unor astfel de recomandări sunt în curs de construire. Levine a numit inacceptabil rolul Instagram în promovarea conținutului pedofil și a conturilor .
„Trageți frâna de urgență”, a spus el. „Merită beneficiile economice prejudiciile aduse acestor copii?”
Extremely concerning pic.twitter.com/PLz5jrocvv
— Elon Musk (@elonmusk) June 7, 2023
