TikTok ar fi dezactivat filtrele de siguranţă pentru 15 milioane de utilizatori

Potrivit unui raport intern ajuns în posesia jurnaliştilor Bloomberg, TikTok ar fi derulat un experiment în cadrul căruia a dezactivat intenţionat mecanismele de siguranţă menite să împiedice algoritmii platformei să le afişeze utilizatorilor vulnerabili conţinut potenţial dăunător.

Consecinţele ar fi fost extrem de grave. Până la 15 milioane de utilizatori TikTok din Statele Unite ar fi ajuns să primească zilnic selecţii de videoclipuri „personalizate” care le amplificau temerile, preocupările legate de suicid sau tulburările de alimentaţie. În unele cazuri, expunerea repetată la acest tip de conţinut ar fi putut agrava probleme comportamentale deja existente sau chiar contribui la apariţia unor probleme de sănătate mintală.

Mai grav, potrivit informaţiilor prezentate în raport şi în documentele analizate în cadrul unui proces din Statele Unite, unii dintre tinerii expuşi acestui conţinut ar fi ajuns să-şi facă rău după ce au fost bombardaţi cu videoclipuri care promovau sau încurajau astfel de comportamente.

Potrivit raportului, în 2021, când TikTok şi-a modificat algoritmul pentru a reduce riscul ca utilizatorii să fie copleşiţi de conţinut dăunător, compania ar fi decis să dezactiveze aceste protecţii pentru milioane de utilizatori.

Motivaţia oficială a experimentului ar fi fost una de natură „ştiinţifică”: compania urmărea să evalueze modul în care noile funcţii de siguranţă influenţează implicarea utilizatorilor şi fidelitatea acestora faţă de platformă.

Interpretarea informaţiilor prezentate în raport ridică însă o întrebare mult mai incomodă: experimentul nu ar fi urmărit doar să determine cât de bine sunt protejaţi utilizatorii după introducerea filtrelor, ci şi să măsoare cât de mult ar putea pierde TikTok în ceea ce priveşte timpul petrecut în aplicaţie şi numărul de utilizatori dacă limitează distribuirea conţinutului dăunător.

Raportat la numărul total de utilizatori TikTok din SUA, aproximativ 10% dintre aceştia, echivalentul a circa 15 milioane de persoane, ar fi avut parte de o experienţă lipsită de aceste mecanisme de protecţie împotriva conţinutului nociv.

Este important de precizat că informaţiile din raport se referă la utilizatorii din Statele Unite. Nu este clar în ce măsură practici similare ar fi fost aplicate şi în alte regiuni în care TikTok este disponibil.

Platforma este deţinută de ByteDance, compania care administra la acel moment şi operaţiunile TikTok din SUA, iar amploarea presupuselor experimente desfăşurate în alte pieţe rămâne necunoscută.

Unul dintre exemplele invocate în cadrul procesului din SUA este cel al lui Chase Nasca, un adolescent în vârstă de 16 ani care ar fi fost expus la peste 7.500 de videoclipuri asociate cu depresia, singurătatea şi suicidul.

În 2022, tânărul şi-a pierdut viaţa prin suicid.

Cazul său este folosit pentru a ilustra potenţialele consecinţe ale unui algoritm care, în loc să limiteze expunerea unui utilizator vulnerabil la conţinut problematic, poate ajunge să-i ofere din ce în ce mai mult material similar.

Este imposibil de stabilit în acest moment câte alte cazuri ar putea avea o legătură cu expunerea intensă la astfel de conţinut. Pot exista sute sau chiar mii de situaţii similare care nu au fost identificate sau asociate direct cu impactul algoritmilor reţelelor sociale.

Dacă informaţiile din raport se confirmă, cazul TikTok ridică însă o problemă mult mai largă decât cea a unui simplu algoritm care recomandă videoclipuri nepotrivite: cât de departe pot merge platformele sociale în testarea unor modificări care le cresc engagementul, atunci când preţul experimentului este plătit de utilizatori vulnerabili?