Instagram şi „AI Slop”: Meta introduce etichete pentru conţinutul AI

Meta reacţionează la valul de nemulţumire al utilizatorilor Instagram, exasperaţi de proliferarea aparent scăpată de sub control a conţinutului „AI slop” distribuit de nenumărate conturi administrate de aşa-numiţi „influenceri AI”. În multe cazuri, în spatele acestor profiluri nu se află însă creatori obişnuiţi de conţinut, ci operaţiuni de spam desfăşurate la scară largă, menite să genereze venituri din publicitate sau să atragă utilizatori în diverse scheme frauduloase.

Meta nu pare dispusă să renunţe la conţinutul generat cu ajutorul inteligenţei artificiale, care a ajuns să reprezinte o parte importantă din activitatea şi veniturile platformelor sale. Compania nu intenţionează să interzică imaginile şi videoclipurile create cu AI şi nici conturile care folosesc personaje generate artificial, atât timp cât acestea respectă regulile platformei.

În schimb, Meta introduce o măsură care ar trebui să îi ajute pe utilizatori să distingă mai uşor conturile operate în jurul unor personaje generate de inteligenţa artificială. Administratorii acestor profiluri vor putea aplica eticheta „AI-generated profile”, indicând faptul că personajul prezentat nu este o persoană reală.

Potrivit noii politici, Meta va reduce vizibilitatea postărilor provenite de la conturile care ar trebui să fie etichetate, dar nu aplică această menţiune. Compania pare astfel să se bazeze în mare măsură pe transparenţa declarată a administratorilor conturilor, în loc să elimine direct profilurile care inundă platforma cu materiale generate artificial.

Apare însă o întrebare evidentă: ce se întâmplă cu milioanele de conturi care sunt deja etichetate drept „AI Generated”, dar continuă să fie folosite pentru a atrage utilizatori reali şi pentru a distribui, la foc automat, cantităţi uriaşe de conţinut creat de inteligenţa artificială?

În forma actuală a politicii Instagram, simpla etichetare pare să fie suficientă pentru ca astfel de activităţi să rămână permise. Responsabilitatea este transferată în mare parte către utilizatori, care trebuie să recunoască profilurile artificiale şi să decidă singuri dacă vor să interacţioneze cu ele sau să le ignore.

Măsura Meta vine într-un moment în care şi alte platforme încearcă să limiteze vizibilitatea conţinutului generat cu AI, pe fondul nemulţumirilor tot mai mari legate de materiale de calitate slabă, înşelătoare sau chiar nocive. În cazul Meta, strategia pare însă diferită. Compania continuă să încurajeze utilizatorii să creeze şi să editeze conţinut cu ajutorul inteligenţei artificiale, indiferent dacă rezultatul este sau nu apreciat de public.

În aceste condiţii, măsurile pentru combaterea fenomenului pe care Meta însăşi îl contribuie la amplificare se limitează, cel puţin deocamdată, la introducerea unor etichete vizibile pentru conturile construite în jurul unor personaje generate integral de AI.

Fără o strategie mai clară pentru limitarea conţinutului înşelător şi a operaţiunilor de spam care folosesc inteligenţa artificială, soluţia bazată în principal pe etichetarea voluntară a acestor profiluri pare vulnerabilă încă de la început. O etichetă poate informa utilizatorul, dar nu rezolvă problema unui ecosistem în care conţinutul artificial poate fi produs şi distribuit la o scară imposibil de atins de creatorii umani.

În plus, fenomenul nu se limitează la profilurile care prezintă personaje complet fictive. şi utilizatorii reali de Instagram care îşi editează fotografiile în mod agresiv cu ajutorul AI ar putea ajunge să folosească etichete precum „AI Creator”. În acest caz, mesajul transmis urmăritorilor ar fi că imaginea prezentată pe Instagram sau Facebook a fost modificată într-o asemenea măsură încât este posibil să nu mai reflecte fidel realitatea.

Rămâne de văzut dacă noile etichete vor fi suficiente pentru a face diferenţa între conţinutul autentic şi avalanşa de materiale generate artificial sau dacă Instagram va ajunge, în cele din urmă, să adopte măsuri mai dure împotriva „AI slop”.