Mai multe videoclipuri scurte cu conţinut rasist şi antisemit, aparent create cu ajutorul generatorului video AI Veo 3 de la Google, au circulat intens pe TikTok în ultimele săptămâni, potrivit unui raport al organizaţiei Media Matters. Unele dintre aceste clipuri au strâns sute de mii sau chiar milioane de vizualizări, în ciuda politicilor platformei care interzic discursul instigator la ură. Videoclipurile, care aveau o durată de maxim opt secunde – limita impusă de Veo 3 pentru generarea de conţinut video public –, conţineau etichete precum „#veo” sau menţiuni explicite ale modelului AI. În plus, prezentau semne clare ale generării automate, cum ar fi distorsiuni, texte fără sens şi erori vizuale. Un exemplu semnalat este un clip intitulat „Average Waffle House in Atlanta”, în care un restaurant era populat cu maimuţe care aruncau pepeni şi purtau găleţi de pui prăjit, o imagine evident rasistă care a acumulat peste 622.000 de vizualizări la momentul capturii. Un alt videoclip, generat cu promptul „average spirit airlines experience”, arăta maimuţe invadând cabina unui avion şi strânsese cel puţin 835.000 de vizualizări. Reprezentanţii TikTok au confirmat pentru Mashable că au şters conturile menţionate în raport, unele fiind deja interzise înainte de publicarea acestuia. Ei au declarat că aplică reguli stricte împotriva discursului şi comportamentului de ură şi elimină conturile care încalcă aceste reguli. Cu toate acestea, raportul subliniază dificultăţile actuale ale sistemelor automate de moderare, în special în faţa conţinutului generat cu inteligenţă artificială. Comentariile la aceste videoclipuri arătau că mulţi utilizatori nu doar că nu raportau conţinutul problematic, ci chiar îl validau, un exemplu fiind un comentariu care aprecia „toate gesturile lor… la fix”, referindu-se la comportamentul caricatural din clipuri. Veo 3, generatorul video AI dezvoltat de Google, a fost lăudat pentru realismul conţinutului pe care îl poate produce, dar aceste cazuri ridică întrebări serioase despre potenţialul abuz al tehnologiei. Deşi Google nu a fost menţionat direct în reacţiile TikTok, este de aşteptat ca presiunea publică să determine compania să îşi clarifice poziţia privind responsabilitatea în dezvoltarea unor astfel de instrumente. Într-un context în care videoclipurile scurte, uşor de distribuit şi cu impact emoţional puternic, pot contribui rapid la răspândirea stereotipurilor rasiale sau antisemite, controlul asupra folosirii AI-ului vizual devine o prioritate.
