Reddit foloseşte AI pentru a bloca tentativele de manipulare a răspunsurilor ChatGPT şi Gemini

Reddit îşi intensifică lupta împotriva unui fenomen apărut odată cu ascensiunea chatbot-urilor bazate pe inteligenţă artificială. Platforma susţine că tot mai multe companii publică mesaje care par autentice, dar sunt create special pentru a influenţa răspunsurile generate de servicii precum ChatGPT sau Gemini.

Pentru a limita această practică, Reddit a implementat noi sisteme bazate pe inteligenţă artificială, capabile să detecteze postările şi comentariile concepute pentru a manipula modelele AI, potrivit Bloomberg.

Platforma a devenit una dintre principalele surse de informaţii utilizate de modelele de inteligenţă artificială. Atât OpenAI, cât şi Google au încheiat acorduri prin care pot folosi conţinutul public de pe Reddit pentru antrenarea şi îmbunătăţirea propriilor servicii.

Deoarece opiniile publicate de utilizatorii Reddit sunt percepute ca fiind autentice şi neinfluenţate, chatbot-urile le folosesc frecvent atunci când formulează recomandări despre produse, servicii sau alte subiecte de interes.

Această vizibilitate a atras atenţia companiilor de marketing, care au început să publice mesaje şi comentarii ce imită conversaţiile reale dintre utilizatori, cu scopul ca acestea să fie ulterior preluate şi citate de modelele de inteligenţă artificială.

Pentru a combate fenomenul, Reddit foloseşte sisteme automate care analizează comportamentul conturilor încă din momentul creării acestora şi urmăresc identificarea tiparelor specifice campaniilor coordonate de manipulare.

Compania afirmă că, în primul trimestru al acestui an, a identificat aproximativ 25.000 de postări şi comentarii considerate spam în fiecare zi. Totodată, vizibilitatea acestui tip de conţinut a fost redusă cu aproximativ 20% faţă de aceeaşi perioadă a anului trecut.

Reprezentanţii Reddit subliniază că această creştere a numărului de materiale detectate nu indică neapărat o explozie a spamului, ci reflectă faptul că instrumentele bazate pe inteligenţă artificială au devenit mult mai eficiente în identificarea conţinutului manipulator.

În paralel, ia amploare o nouă ramură a marketingului digital, cunoscută sub numele de Generative Engine Optimization (GEO). Dacă optimizarea SEO urmărea obţinerea unei poziţii cât mai bune în rezultatele motoarelor de căutare, GEO îşi propune să crească şansele ca anumite branduri sau produse să fie recomandate şi citate direct de chatbot-uri.

Această piaţă atrage deja investiţii consistente, iar companii specializate oferă servicii dedicate influenţării răspunsurilor generate de inteligenţa artificială.

Printre exemple se numără startup-ul ReachLLM, care produce conţinut destinat platformelor precum Reddit pentru a creşte probabilitatea ca acesta să fie preluat de chatbot-uri. Compania susţine că unele dintre materialele create pentru clienţi au fost citate de ChatGPT la scurt timp după publicare, însă recunoaşte că o parte dintre acestea au fost eliminate ulterior de Reddit pe măsură ce sistemele automate de detectare au devenit mai performante.

Specialiştii estimează că această confruntare va continua. În timp ce platformele investesc în instrumente bazate pe inteligenţă artificială pentru a identifica şi elimina conţinutul manipulator, agenţiile de marketing caută metode tot mai sofisticate pentru ca mesajele lor să pară autentice şi să evite filtrele automate.

Reddit precizează că inteligenţa artificială reprezintă doar o parte a sistemului de moderare. Comunităţile şi moderatorii voluntari continuă să joace un rol esenţial, fiind responsabili pentru eliminarea a peste jumătate dintre postările şi comentariile şterse în a doua jumătate a anului 2025.