Chatboţii AI riscă să creeze un „cerc vicios” al cunoaşterii: răspunsuri mai puţin diverse şi mai puţină gândire critică

Potrivit unui studiu atribuit cercetătorilor de la Universitatea din Copenhaga, utilizarea tot mai intensă a chatboţilor cu inteligenţă artificială ar putea reduce diversitatea informaţiilor la care oamenii au acces şi, pe termen lung, ar putea afecta gândirea critică.

Cercetătorii de la Departamentul de Informatică (DIKU) al Universităţii din Copenhaga susţin că dependenţa tot mai mare de AI pentru obţinerea rapidă a unor răspunsuri gata formulate poate duce la un fenomen de uniformizare a cunoaşterii. Problema este că utilizatorii ajung să primească în mod repetat informaţii şi perspective similare, ceea ce poate limita expunerea la idei alternative.

Chatboţii oferă răspunsuri mai puţin diverse decât căutarea clasică

În cadrul cercetării au fost analizate răspunsurile generate de 27 dintre cele mai utilizate modele lingvistice de mari dimensiuni (LLM). Potrivit rezultatelor, chiar şi modelele cu cele mai bune performanţe au furnizat informaţii cu aproximativ 19% mai puţin diverse decât rezultatele obţinute printr-o căutare clasică pe Google Search.

Cercetătorii atrag atenţia şi asupra modului în care sunt prezentate aceste informaţii. Răspunsurile chatboţilor sunt formulate într-un limbaj fluent şi convingător, ceea ce poate determina utilizatorii să accepte mai uşor concluziile oferite şi să verifice mai puţin informaţiile sau să caute perspective alternative.

Pentru a evalua diversitatea răspunsurilor, cercetătorii au testat modele AI pe 155 de subiecte diferite, de la arme nucleare până la K-Pop. Au fost folosite 200 de formulări de prompturi inspirate din cercetări privind modul în care oamenii folosesc în realitate chatboţii. În total, experimentul a generat aproximativ 70 de milioane de răspunsuri.

Autorii studiului consideră că uniformizarea răspunsurilor ar putea avea efecte dincolo de simpla utilizare a chatboţilor. Dacă milioane de oameni ajung să se informeze din aceleaşi sisteme şi primesc răspunsuri similare, anumite idei şi tipuri de conţinut ar putea deveni din ce în ce mai dominante, în timp ce perspectivele mai puţin populare ar risca să fie ignorate.

„Oamenii sunt expuşi, în mare măsură, aceloraşi informaţii iar şi iar”, afirmă autorul principal al studiului, Dustin Wright. „Aşadar, chatboţii cu inteligenţă artificială nu schimbă doar modul în care găsim cunoştinţe, ci şi cunoştinţele la care avem acces.”

Isabelle Augenstein, profesor la DIKU şi autoare principală a cercetării, avertizează, la rândul său, că limitarea perspectivelor disponibile ar putea alimenta un adevărat cerc vicios: conţinutul deja popular devine tot mai vizibil, în timp ce informaţiile şi opiniile mai puţin reprezentate sunt treptat împinse în plan secund.

„Riscăm să expunem oamenii la mai puţine perspective şi la o gamă mai restrânsă de cunoştinţe. Acest lucru ar putea crea un cerc vicios în care cel mai popular conţinut devine şi mai dominant, în timp ce alte tipuri de conţinut sunt din ce în ce mai mult trecute cu vederea”, explică Augenstein.

Cercetătoarea compară fenomenul cu unul dintre efectele secundare ale globalizării. Astăzi, aceleaşi produse şi aceleaşi lanţuri de magazine sau cafenele pot fi întâlnite în numeroase ţări, ceea ce oferă avantaje evidente, dar reduce în acelaşi timp o parte din diversitatea locală.

În ciuda acestor avertismente, cercetătorii nu consideră că omenirea se află deja în pragul unui colaps al cunoaşterii. Isabelle Augenstein subliniază că există şi motive de optimism: modelele AI mai recente tind să producă răspunsuri ceva mai diverse decât generaţiile anterioare.

Riscul identificat de studiu ţine, prin urmare, mai ales de modul în care oamenii aleg să folosească aceste instrumente. Dacă răspunsurile generate de AI devin singura sursă de informare, există posibilitatea ca utilizatorii să fie expuşi tot mai puţin la opinii alternative, surse independente şi informaţii care nu se încadrează în răspunsul dominant.

În schimb, utilizarea chatboţilor ca punct de pornire, urmată de verificarea informaţiilor în surse diferite şi de compararea mai multor perspective, poate contribui la păstrarea diversităţii informaţionale şi a gândirii critice.