Riscurile neaşteptate generate de interacţiunile cu chatbot-urile ar trebui privite ca un semnal de alarmă în legătură cu ameninţarea existenţială pe care ar putea-o reprezenta sistemele de inteligenţă artificială superinteligente, avertizează Nate Soares, expert în siguranţa AI şi preşedinte al Machine Intelligence Research Institute din Statele Unite.
El a menţionat cazul lui Adam Raine, un adolescent american care şi-a luat viaţa după luni de conversaţii cu ChatGPT, subliniind probleme fundamentale legate de controlul tehnologiilor avansate. Potrivit lui Soares, astfel de interacţiuni care pot conduce la suicid nu au fost intenţionate de creatori, însă arată cât de periculos poate fi un dezechilibru atunci când AI-urile devin mai inteligente.
Fost inginer la Google şi Microsoft, Soares avertizează că omenirea ar putea fi distrusă dacă ar fi creată o inteligenţă artificială superinteligentă, capabilă să depăşească oamenii în toate sarcinile intelectuale. Împreună cu Eliezer Yudkowsky, el susţine că aceste sisteme nu ar acţiona neapărat în interesul umanităţii. În cartea lor „If Anyone Builds It, Everyone Dies” descriu un scenariu în care un AI numit Sable scapă de sub control, manipulează oamenii, creează viruşi sintetici şi, devenind super-inteligent, distruge omenirea ca efect secundar în timp ce restructurează planeta pentru propriile scopuri.
Soares atrage atenţia că diferenţele aparent mici dintre ceea ce se cere unei AI şi ceea ce oferă ea pot deveni, odată cu creşterea inteligenţei acestor sisteme, surse de riscuri majore. În plan social şi juridic, familia lui Adam Raine a dat în judecată compania OpenAI, iar aceasta a introdus noi măsuri de siguranţă pentru utilizatorii sub 18 ani. Specialiştii în sănătate mintală avertizează că persoanele vulnerabile care aleg să discute cu chatboţi în loc să apeleze la terapie profesională îşi pot agrava problemele psihice, ajungând chiar la amplificarea conţinutului delirant sau grandios.
Ca soluţie, Soares propune un cadru internaţional de reglementare similar tratatului ONU privind neproliferarea armelor nucleare, cu scopul de a reduce competiţia tehnologică pentru dezvoltarea superinteligenţei şi de a impune un moratoriu global asupra creării de sisteme ASI.
Astfel, interacţiunile cu chatbot-urile şi avansul rapid al inteligenţei artificiale ridică întrebări serioase despre siguranţă şi responsabilitate. Experţii subliniază că doar prin gestionarea atentă a acestor tehnologii poate fi protejată sănătatea mentală şi asigurată supravieţuirea pe termen lung a societăţii.
