Un proiect de lege care vizează reglementarea industriei tot mai extinse a chatboturilor AI de tip „companion” a devenit oficial lege în California, începând cu 13 octombrie.
Guvernatorul Californiei, Gavin Newsom, a semnat Senate Bill 243, descris de senatorul de stat Steve Padilla drept „primele măsuri de siguranţă din ţară dedicate chatboturilor AI”. Legea impune dezvoltatorilor acestor chatboturi să introducă noi măsuri de protecţie — de exemplu, dacă o persoană rezonabilă ar putea fi indusă în eroare şi ar crede că interacţionează cu un om, legea obligă compania care a creat chatbotul să afişeze o notificare clară şi vizibilă că produsul este bazat exclusiv pe inteligenţă artificială, nu pe o interacţiune umană reală.
Începând de anul viitor, legea va cere anumitor operatori de chatboturi de tip „companion” să transmită anual rapoarte Biroului pentru Prevenirea Sinuciderilor, detaliind măsurile implementate pentru a detecta, elimina şi reacţiona la cazuri de gânduri suicidare în rândul utilizatorilor. Biroul va publica apoi aceste informaţii pe site-ul său oficial.
„Tehnologiile emergente precum chatboturile şi reţelele sociale pot inspira, educa şi conecta oamenii – dar fără limite clare, pot şi exploata, induce în eroare sau pune în pericol copiii”, a declarat guvernatorul Newsom la semnarea legii, alături de alte acte normative destinate îmbunătăţirii siguranţei online pentru minori, inclusiv noi cerinţe privind restricţiile de vârstă pentru dispozitive. „Putem continua să fim lideri în domeniul AI şi al tehnologiei, dar trebuie să o facem responsabil — protejându-ne copiii la fiecare pas. Siguranţa lor nu este de vânzare.”
Această lege vine la scurt timp după ce guvernatorul Newsom a semnat şi Senate Bill 53, o reglementare majoră privind transparenţa în domeniul inteligenţei artificiale, care a divizat companiile din industrie şi a fost intens dezbătută în ultimele luni.
