Peste 100 de organizaţii cer reguli mai stricte pentru AI

Peste 100 de organizaţii internaţionale, printre care Amnesty International şi Save the Children, solicită guvernelor să adopte măsuri mai ferme pentru protejarea copiilor în faţa riscurilor generate de inteligenţa artificială. Apelul vine înaintea primului summit global al Organizaţiei Naţiunilor Unite (ONU) dedicat guvernanţei AI.

Iniţiativa este coordonată de 5Rights Foundation, care avertizează că dezvoltarea accelerată a tehnologiilor bazate pe inteligenţă artificială depăşeşte ritmul în care sunt implementate măsurile de protecţie. Potrivit organizaţiilor, actualele reglementări intervin prea târziu, după ce efectele negative asupra copiilor s-au produs deja. În opinia lor, responsabilitatea pentru siguranţa minorilor trebuie să aparţină companiilor care dezvoltă şi lansează sisteme AI, nu părinţilor sau utilizatorilor, relatează Euronews.

Coaliţia cere ca toate produsele bazate pe inteligenţă artificială să fie testate înainte de a ajunge pe piaţă, astfel încât dezvoltatorii să demonstreze că acestea sunt sigure pentru copii. Totodată, organizaţiile solicită introducerea unor sancţiuni financiare pentru companiile care încalcă drepturile minorilor, interzicerea funcţiilor care exploatează vulnerabilităţile psihologice ale copiilor şi eliminarea utilizării în scop comercial a imaginilor, vocii şi datelor biometrice ale acestora.

Apelul este lansat într-un context în care mai multe companii din industria AI, inclusiv OpenAI şi Character Technologies, se confruntă cu procese privind presupusul impact negativ al chatbot-urilor asupra minorilor. În centrul criticilor se află aşa-numiţii „companioni AI”, asistenţi virtuali creaţi pentru a simula relaţii emoţionale de lungă durată şi care, potrivit reclamanţilor, sunt promovaţi inclusiv către copii fără avertismente suficiente privind riscurile implicate.

Reprezentanţii 5Rights Foundation susţin că nu este nevoie de un nou cadru legislativ internaţional pentru implementarea acestor măsuri. Ei afirmă că statele au deja obligaţii asumate prin Convenţia ONU privind Drepturile Copilului şi prin Global Digital Compact, acord care stabileşte principii privind respectarea drepturilor omului în mediul digital.

Directorul executiv al organizaţiei, Leanda Barrington-Leach, consideră că actualul model de dezvoltare a inteligenţei artificiale recompensează viteza de lansare a produselor, colectarea datelor şi creşterea implicării utilizatorilor, în loc să pună pe primul loc siguranţa. În opinia coaliţiei, respectarea drepturilor copiilor ar trebui să devină o condiţie obligatorie pentru activitatea companiilor din domeniul AI, şi nu o măsură adoptată doar după apariţia unor probleme.