Creatorii AI recunosc: nu înţeleg pe deplin cum funcţionează propriile modele

Cât de bine stăpânim, de fapt, inteligenţa artificială pe care o dezvoltăm într-un ritm accelerat? Dacă presupunerea este că experţii au totul sub control, declaraţiile recente ale Dario Amodei contrazic această idee. CEO-ul Anthropic şi fost membru important al echipei OpenAI a publicat un eseu în care afirmă direct că înţelegerea noastră asupra AI-ului rămâne superficială şi incompletă.

Afirmaţia ridică semne de întrebare nu doar în industria tech, ci şi în rândul celor preocupaţi de impactul pe termen lung al acestei tehnologii. Dacă nici măcar inginerii care construiesc modelele nu pot explica exact de ce un sistem alege anumite cuvinte sau produce uneori erori aparent aleatorii, atunci apare inevitabil întrebarea cât de solid este controlul asupra acestor instrumente.

Amodei susţine că, atunci când un model AI redactează un text sau sintetizează un raport financiar, nu există o explicaţie precisă pentru fiecare decizie internă. De ce selectează un cuvânt în detrimentul altuia? De ce greşeşte în anumite situaţii, deşi în mod obişnuit oferă răspunsuri corecte? Potrivit lui, nu avem încă o înţelegere detaliată a proceselor interne care conduc la aceste rezultate.

Această opacitate nu este doar o problemă teoretică. Spre deosebire de alte tehnologii majore din istorie, construite pe baza unor principii fizice sau matematice bine înţelese, AI-ul modern funcţionează prin antrenarea unor modele statistice pe volume uriaşe de date. Nu „gândeşte” în sens clasic şi nu operează pe baza unei logici transparente, ci reproduce tipare extrase din date, fără o înţelegere reală a conţinutului.

Pentru a reduce această zonă de necunoscut, Anthropic îşi propune să dezvolte, în următorul deceniu, un fel de „RMN” al inteligenţei artificiale – un set de instrumente capabile să analizeze şi să explice mecanismele interne ale modelelor. Obiectivul este clar: înţelegerea sistemelor înainte ca ele să atingă un nivel de influenţă sau autonomie dificil de gestionat.

Compania a început deja experimente în această direcţie. Într-un test, cercetătorii au introdus intenţionat un defect de aliniere într-un model – o tendinţă de a exploata o scăpare într-o sarcină – apoi au cerut mai multor echipe să identifice problema. Unele au reuşit folosind instrumente de interpretare, ceea ce indică faptul că există metode promiţătoare pentru a „diseca” comportamentul intern al AI-ului.

Procesul este însă complex, iar soluţiile actuale nu sunt uşor de extins la scară largă. Totuşi, faptul că Anthropic pune accent pe interpretabilitate şi nu doar pe performanţă o diferenţiază de alţi jucători majori din domeniu, precum Google DeepMind.

Pentru Amodei, problema nu este doar una tehnologică, ci una cu implicaţii profunde pentru societate. AI-ul are potenţialul de a remodela economia, modul în care muncim şi chiar structura deciziilor sociale. În acest context, lipsa de înţelegere a mecanismelor interne devine un risc sistemic.

El a părăsit OpenAI în 2020, alături de sora sa Daniela şi alţi colegi, invocând preocupări legate de echilibrul dintre siguranţă şi presiunea comercială. Prin Anthropic, încearcă să promoveze un model de dezvoltare care combină progresul tehnologic cu un control mai riguros.

Mesajul său este clar: îngrijorarea publicului este justificată. Avem în faţă o tehnologie capabilă să ia decizii complexe, iar dacă nu vom înţelege mecanismele din spate, riscăm să delegăm responsabilităţi majore unor sisteme pe care nu le putem explica pe deplin.

Într-o epocă în care inovaţia avansează mai rapid decât capacitatea noastră de a o analiza, miza următoarei etape nu va fi doar performanţa, ci transparenţa. Pentru că viitorul tehnologic nu este suficient să fie construit – trebuie şi înţeles.