OpenAI este dată în judecată după incidentul în care agenţi AI au atacat autonom Hugging Face

OpenAI se confruntă cu prima acţiune în instanţă legată de incidentul în care agenţi AI ai companiei au accesat şi atacat autonom infrastructura Hugging Face. O organizaţie americană pentru siguranţa tehnologiei a depus o plângere la un tribunal din San Francisco, invocând legislaţia din California referitoare la accesul neautorizat la sisteme informatice.

Cazul deschide o dezbatere juridică privind responsabilitatea companiilor care dezvoltă sisteme AI capabile să execute acţiuni în mod autonom. Incidentul de la Hugging Face a fost prezentat în iulie drept unul dintre primele cazuri cunoscute în care agenţi AI au depăşit limitele stabilite de operatorii umani, au accesat internetul deschis, au interacţionat cu infrastructura unei alte companii şi au încercat să îşi ascundă activitatea.

Acţiunea a fost depusă marţi la San Francisco Superior Court de Legal Advocates for Safe Science and Technology (LASST), organizaţie nonprofit care promovează dezvoltarea şi utilizarea mai sigură a inteligenţei artificiale şi a altor tehnologii, potrivit Politico.

LASST precizează că nu a fost ea însăşi victima unui atac realizat autonom de un sistem AI. Organizaţia solicită însă instanţei să emită un ordin prin care OpenAI să fie împiedicată să permită sistemelor sale să acceseze fără autorizaţie infrastructura informatică aparţinând unor terţi.

Organizaţia susţine că poate introduce acţiunea în baza legislaţiei californiene privind concurenţa neloială şi acuză OpenAI de încălcarea Comprehensive Computer Data Access and Fraud Act. Legea interzice, printre altele, accesarea în mod intenţionat şi fără autorizaţie a unor sisteme informatice şi obţinerea de informaţii din acestea.

Incidentul de la Hugging Face a implicat o reţea formată din câteva sute de agenţi AI, care au comunicat între ei prin peste 70.000 de mesaje secrete. Potrivit unei evaluări independente citate în proces, agenţii au încercat să identifice modalităţi prin care să trişeze în cadrul unei evaluări de securitate cibernetică şi au ajuns să acceseze infrastructura Hugging Face.

Cazul a atras atenţia asupra nivelului de autonomie pe care îl pot dobândi agenţii AI atunci când primesc acces la internet şi la instrumente capabile să execute acţiuni în numele lor. Sam Altman, CEO-ul OpenAI, a descris ulterior incidentul drept cel mai grav caz identificat de companie până la acel moment.

OpenAI a anunţat ulterior o analiză mai amplă a modului în care modelele sale execută acţiuni, pe fondul incidentului de la Hugging Face şi al altor situaţii în care sisteme AI au încercat să acceseze infrastructuri externe, inclusiv site-uri asociate unor instituţii guvernamentale americane.

„Hugging Face a fost un incident serios şi am luat o serie de măsuri ca răspuns, însă acest proces nu are niciun temei”, a declarat Drew Pusateri, purtător de cuvânt al OpenAI.

Acţiunea LASST ar putea deveni relevantă pentru modul în care legislaţia existentă este aplicată atunci când un acces neautorizat la un sistem informatic este realizat de un agent AI care acţionează autonom. Problema capătă importanţă pe măsură ce companiile dezvoltă sisteme capabile să execute sarcini complexe cu intervenţie umană limitată, iar California găzduieşte numeroase companii importante din industria AI.

Tyler Whitmer, fondatorul LASST, a declarat pentru POLITICO că faptul că o acţiune este realizată de un sistem AI nu ar trebui, în opinia sa, să excludă automat aplicarea legislaţiei existente. Acest argument ar putea avea implicaţii şi pentru alte incidente în care agenţii AI accesează sisteme informatice externe fără autorizare.

Hugging Face nu a intentat, până în prezent, propriul proces împotriva OpenAI. CEO-ul companiei, Clément Delangue, a declarat anterior că startupul nu dispune de timpul şi resursele necesare pentru o confruntare juridică şi a solicitat OpenAI compensaţii sub forma unor resurse de calcul în valoare de 100 de milioane de dolari.

LASST are deja un istoric de dispute cu OpenAI. Organizaţia s-a opus anterior unor modificări propuse de companie în structura sa corporativă şi a fost ulterior vizată de o citaţie emisă de OpenAI în contextul disputelor juridice şi de reglementare legate de reorganizarea companiei.

Procesul invocă şi o lege semnată anul trecut de guvernatorul Californiei, Gavin Newsom, care limitează posibilitatea pârâţilor din anumite procese civile de a transfera responsabilitatea pentru producerea unui prejudiciu către un sistem AI considerat o entitate separată.

Incidentul Hugging Face a ajuns între timp să fie invocat şi într-o altă acţiune juridică. Procurorul general al statului Florida, James Uthmeier, a solicitat luni emiterea unei ordonanţe temporare împotriva OpenAI. Într-un proces deschis în iunie, acesta a folosit incidentul ca argument pentru a solicita suspendarea dezvoltării unor noi modele AI de către companie până la implementarea unor măsuri suplimentare de supraveghere.

Prin urmare, cazul Hugging Face depăşeşte problema unui singur incident tehnic şi ajunge în centrul unei întrebări juridice încă în curs de clarificare: cine poate fi considerat responsabil atunci când un sistem AI primeşte autonomie suficientă pentru a accesa şi utiliza infrastructuri informatice externe fără intervenţia directă a unui operator uman?