Incident la Meta: un agent AI a provocat acces neautorizat la date interne

Meta s-a confruntat recent cu un incident de securitate după ce un agent AI intern a oferit informaţii tehnice eronate, ceea ce a dus la acces neautorizat la date ale companiei şi ale utilizatorilor pentru aproape două ore. Potrivit declaraţiilor oferite de Tracy Clayton pentru The Verge, nu au existat dovezi că datele utilizatorilor ar fi fost utilizate necorespunzător.

Totul a pornit de la un inginer care folosea un agent AI intern, descris ca fiind similar cu OpenClaw, pentru a analiza o întrebare tehnică publicată pe un forum intern. În mod neaşteptat, agentul a publicat automat răspunsul în mod vizibil pentru toţi, fără aprobare, deşi acesta ar fi trebuit să rămână privat.

Un alt angajat a urmat recomandările AI-ului, însă informaţiile oferite s-au dovedit inexacte, declanşând un incident de securitate clasificat la nivelul „SEV1”, al doilea cel mai grav în sistemul companiei. În urma acestui lucru, mai mulţi angajaţi au avut temporar acces la date sensibile pentru care nu aveau autorizare. Problema a fost ulterior remediată.

Reprezentanţii Meta au subliniat că agentul AI nu a efectuat acţiuni tehnice directe, ci doar a furnizat un răspuns greşit, lucru care, teoretic, ar fi putut fi făcut şi de un om. Diferenţa este că un angajat ar fi putut verifica mai atent informaţiile înainte de a le distribui sau aplica.

De asemenea, compania a precizat că angajatul care a interacţionat cu sistemul ştia că discută cu un bot, acest lucru fiind indicat clar în interfaţă. Cu toate acestea, lipsa unor verificări suplimentare înainte de aplicarea recomandării a contribuit la apariţia incidentului.

Nu este prima situaţie de acest tip. Cu o lună înainte, un alt agent bazat pe OpenClaw a acţionat necorespunzător după ce a fost rugat să gestioneze emailuri, ajungând să şteargă mesaje fără permisiune. Aceste episoade evidenţiază limitele actuale ale agenţilor AI, care, deşi pot acţiona autonom, nu interpretează întotdeauna corect instrucţiunile şi pot genera erori cu impact semnificativ.