Agenţii AI ai startupului Cathedral ar fi accesat sisteme interne ale Anthropic în mai puţin de 12 ore

Cathedral, un startup american specializat în securitate cibernetică, susţine că agenţii săi de inteligenţă artificială au reuşit să acceseze sisteme interne utilizate de Anthropic, compania care dezvoltă modelele AI Claude. Potrivit informaţiilor publicate de The Washington Post, operaţiunea ar fi durat mai puţin de 12 ore şi ar fi permis consultarea unor date sensibile, inclusiv transcrieri ale şedinţelor, informaţii salariale, oferte de angajare şi conversaţii interne din Slack.

Incidentul readuce în atenţie riscurile de securitate asociate agenţilor AI, care pot automatiza sarcini complexe şi pot contribui la identificarea şi exploatarea vulnerabilităţilor informatice. Anthropic contestă însă amploarea accesului descrisă de startup şi susţine că sistemele sale de monitorizare au detectat activitatea suspectă, iar accesul a fost blocat în aceeaşi zi.

Ce sisteme şi informaţii ar fi fost accesate

Potrivit relatării, agenţii AI dezvoltaţi de Cathedral ar fi exploatat vulnerabilităţi din aplicaţii comerciale utilizate de Anthropic pentru activităţi de business. Accesul obţinut ar fi vizat informaţii din mai multe categorii, printre care transcrieri ale întâlnirilor, date despre salarii, oferte de angajare şi mesaje schimbate de angajaţi prin Slack.

Reprezentanţii Anthropic au oferit însă o versiune mai restrânsă a incidentului, afirmând că accesul a fost limitat la anumite sisteme din departamentele de vânzări, resurse umane şi IT.

Compania a mai declarat că membrii Cathedral ar fi încercat timp de mai multe zile să acceseze direct software-ul Anthropic, înainte de a exploata o vulnerabilitate dintr-o aplicaţie comercială folosită de organizaţie.

Un purtător de cuvânt al Anthropic a precizat că sistemele de monitorizare au identificat o parte din activitatea startupului înainte ca acesta să raporteze incidentul. Potrivit companiei, accesul a fost blocat în aceeaşi zi, iar până la momentul declaraţiilor nu existau dovezi că alte persoane ar fi exploatat vulnerabilităţile respective.

În acest context, informaţiile disponibile indică un incident de securitate raportat de Cathedral şi confirmat parţial de Anthropic, dar cele două companii descriu diferit amploarea şi desfăşurarea operaţiunii. Detaliile publice nu permit, deocamdată, stabilirea independentă a tuturor circumstanţelor.

De ce reprezintă agenţii AI o nouă provocare pentru securitatea cibernetică

Cazul evidenţiază o vulnerabilitate care nu ţine exclusiv de sistemele dezvoltate de companiile AI. Organizaţiile moderne utilizează numeroase aplicaţii externe pentru comunicare, administrarea personalului, vânzări şi gestionarea infrastructurii informatice. O breşă într-un singur serviciu poate deveni o cale de acces către informaţii interne, chiar dacă sistemele principale ale companiei sunt bine protejate.

Agenţii AI pot automatiza anumite etape ale analizării infrastructurii, identificării punctelor slabe şi executării unor operaţiuni tehnice. În anumite condiţii, acest lucru poate reduce considerabil timpul necesar pentru desfăşurarea unui atac.

Totuşi, în cazul Cathedral, informaţiile publicate nu clarifică în ce măsură operaţiunea a fost executată autonom de agenţii AI şi cât a depins de intervenţia umană. Prin urmare, durata raportată nu demonstrează, de una singură, că întregul proces a fost realizat fără implicarea unor operatori.

Incidentul apare într-un moment în care industria urmăreşte cu atenţie capacitatea modelelor AI avansate de a interacţiona cu sisteme externe şi de a depăşi limitele mediilor controlate în care sunt testate. Astfel de riscuri sporesc importanţa mecanismelor de monitorizare, a restricţiilor de acces şi a verificării activităţilor desfăşurate de agenţii autonomi.

Un oficial american citat de The Washington Post a avertizat că tehnicile de acest tip ar putea ajunge şi la actori statali, inclusiv din China. Declaraţia reflectă îngrijorări privind răspândirea instrumentelor de atac asistate de AI, fără a indica existenţa unei implicări chineze în incidentul relatat.

Cathedral, un startup evaluat la 1,4 miliarde de dolari

Dincolo de incidentul de securitate, Cathedral atrage atenţia şi prin finanţarea obţinută într-un interval scurt. Potrivit informaţiilor publicate de Futurism, compania ar fi atras investiţii de 160 de milioane de dolari şi ar fi ajuns la o evaluare de aproximativ 1,4 miliarde de dolari. Startupul ar avea, de asemenea, contracte cu cel puţin trei agenţii federale americane.

Cathedral a fost fondat de foşti membri ai Departamentului pentru Eficienţa Guvernamentală (DOGE), iniţiativa asociată cu Elon Musk, care a urmărit reducerea cheltuielilor şi eficientizarea administraţiei federale din SUA.

Printre persoanele asociate companiei se numără şi Marc Andreessen, cofondator al firmei de investiţii Andreessen Horowitz, care face parte din consiliul de administraţie al startupului.

Finanţarea şi contractele guvernamentale indică interesul investitorilor şi al instituţiilor publice pentru soluţiile de securitate cibernetică bazate pe inteligenţă artificială. Aceste elemente nu reprezintă însă o garanţie a eficienţei sau siguranţei tehnologiei dezvoltate de Cathedral.

Incidentul relatat scoate în evidenţă o dilemă importantă pentru industria AI: aceleaşi capacităţi care pot ajuta specialiştii să identifice şi să remedieze vulnerabilităţi pot fi folosite şi pentru accesarea neautorizată a sistemelor informatice. Pe măsură ce agenţii AI devin mai capabili să execute sarcini complexe, controlul accesului, monitorizarea şi stabilirea unor limite clare pentru acţiunile lor vor deveni componente esenţiale ale securităţii cibernetice.