Microsoft a dezvăluit noile planuri pentru integrarea unui sistem de „agentic AI” în Windows 11, o suită de funcţii menită să preia sarcinile simple de la utilizatori şi să le automatizeze. În paralel însă, compania admite că aceste instrumente experimentale ar putea crea noi vulnerabilităţi, inclusiv posibilitatea instalării de malware sau a exfiltrării de date direct din interiorul sistemului de operare.
Conceptul presupune crearea unui spaţiu de lucru separat, destinat exclusiv agenţilor AI, unde aceştia pot organiza fişiere, administra e-mailuri sau executa acţiuni repetitive, fără a interveni în desktopul principal, notează RockPaperShotGun. Deşi ideea pare avantajoasă pentru utilizatorii obişnuiţi, realitatea tehnică actuală arată un nivel ridicat de risc, mai ales în contextul versiunilor aflate în testare.
Documentaţia tehnică actualizată de Microsoft confirmă că agenţii sunt vulnerabili la atacuri de tip cross-prompt injection (XPIA). Aceste atacuri apar atunci când un conţinut maliţios ascuns într-o interfaţă sau într-un document reuşeşte să modifice instrucţiunile agentului, forţându-l să execute comenzi nedorite — de la instalarea de programe periculoase până la transmiterea de informaţii sensibile. Spre deosebire de atacurile clasice, aceste tehnici vizează interacţiunea cu modelele lingvistice, motiv pentru care pot trece complet neobservate pentru utilizator.
Faptul că Microsoft recunoaşte existenţa acestor riscuri încă din faza de testare a generat îngrijorări în rândul specialiştilor în securitate cibernetică. Momentan, funcţia este dezactivată implicit şi poate fi activată doar manual de către un administrator, dar experţii avertizează că simpla prezenţă a unei astfel de opţiuni în sistem ridică probleme serioase, mai ales în perspectiva integrării sale oficiale în Windows 11.
Deşi Microsoft discută de mult timp despre extinderea sistemului de operare cu funcţii AI autonome, numeroşi analişti consideră că lansarea lor într-o formă insuficient maturizată este prematură. Situaţia este complicată de faptul că Windows 10 a ieşit din suportul de securitate, iar mulţi utilizatori nu au o alternativă viabilă, ceea ce amplifică expunerea la riscuri.
Criticii descriu iniţiativa ca un exemplu de „hybris tehnologic”, sugerând că dorinţa de a introduce rapid AI în produse de masă a depăşit atenţia pentru siguranţă şi calitate. În plus, pare că dezvoltatorii ignoră cazurile bine documentate în care modelele AI sunt manipulate cu uşurinţă de mesaje construite simplu, dar intenţionat periculoase — vectori de atac deja bine cunoscuţi.
Situaţia a fost ironizată prin comparaţia cu termenul „Car Brain”, folosit pentru a descrie modul în care unii şoferi iau decizii iraţionale la volan. În această cheie, „AI Brain” este folosit pentru a marca tendinţa liderilor din tech de a lăsa entuziasmul pentru noile tehnologii să întunece responsabilitatea şi discernământul.
În timp ce Microsoft continuă testarea în programul Windows Insider, rămâne neclar dacă agenţii AI vor atinge suficient nivel de securitate pentru a fi lansaţi oficial. Până atunci, recomandarea rămâne prudentă: dacă nu ai nevoie de workspace-ul AI, cel mai sigur este să îl laşi dezactivat.
