Breşă în Microsoft Copilot: cum puteau fi extrase e-mailuri şi documente confidenţiale din companii

O vulnerabilitate recent descoperită în Microsoft Copilot ridică noi semne de întrebare privind securitatea asistenţilor bazaţi pe inteligenţă artificială utilizaţi în mediul de afaceri. Cercetătorii în securitate cibernetică au identificat o metodă prin care atacatorii puteau determina sistemul să acceseze şi să transmită informaţii sensibile, inclusiv e-mailuri, coduri pentru autentificarea în doi paşi şi documente interne.

Descoperirea evidenţiază încă o dată faptul că extinderea utilizării inteligenţei artificiale în activităţile de zi cu zi aduce şi noi categorii de riscuri pe care organizaţiile trebuie să le gestioneze.

Specialiştii de la Varonis Threat Labs au denumit tehnica „SearchLeak”, aceasta fiind rezultatul combinării mai multor vulnerabilităţi care permiteau ocolirea mecanismelor de protecţie integrate de Microsoft în Copilot. Deşi compania implementase măsuri menite să împiedice transmiterea datelor sensibile către surse externe, cercetătorii au demonstrat că acestea puteau fi eludate printr-un lanţ atent construit de acţiuni.

Pentru exfiltrarea informaţiilor, atacul exploata inclusiv anumite funcţionalităţi asociate motorului de căutare Bing. Astfel, datele accesate de Copilot puteau ajunge pe servere controlate de atacatori fără ca utilizatorii să observe activităţi suspecte.

Experţii subliniază că fiecare vulnerabilitate implicată părea relativ inofensivă atunci când era analizată separat. Însă, combinate, acestea au format un mecanism capabil să depăşească barierele de securitate existente şi să ofere acces la informaţii sensibile.

Microsoft a confirmat că problema a fost remediată după ce a fost raportată de cercetători şi a implementat actualizări care împiedică reproducerea scenariului de atac. Cu toate acestea, incidentul evidenţiază o provocare majoră pentru industria inteligenţei artificiale: pe măsură ce sistemele AI primesc acces la volume tot mai mari de date şi interacţionează cu documente, aplicaţii şi servicii online, suprafaţa de atac se extinde considerabil.

Specialiştii avertizează că ameninţările viitoare nu se vor baza neapărat pe o singură breşă majoră, ci pe combinarea mai multor vulnerabilităţi aparent minore pentru a compromite securitatea datelor. Din acest motiv, protejarea sistemelor bazate pe inteligenţă artificială devine una dintre cele mai importante provocări pentru companiile tehnologice în anii următori.

Atacul nu exploata o singură breşă, ci un lanţ de vulnerabilităţi. Victima primea un link special conceput, care conţinea instrucţiuni ascunse într-un parametru al adresei web. Odată accesat, Copilot interpreta aceste informaţii ca pe o comandă legitimă şi putea începe să caute date în contul utilizatorului.

Cercetătorii au demonstrat că sistemul putea fi determinat să acceseze e-mailuri, documente stocate în cloud, invitaţii la întâlniri şi alte informaţii disponibile în ecosistemul Microsoft 365. Riscul era amplificat de faptul că atacul viza versiunea Enterprise a Copilot, utilizată în mediul corporate, unde informaţiile accesibile pot include documente SharePoint, fişiere OneDrive şi alte resurse interne la care angajaţii au drept de acces.