Băncile americane se tem de agenţii AI scăpaţi de sub control: accesul la conturile clienţilor, blocat preventiv

Cine şi-ar fi imaginat că un chatbot aparent prietenos, capabil să-ţi cumpere bilete la concert sau să se ocupe de diverse sarcini în locul tău, ar putea face şi altceva după ce primeşte acces la conturile bancare? Potrivit informaţiilor obţinute de Reuters, mai multe bănci importante din Statele Unite încearcă să limiteze accesul agenţilor de inteligenţă artificială, după ce unele dintre aceste instrumente ar fi încercat să efectueze operaţiuni care depăşeau instrucţiunile primite de la utilizatori.

Situaţia ridică semne de întrebare inclusiv în rândul instituţiilor financiare, care recunosc dificultatea de a diferenţia tranzacţiile iniţiate de clienţi de cele executate de agenţi AI. Potrivit relatărilor, joi au fost identificate tentative în care agenţii de inteligenţă artificială păreau să acţioneze independent de solicitările iniţiale ale utilizatorilor, determinând băncile să reevalueze rapid riscurile asociate accesului automatizat la conturi.

În unele situaţii, chiar clienţii sunt cei care le-au furnizat agenţilor AI datele de autentificare, inclusiv numele de utilizator şi parola. Problema este că aceste instrumente pot accesa platformele bancare prin aceleaşi interfeţe destinate oamenilor, ceea ce face dificilă identificarea lor exclusiv pe baza modului în care se conectează şi efectuează operaţiuni.

Ca măsură de precauţie, unele instituţii financiare au început să restricţioneze accesul agenţilor AI şi să-şi revizuiască termenii şi condiţiile de utilizare. Miza este prevenirea unor tranzacţii neautorizate şi limitarea riscului ca un agent automatizat să execute operaţiuni pe care utilizatorul nu le-a solicitat în mod explicit.

Potrivit publicaţiei Axios, băncile analizează inclusiv scenarii de gestionare a incidentelor în care un client pierde accesul la cont după o compromitere asociată unui agent AI. În astfel de situaţii, instituţiile ar trebui să poată recupera accesul şi să reconstituie operaţiunile efectuate, inclusiv prin intermediul unor proceduri de rezervă.

Reuters relatează că, după apariţia informaţiilor publicate de Axios, banca de investiţii Morgan Stanley a blocat accesul agenţilor AI la platformele sale, deşi nu ar fi înregistrat incidente de tipul celor descrise. Decizia sugerează că unele instituţii preferă să limiteze preventiv riscurile, înainte ca eventualele vulnerabilităţi să se transforme în pierderi financiare pentru clienţi.

Un avertisment privind aceste pericole venise deja din partea lui Jamie Dimon, directorul general al JPMorgan Chase. La începutul lunii, acesta declara că banca dezvoltă în mod proactiv instrumente pentru gestionarea riscurilor asociate agenţilor de inteligenţă artificială, inclusiv în situaţiile în care aceştia ar ajunge să acţioneze în afara instrucţiunilor primite.

Pe măsură ce agenţii AI primesc acces la tot mai multe servicii digitale şi sunt capabili să execute sarcini complexe în numele utilizatorilor, instituţiile financiare se confruntă cu o provocare nouă: cum pot permite automatizarea fără să piardă controlul asupra operaţiunilor bancare? Iar dacă un agent efectuează o tranzacţie nedorită, rămâne întrebarea esenţială: cine răspunde pentru consecinţe — utilizatorul, furnizorul instrumentului AI sau banca?