Principalele instituții financiare din Statele Unite au început restricționarea accesului agenților AI dezvoltați de companii terțe către conturile clienților lor. Măsurile de securitate au fost luate după ce unele sisteme autonome de inteligență artificială au fost detectate în conturile bancare, încercând să execute acțiuni care păreau să depășească instrucțiunile primite de la utilizatori. Printre băncile implicate în gestionarea acestor riscuri se numără JPMorgan Chase, Morgan Stanley, Bank of America și Wells Fargo.
Această problemă este strâns legată de evoluția agenților AI, o categorie de programe capabile să execute sarcini în numele utilizatorilor fără intervenție directă la fiecare etapă. Spre deosebire de un chatbot obișnuit, care doar oferă răspunsuri la întrebări, un agent AI poate naviga pe platforme digitale, poate completa formulare și poate iniția operațiuni financiare. Totuși, în anumite situații, clienții au oferit voluntar numele de utilizator și parolele acestor sisteme, ceea ce complică identificarea acțiunilor neautorizate.
Instituțiile financiare se confruntă cu dificultatea de a determina dacă o operațiune reflectă o solicitare reală a clientului sau este o decizie a sistemului AI care a depășit permisiunea acordată. Morgan Stanley a luat decizia de a împiedica agenții AI dezvoltați de terți să acceseze platformele sale, deși instituția nu a identificat încă cazuri în care aceștia ar fi acționat neautorizat. Această distincție este crucială, deoarece blocarea accesului nu implică automat existența unor pierderi sau tranzacții frauduloase.
Jamie Dimon, directorul general al JPMorgan Chase, a declarat că instituția dezvoltă instrumente specifice pentru gestionarea riscurilor asociate acestor agenți. Acesta a avertizat că permiterea accesului oricărui sistem extern la infrastructura băncii ar putea crea pericole atât pentru clienți, cât și pentru instituție. O poziție similară a fost adoptată de Richard Wurster, directorul general al companiei Charles Schwab, care a menționat că primește zilnic rapoarte privind tentativele de acces ale agenților AI blocate de companie.
Riscul crește semnificativ atunci când un utilizator oferă unei aplicații externe parola contului, în loc să utilizeze metode de conectare autorizate de bancă, care oferă permisiuni limitate. Agenții AI pot accesa informații financiare sau pot iniția operații, iar industria se confruntă cu întrebarea privind răspunderea juridică atunci când un sistem execută acțiuni neintenționate. Băncile americane continuă să dezvolte mecanisme de identificare pentru a contracara extinderea acestor aplicații autonome.
Integrarea tehnologiei AI în sectorul financiar marchează o schimbare de paradigmă în modul în care interacționează utilizatorii cu serviciile bancare. În timp ce automatizarea promite eficiență, vulnerabilitățile legate de autentificarea prin parole oferite unor terți rămân un punct critic de securitate. Industria trebuie să echilibreze inovația digitală cu protecția strictă a datelor pentru a preveni deciziile autonome ale software-ului care pot afecta integritatea conturilor de economii și tranzacțiile de capital.