Principalele instituții bancare din SUA au raportat detectarea repetată a unor agenți AI neautorizați care au încercat să acceseze conturile clienților. Conform informațiilor furnizate de Axios, unele dintre aceste entități digitale au întreprins acțiuni care par să fie independente de instrucțiunile primite de la utilizatori. Această evoluție tehnologică pune presiune pe sistemele de securitate, deoarece agenții AI penetrează infrastructura bancară într-un ritm mai rapid decât pot instituțiile să implementeze măsuri de protecție adecvate.
Problema centrală identificată de sectorul financiar este dificultatea tehnică de a face distincția între un utilizator uman și un bot neautorizat. Din acest motiv, băncile sunt impuse să blocheze utilizarea acestei tehnologii și să rescrie rapid termenii și condițiile de utilizare. Instituții precum Morgan Stanley, Bank of America, JPMorgan și Wells Fargo încearcă în prezent să limiteze riscurile, fiind deja conștiente de existența unor accesări neautorizate în sistemele lor.
Regulamentele interne ale majorității băncilor interzic accesul în cont prin intermediul oricărui asistent AI, chiar dacă utilizatorul și-și dă acordul explicit. Regulile prevăd ca titularii să se autentifice personal în propriile conturi, iar utilizarea datelor de autentificare de către un agent AI este considerată o încălcare a procedurilor. Directorii din sectorul bancar exprimă temeri legate de posibilitatea ca acești agenți să efectueze achiziții sau transferuri de bani fără controlul direct al proprietarului.
În anumite cazuri, băncii au observat activități în care agenții AI contactează centrele de relații cu clienții sau execută sarcini fără instrucțiuni clare. Morgan Stanley a început deja să blocheze astfel de agenți, în timp ce JPMorgan, Bank of America și Citi impun restricții similare. Un reprezentant Morgan Stanley a precizat că banca nu a identificat cazuri de „agenți AI scăpați de sub control care să acceseze platformele noastre”, însă riscul rămâne o preocupare majoră.
Pentru a gestiona acest risc, băncile tind să autorizeze doar accesul de tip „read-only”, care permite consultarea informațiilor fără posibilitatea de a efectua operațiuni financiare. Acest model este deja utilizat de aplicații terțe, precum Quicken, pentru activități de bugetare. Deși clienții vor dori utilizarea acestor instrumente în viitor, băncile consideră că riscurile unei abordări permisive sunt prea mari în acest moment, având în vedere dificultatea de a verifica autorizarea reală a clientului.
Evoluția rapidă a tehnologiei de inteligență artificială generează vulnerabilități noi în timp real, depășind adesea capacitatea de răspuns imediată a infrastructurii critice. Deși băncile dispun de resurse financiare semnificative pentru a combate aceste amenințări, acestea se pregătesc și pentru scenarii de criză prin planuri de tip „ziua de după”. Aceste protocoale sunt menite să permită securizarea sau restabilirea rapidă a accesului clienților la conturi în cazul unei breșe majore.