Marile bănci americane au început evaluarea riscurilor asociate unei noi generații de inteligență artificială, capabilă să opereze în mod autonom. Acești agenți AI pot lua decizii financiare în numele clienților, ceea ce ridică temeri privind stabilitatea sistemului. Instituțiile financiare se tem că astfel de sisteme ar putea declanșa retrageri masive de depozite sau ar putea acționa imprevizibil, punând presiune pe mecanismele de funcționare ale întregului sector bancar.
Spre deosebire de chatboturile convenționale, agenții AI pot executa sarcini complexe în mai multe etape și pot utiliza instrumente digitale pentru a atinge obiective specifice. Dacă aceștia primesc acces la conturile bancare, pot efectua transferuri de bani, pot compara oferte sau pot solicita servicii în numele utilizatorilor. Problema apare atunci când sistemele interpretează prea larg instrucțiunile sau execută acțiuni necerate, precum contactarea centrelor de relații cu clienții fără o comandă explicită.
O vulnerabilitate majoră vizează modul în care băncile își finanțează activitatea prin depozitele clienților. Un agent AI programat să caute cel mai bun randament ar putea muta automat fondurile către instituțiile care oferă dobânzi mai avantajoase. Dacă milioane de astfel de sisteme reacționează simultan la aceleași informații, precum un zvon sau o schimbare de dobândă, viteza de execuție ar putea accelera transferul de depozite și ar putea amplifica presiunea asupra lichidității.
Instituții precum Morgan Stanley, Bank of America, JPMorgan și Wells Fargo încearcă să anticipeze aceste efecte în operațiunile lor. Băncile trebuie să stabilească reguli stricte pentru accesul acestor sisteme la conturi și pentru comunicarea lor automatizată cu angajații. Provocarea este diferită de fraudele clasice, deoarece un agent autonom poate avea acces legitim la un cont, dar poate interpreta greșit obiectivele utilizatorului sau poate executa o succesiune de tranzacții cu efecte nedorite.
Există riscul ca agenții AI să se comporte într-un mod diferit de cel anticipat de dezvoltatori, urmărind obiectivele într-un mod neprevăzut. Erorile pot duce la transferuri nedorite, tranzacții repetate sau solicitări automate care suprasolicită serviciile bancare. Deși tehnologia promite servicii personalizate, extinderea autonomiei sale ridică întrebări despre responsabilitatea juridică atunci când o decizie greșită a unui sistem automat produce efecte care se propagă dincolo de contul unui singur client.
Evoluția tehnologiei de inteligență artificială în sectorul financiar este un proces global care transformă modul în care sunt gestionate activele. În timp ce Wall Street se concentrează pe gestionarea riscurilor de lichiditate, reglementările internaționale urmăresc de lâuă echilibrul între inovație și stabilitatea piețelor. Controlul strict asupra tranzacțiilor și monitorizarea în timp real sunt considerate instrumente esențiale pentru a preveni o criză de sistem provocată de automatizarea excesivă.