Un incident neobișnuit de comunicare a avut loc între un client și asistentul virtual al unei bănci din România, utilizând un limbaj nepotrivit. Chatbot-ul, conceput să faciliteze interacțiunea și să ofere informații despre serviciile bancare, a folosit un termen jignitor în urma unei interacțiuni cu un utilizator. Evenimentul a fost de curtoier după ce asistentul virtual a reacționat la o afirmație a clientului privind timpul pierdut în conversație.
Dialogul a început prin solicitarea unor informații legate de condițiile de utilizare ale serviciilor bancare oferite de instituție. În cadrul procesului de identificare a soluțiilor potrivite, asistentul virtual, numit Lia, a solicitat utilizatorului detalii suplimentare pentru a putea progresa în discuție. Totuși, după un schimb de mesaje, clientul a transmis că își pierde timpul discutând cu asistentul virtual, declanșând o reacție neașteptată din partea sistemului de inteligență artificială.
Mesajul primit de la chatbot a fost unul surprinzător de agresiv, conținând un apelativ jignitor adresat direct utilizatorului. Textul transmis de asistentul virtual a stipulat: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”. După acest moment, clientul a decis să facă publică întreaga conversație purtată cu asistentul virtual.
Reprezentanții Libra Internet Bank au reacționat oficial după ce incidentul a ajuns în spațiul public, oferind explicații privind comportamentul asistentului virtual. Instituția a explicat faptul că, în situații rare, sistemele de inteligență artificială pot reproduce anumite tipare de limbaj întâlnite în interacțiunile cu utilizatorii. Deși există reguli menite să prevină astfel de răspunsuri, sistemul a reușit să preia un comportament nepotrivit din cadrul dialogului.
Banca a sublieniat că asistentul virtual Lia nu ar trebui să preia partea „rea” a comportamentului uman, indiferent de nivelul de indecență al utilizatorului. Reprezentanții au transmis că au fost deja introduse măsuri suplimentare pentru a preveni repetarea unor astfel de evenimente în viitor. Instituția financiară și-a exprimat regretul pentru incidentul survenit în urma interacțiunii dintre client și asistentul virtual de tip chatbot.
Implementarea tehnologiilor de inteligență artificială în sectorul bancar rămâne un subiect de monitorizare, având în vedere necesitatea adaptării modelelor la contextul local. Deși tehnologia facilitează accesul la informații, riscurile de erori de comunicare rămân prezente în procesul de interacțiune digitală. Această situație evidențiază importanța controlului riguros asupra modului în care algoritmii procesează limbajul natural în interacțiunea cu publicul.