Asistentul AI al Libra Internet Bank i-a adresat un apelativ nepotrivit unui client
Incidentul semnalat de un client
Un client al Libra Internet Bank a făcut publică o conversație cu asistentul virtual al băncii, Lia, care i-a răspuns folosind apelativul „idiotule”. Incidentul a fost postat pe Facebook, unde clientul a atașat o fotografie a dialogului.
Nemulțumit de răspunsurile asistentului, clientul i-a reproșat acestuia că îi „pierde vremea”. Răspunsul primit a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
În postarea sa, clientul a menționat: „Am stat puțin uimit și am început să râd ulterior. Am zis că nu mă pot abține să nu-l împărtășesc cu voi. După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu”.
Răspunsul Libra Internet Bank
Libra Internet Bank a reacționat printr-o postare pe platforma LinkedIn, explicând că Lia funcționează prin OpenAI și că astfel de incidente se pot întâmpla în contextul modului în care agenții AI învață din datele la care sunt expuși.
Comunicatul băncii precizează: „În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic, interdicțiile pot să nu funcționeze”.
Banca a subliniat că asistentul nu ar trebui să folosească un limbaj nepotrivit: „Evident că Lia nu trebuie să preia partea «rea» a comportamentului uman indiferent de indecența abordării la care a fost expusă”.
Ca urmare a incidentului, Libra Internet Bank a implementat „interdicții suplimentare pentru a exclude interacțiunile nepotrivite” și și-a cerut scuze pentru situația creată.
Situația actuală
Până în prezent, banca a informat că urmărește să îmbunătățească comportamentul asistentului virtual, însă a recunoscut limitele tehnologiei AI în gestionarea completă a limbajului neadecvat. Dezvoltarea și adaptarea continuă a sistemului rămân o prioritate pentru instituție.
