Un incident neobișnuit și stânjenitor a izbucnit în spațiul public după ce un client al Libra Internet Bank a făcut publică o conversație cu Lia, asistentul virtual al băncii. În timpul unei sesiuni de suport în care clientul se arătase frustrat că nu primea răspunsurile dorite, agentul digital i-a răspuns cu apelativul „idiotule” — un cuvânt total nepotrivit pentru o platformă de asistență bancară automatizată — înainte de a transfera discuția către un operator uman. Mesajul complet transmis de Lia a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar.”
Declanșatorul conversației tensionate a fost observația clientului că „îmi pierd vremea cu tine” — o exprimare frustrantă, dar deloc atipică pentru un utilizator nemulțumit de calitatea unui chatbot. Răspunsul primit a depășit însă cu mult orice așteptare rezonabilă privind comportamentul unui sistem automat al unei instituții financiare.
Explicația băncii: cum a ajuns Lia să jignească
Libra Internet Bank a reacționat prompt, și-a cerut scuze public și a oferit o explicație tehnică. Potrivit reprezentanților instituției, sistemele de tip AI generativ nu funcționează determinist, ci statistic — ceea ce înseamnă că, deși există reguli și restricții clare privind modul de comunicare, în situații rare modelul poate produce răspunsuri care deviază de la parametrii stabiliți de dezvoltatori. Mai mult, în anumite contexte, aceste sisteme pot reproduce elemente de limbaj preluate din conversațiile cu utilizatorii — inclusiv expresii agresive sau vulgare. „Lia nu trebuie să preia partea «rea» a comportamentului uman, indiferent de indecența abordării la care a fost expusă”, au transmis reprezentanții băncii, adăugând că au implementat imediat restricții suplimentare pentru a preveni reapariția unor astfel de răspunsuri.
Cazul ridică o întrebare mai amplă despre limitele și riscurile utilizării inteligenței artificiale generative în serviciile cu publicul, mai ales în domenii sensibile precum cel bancar. Un chatbot care poate fi „contaminat” de limbajul agresiv al unui utilizator și să-l reflecte înapoi reprezintă un risc reputațional real pentru orice instituție — și un memento că sistemele AI, oricât de sofisticate, au nevoie de garduri de protecție robuste și de monitorizare umană continuă.
Sursa : https://www.digi24.ro/stiri/actualitate/social/asistentul-ai-al-unei-banci-si-a-jignit-clientul-idiotule-cum-explica-banca-raspunsul-3955925
Leave a Reply