Tot mai multe persoane apelează la chatboți bazați pe inteligență artificială pentru sfaturi medicale rapide, mai ales când accesul la un medic este dificil. Deși astfel de platforme pot oferi informații utile și răspunsuri aparent convingătoare, specialiștii avertizează că ele pot greși, uneori grav, provocând panică inutilă sau decizii riscante. Cazul unei tinere din Manchester arată cât de ușor pot apărea problemele: după o căzătură minoră, un chatbot i-a sugerat că ar putea avea un organ perforat și că trebuie să ajungă imediat la urgență. După ore petrecute la spital, simptomele s-au dovedit a fi mult mai puțin serioase.
Tânăra folosea frecvent OpenAI ChatGPT pentru recomandări privind sănătatea și spunea că îi oferă răspunsuri mai personalizate decât o simplă căutare online. În alte situații, sistemul i-a fost util, sugerându-i corect să consulte un farmacist pentru o posibilă infecție urinară. Totuși, experiența legată de accident a făcut-o să privească mai prudent aceste instrumente.
Cercetări realizate la Universitatea din Oxford au arătat că modelele AI pot avea rezultate excelente atunci când primesc toate informațiile necesare, atingând o acuratețe ridicată. Însă în conversațiile reale cu utilizatorii, unde simptomele sunt descrise incomplet sau confuz, precizia scade drastic. În multe cazuri, recomandările primite au fost greșite sau nepotrivite.
Medicii atrag atenția că aceste sisteme oferă răspunsuri formulate sigur și convingător, chiar și atunci când informația este incorectă. Tocmai această încredere afișată poate induce utilizatorii în eroare. Alte studii au arătat că unele platforme AI pot promova inclusiv dezinformări legate de cancer, vaccinuri, nutriție sau terapii alternative.
Companiile din domeniu susțin că îmbunătățesc constant modelele și colaborează cu experți medicali, însă recomandă folosirea lor doar în scop informativ. Concluzia specialiștilor este clară: chatboții pot fi un sprijin util pentru orientare rapidă, dar nu trebuie să înlocuiască evaluarea unui medic sau consultul profesionist.
Sursa : https://www.digi24.ro/stiri/externe/ue/chatbotii-medicali-ajutor-rapid-sau-risc-periculos-cata-incredere-putem-avea-in-sfaturile-oferite-de-inteligenta-artificiala-3734949
Leave a Reply