Korištenje chatbotova zasnovanih na vještačkoj inteligenciji (AI) za traženje medicinskih savjeta može biti opasno, navodi se u novoj studiji objavljenoj u časopisu "Nature Medicine", prenosi Anadolija.

Istraživanje, koje su predvodili Oxford Internet Institute i Nuffield Department of Primary Care Health Sciences pri Univerzitetu u Oxfordu, pokazalo je da oslanjanje na AI prilikom donošenja medicinskih odluka predstavlja rizik za pacijente zbog sklonosti ka pružanju netačnih i nedosljednih informacija.

Rebecca Payne, koautorica studije i ljekarka opće prakse, izjavila je: "Uprkos svoj pompi, AI jednostavno još nije spreman preuzeti ulogu ljekara".

- Pacijenti trebaju biti svjesni da postavljanje pitanja velikom jezičkom modelu o svojim simptomima može biti opasno, jer može dati pogrešne dijagnoze i ne prepoznati kada je potrebna hitna pomoć - dodala je.

U studiji je gotovo 1.300 učesnika zamoljeno da identificiraju moguća zdravstvena stanja i preporuče naredne korake na osnovu različitih scenarija.

Neki učesnici koristili su softver zasnovan na velikim jezičkim modelima kako bi dobili potencijalnu dijagnozu, dok su se drugi oslanjali na tradicionalne metode, poput konsultacija s ljekarom opće prakse.

Istraživači su utvrdili da su AI alati često pružali mješavinu dobrih i loših informacija, koje su korisnici teško razlikovali.

Iako chatbotovi odlično prolaze na standardiziranim testovima medicinskog znanja, studija je zaključila da bi njihova primjena u stvarnim uslovima kao medicinskih alata predstavljala rizik za stvarne korisnike koji traže pomoć zbog vlastitih zdravstvenih simptoma.

Glavni autor studije Andrew Bean rekao je da interakcija s ljudima i dalje predstavlja izazov čak i za najnaprednije AI sisteme te je izrazio nadu da će rezultati doprinijeti sigurnijem razvoju takvih alata.