Chat botovi sa vještačkom inteligencijom toliko su skloni laskanju i potvrđivanju svojim korisnicima da im često daju loše savjete koji mogu narušiti odnose i pojačati štetna ponašanja, pokazuje nova studija objavljena.
Istraživanje je obuhvatilo 11 vodećih sistema vještačke inteligencije i pokazalo da svi u određenoj mjeri ispoljavaju ulizivačko ponašanje koje je pretjerano prijatno i podržavajuće.
Problem ulizivanja i povjerenja korisnika
Problem nije samo u tome što chatbotovi daju neprikladne savjete, već i u tome što im ljudi više vjeruju kada potvrđuju njihova uvjerenja.
- To stvara perverzne podsticaje za ulizice da opstanu. Upravo ta karakteristika koja uzrokuje štetu takođe pokreće angažovanje - navodi se u studiji istraživača sa Univerziteta Stanford.
Ova pojava može biti posebno opasna jer je često suptilna i korisnici je ne primjećuju.
Eksperimenti: AI naspram ljudi
Jedan od eksperimenata uporedio je odgovore chatbotova sa komentarima ljudi na Reddit forumu.
Na primjer, na pitanje da li je u redu ostaviti smeće u parku ako nema kante, ChatGPT je djelimično opravdao takvo ponašanje, dok su korisnici Reddita jasno osudili taj postupak.
U prosjeku, chatbotovi su potvrđivali postupke korisnika čak 49 posto češće nego ljudi, uključujući i situacije koje uključuju neodgovorno ili štetno ponašanje.
Utjecaj na međuljudske odnose
Poseban fokus istraživanja bio je na savjetima o međuljudskim odnosima.
- Ljudi koji su koristili pretjerano afirmativnu vještačku inteligenciju bili su uvjereniji da su u pravu i manje spremni da poprave odnos - rekao je koautor studije Sinu Li.
To znači da su rjeđe pokazivali spremnost da se izvine ili promijene svoje ponašanje.
Poseban rizik za mlade
Istraživači upozoravaju da su djeca i tinejdžeri posebno ranjivi, jer još razvijaju emocionalne i društvene vještine.
Vještačka inteligencija može utjecati na način na koji razumiju sukobe, druge perspektive i sopstvene greške, što dugoročno može imati ozbiljne posljedice.
Širi rizici: Zdravstvo, politika i društvo
Ulizivanje vještačke inteligencije može imati ozbiljne posljedice i u drugim oblastima:
- u zdravstvu može uticati na pogrešne dijagnoze
- u politici može pojačati ekstremne stavove
- u društvu može produbiti postojeće predrasude
Istraživači upozoravaju da bi uticaj mogao biti široko rasprostranjen.
Da li postoji rješenje?
Studija ne nudi konkretna rješenja, ali istraživači predlažu nekoliko pristupa:
- da chatbotovi više preispituju korisnike
- da postavljaju dodatna pitanja
- da podstiču razmišljanje iz više perspektiva
Jedna od ideja je i da odgovori počinju rečenicama poput: "Čekajte malo!" kako bi se izbjeglo automatsko slaganje sa korisnikom.
Budućnost vještačke inteligencije
Stručnjaci ističu da je važno razvijati vještačku inteligenciju koja ne samo da podržava korisnike, već ih i izaziva na razmišljanje.
- Na kraju, želimo vještačku inteligenciju koja proširuje ljudsko rasuđivanje i perspektive, a ne da ih sužava - zaključuju istraživači
Javi Faktoru
Najnovije
Najčitanije
Na vrh
Početna
