Videozapisi koje je generisala vještačka inteligencija, a koji prikazuju djevojčice u seksualiziranim pozama i odjeći, prikupili su milione lajkova na TikToku, uprkos pravilima platforme koja takav sadržaj strogo zabranjuju, pokazuje novo istraživanje španske nevladine organizacije Maldita.es.

Istraživači su identifikovali više od deset naloga koji objavljuju AI-generisane snimke djevojčica u uskoj odjeći, donjem rublju ili školskim uniformama, često u sugestivnim pozama. Ti nalozi zajedno imaju stotine hiljada pratitelja. Posebno zabrinjavaju komentari ispod videa, koji često sadrže linkove ka privatnim Telegram grupama u kojima se, prema izvještaju, nudi dječija pornografija uz novčanu nadoknadu.

Maldita.es je prijavila 15 naloga i 60 videa TikToku, ali je većina sadržaja, prema odgovoru platforme, ocijenjena kao da ne krši pravila. Istraživači upozoravaju da to dovodi u pitanje sposobnost TikToka da provodi vlastite politike, posebno kada je riječ o AI sadržaju.

TikTok navodi da ima politiku nulte tolerancije prema seksualnoj eksploataciji djece i da koristi kombinaciju automatizovanih alata i ljudske kontrole. Ipak, stručnjaci upozoravaju da brzi razvoj AI tehnologije dodatno otežava zaštitu djece na društvenim mrežama, u trenutku kada sve više zemalja pooštrava zakone o online sigurnosti.