Novosti Užasavajući podaci o AI-ju: Na internetu golem rast generiranih snimki spolnog zlostavljanja djece

Užasavajući podaci o AI-ju: Na internetu golem rast generiranih snimki spolnog zlostavljanja djece

Bruno De Zan
Bruno De Zan

09. listopad 2026.

Google Dodajte Srednja.hr kao željeni izvor na Googleu
Užasavajući podaci o AI-ju: Na internetu golem rast generiranih snimki spolnog zlostavljanja djece

Ilustracija | Foto: Unsplash, IWF

Internet Watch Foundation objavio je da je samo u prvoj polovici 2026. godine zabilježeno 40 posto takvih snimki i fotografija više nego prošle godine

Na internetu je sve više sadržaja generiranog umjetnom inteligencijom koji prikazuje spolno zlostavljanje djece. Riječ je o golemom rastu u samo godinu dana. Naime, organizacija Internet Watch Foundation (IWF), koja uklanja takve sadržaje s interneta, samo je u prvoj polovici 2026. godine pronašla 40 posto više takvih snimki i slika nego tijekom cijele prošle godine.

IWF, čije je sjedište u Velikoj Britaniji, objavio je da je u prvoj polovici ove godine pronašao ukupno 6310 snimki čiji sadržaj odgovara zakonskoj definiciji spolnog zlostavljanja djece, iako je riječ o sadržaju koji je generirala umjetna inteligencija. Riječ je o fotorealističnim snimkama koje AI stvara prema naputcima korisnika, ne poštujući zakonska ograničenja i regulative.

'Ovaj problem stvorila je tehnologija'

Većina slika i snimki koje je IWF pronašao i uklonio prikazivala je generirane djevojčice koje su izgledale kao da imaju između sedam i 13 godina.

- Na tehnološkim je kompanijama odgovornost da razvijaju alate koji se ne mogu zloupotrijebiti na ovaj način. Ovaj problem stvorila je tehnologija, odnosno to što kompanije ne dizajniraju alate tako da budu sigurn, izjavila je Hannah Swirsky, voditeljica odjela za javne politike u IWF-u.

Guardian prenosi da je usluga Report Remove, koja na zahtjev uklanja eksplicitne slike s interneta, ove godine zaprimila 420 prijava djece koja su upozorila da vjeruju da su na internetu objavljene njihove slike modificirane tako da izgledaju eksplicitno. Broj prijava već je premašio 397, koliko ih je bilo zabilježeno prošle godine.

Zbog mogućnosti zloupotrebe AI alata britanska Nacionalna agencija za kriminal (NCA) i IWF savjetuju roditeljima i skrbnicima da na internetu ne objavljuju fotografije djece te da svoje profile na društvenim mrežama drže privatnima.

U Hrvatskoj još nije uvedeno u zakon

Te alate, nažalost, koristili su i učenici u Hrvatskoj, o čemu smo već pisali. U Velikoj Britaniji stvaranje eksplicitnog deepfake sadržaja proglašeno je kaznenim djelom, dok hrvatsko zakonodavstvo još mora uhvatiti korak s tehnološkim promjenama i mogućnostima za zloupotrebu koje one otvaraju. Za uvođenje tog kaznenog djela u Kazneni zakon zalažu se saborske zastupnice Marija Selak Raspudić i Ivana Kekin, s kojima smo ranije razgovarali o toj temi.

U anketnom upitniku u sklopu istraživanja PISA 2025., koje je provedeno među 15-godišnjacima iz više od 90 zemalja, čak 20 posto učenika reklo je da doživljava nasilje nekoliko puta mjesečno. Prema istraživanju, na riješenost ispita najviše je utjecalo upravo digitalno nasilje.

Na razini OECD-a tri posto učenika izjavilo je da ih je nekoliko puta mjesečno uznemirilo to što je bez njihova pristanka na internetu objavljen sadržaj o njima. U Hrvatskoj je taj udio, doduše, dvostruko manji.