Prve tužbe zbog AI pornografije: Sliku učenice sa školskog fotografiranja iskoristili da ju 'razgolite'

Mlade djevojke, od kojih su dvije maloljetne, tuže Elona Muska i njegovog Groka - program umjetne inteligencije - zbog generiranja golih i seksualnih fotografija s njihovim licima. Naime, korisnici su učitali 'normalne' fotografije učenica i pomoću umjetne inteligencije ih 'razgolitili'. Za jednu maloljetnicu iskoristili fotografiju sa školskih godišnjih fotografiranja kako bi ju seksualizirali.

U manje od dva tjedna otkako mogućnost 'razodijevanja osoba' uvedena, kreirani su milijuni eksplicitnih fotografija

Njihove umjetno generiranje gole fotografije proširile su se društvenim mrežama i grupnim razgovorima zbog čega sada traže odštetu od Muskove tvrtke koja je omogućila tu opciju u njihovoj AI aplikaciji. Kako prenosi BBC, tinejdžerice smatraju da je njegov AI omogućio generiranje dječje pornografije.

Nije poznato koliku odštetu traže, ali jedno je sigurno - traže da se ta mogućnost u Muskovom AI-u zabrani. Musk se još ranije branio da su za kreiranje takvog sadržaja krivi korisnici, a ne njegov sustav koji je omogućio tu opciju.

U manje od dva tjedna otkako mogućnost 'razodijevanja osoba' uvedena u Grok, kreirani su milijuni eksplicitnih fotografija, od kojih je najmanje 20.000 bilo od djece. Inače, kreator ove opcije je uhićen te je kod njega pronađeno stotine slika seksualnog zlostavljanja maloljetnika generiranih umjetnom inteligencijom koje su se razmjenjivane s drugim ljudima preko aplikacija za dopisivanje.

To se događa i u Hrvatskoj

Ovakve stvari događaju se i u Hrvatskoj, a priču djevojke koja je pronašla svoje gole AI generirane fotografije možete pročitati ovdje. Iz PU zagrebačke rekli su nam da žrtvama/svjedocima koji su bili izloženi takvom neprimjerenom ponašanju savjetuju da to s punim povjerenjem prijave policiji - bilo dolaskom u najbližu policijsku postaju, pozivom na telefonski broj 192, putem elektroničke pošte ili aplikacije Red button. 

Inače, Ujedinjeno Kraljevstvo proglasilo je izradu seksualnih deepfake sadržaja, odnosno sadržaja generiranih umjetnom inteligencijom, kaznenim djelom. Da se takva praksa uvede na razini cijele EU zagovara i majka Jackie Fox koja je tragično izgubila svoju kćer zbog online zlostavljanja. No, koliko je Hrvatska daleko od toga govori i činjenica da je prijedlog saborske zastupnice još u 2023. da se takve stvari reguliraju - odbijen.