U školama AI-jem izrađuju gole slike učenica, prolaze lišo: 'Hrvatski sabor je mrtav po tom pitanju'

Izrada seksualnih deepfake sadržaja u Ujedinjenom je Kraljevstvu proglašena kaznenim djelom. Već smo pisali o tome da mladići u hrvatskim školama uz pomoć umjetne inteligencije izrađuju gole slike kolegica iz razreda, a za to prolaze ‘lišo’. Saborske zastupnice Marija Selak Raspudić i Ivana Kekin složne su u tome da Hrvatska treba učiniti isto što i UK. Kod nas, upozorava Selak Raspudić, vlada divlji zapad u virtualnom prostoru, a Hrvatski je sabor mrtav po tom pitanju.

Ujedinjeno Kraljevstvo (UK) proglasilo je izradu seksualnih deepfake sadržaja, odnosno sadržaja generiranih umjetnom inteligencijom (AI), kaznenim djelom. Ovaj problem ne muči samo ‘daleke zemlje’ – događa se doslovno pred našim očima. Već smo pisali o slučaju u jednoj srednjoj školi u Hrvatskoj u kojoj su mladići uz pomoć AI-ja izradili gole slike kolegica iz razreda. Kada su se s tim problemom obratile Policijskoj upravi zagrebačkoj (PU zagrebačka), odgovor nadležne osobe bio je – imate li stariju braću koja će ‘riješiti’ problem, jer se preko policije to ne rješava. Potom smo PU zagrebačku, ali i Ministarstvo pravosuđa pitali što ako netko izradi vaše slike uz pomoć AI-ja. Rješenje ipak nije bilo u starijoj braći.

‘Predlagala sam da se uvrsti u Kazneni zakon – odbili su’

Sada smo o tome treba li Hrvatska učiniti isto što i UK razgovarali s dvjema saborskim zastupnicama – Marijom Selak Raspudić i Ivanom Kekin. Selak Raspudić je, priča nam, još u svibnju 2023. predložila donošenje rezolucije o umjetnoj inteligenciji. Tražila je tako da Hrvatski sabor regulira problematiku deepfakea te da se pronađu mehanizmi koji bi omogućili veću zaštitu u virtualnom prostoru. Kako kaže, taj je prostor u zakonskom smislu potpuno neuređen, zbog čega dolazi do česte zlouporabe umjetne inteligencije, pa je u okviru izmjena Kaznenog zakona predlagala rješenje ove problematike.

– Kada je bila rasprava o izmjenama Kaznenog zakona, tražila sam da se unesu dodatne zakonske odredbe, jer sam smatrala da su ove koje su predložene previše uopćene. Tražila sam da se takozvani deepfake, kako ga mi kolokvijalno zovemo, uvrsti u Kazneni zakon, i tu sam se vodila jednim znanstvenim prijedlogom, istraživanjem Doris Skaramuce. Ona se bavi upravo tom problematikom na Pravnom fakultetu i znanstveno se bavi regulacijom umjetne inteligencije. Međutim, oni su to odbili, izvlačeći se na to da se to može kroz neke druge zakonske mehanizme sankcionirati, ukoliko do toga dođe. Ja se s time ne slažem, objašnjava Selak Raspudić.

Tko je odgovoran za proizvodnju takvog sadržaja?

Da je nužno kreiranje seksualnog deepfake sadržaja nužno uvrstiti u Kazneni zakon sigurna je i Ivana Kekin. Tema je, kaže, ozbiljna, aktualna i duboko uznemirujuća. Smatra da bi Hrvatska trebala učiniti isto što i UK i jasno, nedvosmisleno proglasiti izradu i distribuciju seksualnih deepfake sadržaja kaznenim djelom.

– Riječ je o novom obliku seksualnog nasilja koje ostavlja stvarne i dugotrajne posljedice po mentalno zdravlje žrtava, osobito djevojčica i mladih žena. Tehnologija je nova, ali šteta je itekako stvarna. Slučajevi poput onog o kojem ste pisali na srednja.hr jasno pokazuju da postojeći pravni okvir ne prati razvoj tehnologije niti pruža učinkovitu zaštitu žrtvama. Kada se nečije tijelo i identitet koriste bez pristanka za izradu pornografskog sadržaja, to mora imati jasne kaznenopravne posljedice. U suprotnom, društvo poručuje da je takvo nasilje trivijalno ili ‘sivo područje’, kaže Kekin.

Selak Raspudić u ovom kontekstu ističe problem izrade pornografskog sadržaja odraslih ljudi, mlađih maloljetnika, ali i dječje pornografije i kažnjavanja osobe koja je odgovora za generiranje takvog sadržaja.

– Imamo ogroman problem s umjetnom inteligencijom koja generira pornografski sadržaj koristeći likove djece, problem sankcioniranja počinitelja još uvijek ostaje nejasan. Na primjer, ako to radi ChatGPT ili neki slični napredni sustav umjetne inteligencije koji ‘samo’ proizvodi sadržaj, tko je tu odgovoran? Je li to njegov originalni tvorac? Je li odgovoran onaj koji je dao input? Tu su ogromni problemi u potvrđivanju odgovornosti. A ono što je nesporno je da se omogućava ekstremno brza produkcija novog pornografskog sadržaja i njegovo dramatično širenje, što je najviše opasno kada se gradi upravo o djeci, upozorava Selak Raspudić.

‘Regulacija ostvariva, ali zahtijeva političku volju’

Naglašava da je nužno da taj problem bude zakonski prepoznat.

– Sve je još uvijek u sivoj zoni, a danas svaki laik može doći do takvih sustava i onda generirati takav sadržaj, a da nije ni svjestan koje su dugoročne posljedice takvog postupanja i po osobu koja je tu iskorištena i po njih same kao nekoga tko čini kazneno djelo. Njima je to sve nekakva igra u virtualnom prostoru za koju se smatra da prolazi bez posljedica. To djelo mora biti prepoznato kao nešto specifično da bi se onda moglo dalje sankcionirati i poslati neku poruku. Ne možemo reći da je to isto kao nešto drugo ili treće, da se može kroz nekoliko mehanizama. Mi ovdje sad imamo potpuni divlji zapad u tom virtualnom prostoru. Nitko se time ne bavi. Hrvatski Sabor je jako mrtav po tom pitanju, zaključuje Selak Raspudić.

Kekin smatra da je regulacija ostvariva, ali zahtijeva političku volju i razumijevanje da digitalno nasilje nije sporedna tema, nego jedno od ključnih pitanja zaštite djece i mladih danas. Hrvatska već sada ima obvezu, dodaje, i prema vlastitim građanima i prema međunarodnim standardima, da zakonodavno reagira na nove oblike zlostavljanja koji se odvijaju online.

– Ako želimo ozbiljno govoriti o zaštiti djece i mladih u digitalnom prostoru, onda kriminalizacija seksualnih deepfake sadržaja nije radikalan, nego nužan i razuman korak, zaključuje Kekin.