Kopal: Uz benefite AI-ja moramo govoriti i o rizicima

Pravna stručnjakinja i osnivačica Hrvatske udruge za umjetnu inteligenciju Marijana Šarolić Robić, rekla je kako ovo nije nešto ad hoc i da se na tome radi od travnja 2018. godine.

– Europska unija na tome radi jako intenzivno. Godine 2021. je izbačen prvi prijedlog teksta tzv. zakona. Mi ga zovemo kolokvijalno zakon zato što će se izravno primjenjivati u svim državama članicama Europske unije, a zapravo je riječ o uredbi koja ima izravnu primjenu o umjetnoj inteligenciji. Jučer je, nakon tog procesa koji je jako dugo i mučno razvijan kroz tijela Europske unije, nakon dogovora koji je postignut lani na Svetog Nikolu, prvi put prošao kroz odbore za unutarnje tržište i građanske slobode. Sada se očekuje da će na plenumu Europskog parlamenta od 11. do 13. travnja biti izglasan i postupno krenuti u primjenu kroz šest mjeseci za jedan dio odredbi i onda kasnije kroz nekih dvije godine ostatak priče, rekla je.

Istaknula je kako je veliki izazov kako će se to tumačiti, interpretirati. Definicija je uvijek samo definicija.

– Ostaje za vidjeti kako će taj AI office, odnosno ured za umjetnu inteligenciju koje će biti krovno tijelo na razini EU-a, tumačiti što spada u područje primjene. Od početka je ta uredba pisana na taj način da su stvari poput društvenog vrednovanja apsolutno zabranjene. Biometrija je isto zabranjena u načelu, iako je dopuštena u vojne odnosno policijske svrhe. Bit će jako zanimljivo vidjeti kako će taj zakon umjetne inteligencije izdržati test vremena, istaknula je Šarolić Robić.

Na pitanje može li umjetna inteligencija utjecati na ishod izbora znanstvenik sa Sveučilišta Effectus Robert Kopal rekao je da može, te naveo slučajeve Cambridge Analytica, te priče oko američkih izbora i Brexita.

– Ja sam apsolutni zagovornik Europske uredbe i još sam veći zagovornik definicije. Došlo je do jednog zaokreta, od inicijalne definicije. Ima jedna zanimljiva stavka u toj definiciji OECD-a, a to je da input koji je prije bio human input, sada se ne navodi da je human input. Ako nije human input specifično naveden, to znači da je moguće da je, mašinski input. To znači da bi se moglo dogoditi, a imamo slučajeve dokumentirane od strane UN-a, da imate autonomne dronove. I to “full autonomous drones”. To znači da u slučajima ratovanja imate nezgodnu situaciju – dron koji leti apsolutno sam odlučuje na, pa recimo taktičko-strateškoj razini, kada će se angažirati. Ja bih bio puno mirniji i sretniji, i kao znanstvenik ili kao netko tko se bavi ovim niz godina, da je ovaj Akt već u funkciji i da nemamo dvije godine pripreme, zato što bi onda ova super izborna godina puno manje bila rizična u smislu mogućih utjecaja na izbore. Poznato je da je Cambridge Analytica djelovala u 68 država. Poznato je da se radi o odljevu nekih 87 milijuna osobnih podataka, poznato je da su radili psihografske profile i nažalost, danas umjetna inteligencija u kombinaciji sa dezinformacijama ima nevjerojatnu skalabilnost. Ljudi nemaju taj kapacitet da postignu tu skalabilnost. Također imaju veliku brzinu dosega, nevjerojatan omjer cost benefit, i što je najnezgodnije, nevjerojatnu mogućnost političkog mikrotargetiranja. To su najveće opasnosti, istaknuo je Kopal.

Osnivač prvog hrvatskog inkubatora za umjetnu inteligenciju, Dražen Oreščanin rekao je da se mogućnosti umjetne inteligencije da manipulira biračima neiscrpne. 

– Dva su glavna načina, ovo što je radila Cambridge Analytica, zloupotreba osobnih podataka, mikrotargetiranje. A drugi je fake news i generirani videi koji su lažni. Na taj način se može napraviti nešto što bi trebalo izgledati kao stvarno, što bi trebalo biti dio političke kampanje. Ali isto tako se mogu generirati neki kompromitirajući sadržaj koji su u stvari potpuno nepostojeći i izmišljeni koji će tvoje političke oponente diskreditirati, rekao je.

– Umjetna inteligencija je toliko napredna da kada vi vidite neku fotografiju koja je generirana od strane umjetne inteligencije ili neki video ili audio, to izgleda i zvuči potpuno stvarno i običan gledatelj golim okom ili uhom teško može vidjeti razliku. Te stvari su vrlo opasne i one spadaju u dio zabranjenih, istaknuo je.  

Dodao je i da su definirane vrlo velike i rigorozne kazne.

– To ne znači da nitko to neće probati raditi, ali oni koji budu uhvaćeni bit će vrlo rigorozno kažnjeni, rekao je Oreščanin.

Marijana Šarolić Robić istaknula je kako oni kad govore o uredbi misle samo na Europsku uniju i da ostatak svijeta nije zahvaćen Zakonom o umjetnoj inteligenciji.

– Kina je jako regulirana, oni svaki tjedan izbace novi zakon. Paralela s GDPR-om je jako dobra, jer Europa je time postavila zlatni standard i druge zemlje su onda hoće-neće, jer su htjele doći do nas kao potrošača, emulirale te standarde. Neki od njih su još rigorozniji nego mi, rekla je i istaknula da će izazov biti vidjeti jesu li dobro regulirali.

– Građani moraju biti svjesni da sadržaj koji dolazi na njihove ekrane nije nužno sadržaj koji je generiran u EU-u, a oni ih svjesno puštaju u svoj svijet, poput TikToka. Jako je dijabolična ta cijela priča s TikTokom. Na primjer, on je potpuno zabranjen kod korištenja institucijama EU-a, ali oni su sada pokrenuli europsku parlamentarnu kampanju na TikToku. Prosječan čovjek nije upoznat sa svim rizicima. I tu je uloga medija iznimno važna, rekla je.

Na pitanje koliko je to regulirano u Hrvatskoj, rekla je kako nije uopće.

– Mi smo dio Europske unije i sudjelujemo u onoj mjeri u kojoj sudjeluju sve zemlje Europske unije. Nema posebne inicijative. Mi smo pokušavali davno kroz HUP cijelu priču sa strategijom umjetne inteligencije podići na jednu razinu kroz udrugu Hrvatsku za umjetnu inteligenciju, ali nažalost, nije bilo sluha od strane naše vlade, rekla je.

– Bilo bi dobro da smo imali barem nekakve natruhe, početne standarde dobro prihvatljivog ponašanja koje bi se same kompanije obvezale na takvo ponašanje, pa bi onda ovaj šok koji će uslijediti nakon stupanja na snagu u travnju ove godine bio manji, jer bi već neke dobre poslovne prakse bile ustanovljene. Ovako će velika količina resursa biti potrošena opće za shvatiti što se događa, koje su moje obveze. To je u samom uvodu zakona već u prvom prijedlogu prepoznato kao desetci tisuća eura godišnje na razini jedne kompanije, naglasila je.

Kopal se osvrnuo i na odnos Hrvata prema umjetnoj inteligenciji.

– Ljudi su zabrinuti, zabrinuti su i za svoje radna mjesta. S druge strane koriste alate, međutim pretežno u privatne svrhe, a ne u poslovne svrhe. Ali zanimljivo je da se najveći broj odgovora, čak oko 50 posto, kreće da nije niti da, niti ne, nego ne znam ili nisam još zauzeo stav. Građani Hrvatske trenutno se pozicioniraju što se tiče mišljenja umjetne inteligencije, rekao je, ali i naglasio:

– Apsolutni sam zagovornik umjetne inteligencije, ali mislim da uz benefite moramo istovremeno govoriti i o rizicima.