Prvi globalni summit o sigurnosti umjetne inteligencije održat će se u zamku u jugoistočnoj Engleskoj, onome u kojemu je matematičar Alan Turing uspio dekodirati legendarni nacistički stroj za slanje šifriranih poruka Enigma. Simbolika je i te kako prisutna, jer upravo je Turing u jednom svom radu opisao kako identificirati umjetnu inteligenciju. Njezini prvi koncepti nastali su netom nakon Drugog svjetskog rata. Sedamdesetak godina poslije Europska unija na pragu je donošenja prvog zakona na svijetu koji će regulirati umjetnu inteligenciju i upravljati rizicima koji su uz nju povezani. Nacrt teksta zakona u Europarlamentu je prihvaćen velikom većinom glasova sredinom lipnja. Trenutačno traje trijalog s Europskom komisijom i Vijećem EU-a tj. zemljama članicama. Pregovori bi trebali biti dovršeni do kraja godine, jedan je to od prioriteta španjolskog predsjedanja Unijom. Želja je da s tim zakonom EU bude svjetski prvak u digitalnoj inovaciji, uz istovremeno poštovanje privatnosti i ljudskih prava. Ali i jačanje pravila o kvaliteti podataka, transparentnosti, ljudskom nadzoru umjetne inteligencije i odgovornosti.

„Taj zakon neće utjecati na europsku konkurentnost. Način je to da generativnu umjetnu inteligenciju poput ChatGPT-ja osnažimo i omogućimo joj napredak, a da bude kompatibilna s demokracijom. Naši građani, potrošači i poslovna zajednica moraju nam vjerovati da smo stvorili sustav mjera koje mogu identificirati stvarne rizike. Ne opterećujući umjetnu inteligenciju nepotrebnim provjerama kada to nije potrebno, ali čineći ozbiljnu procjenu o usklađenosti kada postoji visok sigurnosni rizik i onaj vezan uz temeljna ljudska prava. Imali smo snage zabraniti one uporabe umjetne inteligencije za koje mislimo da su suprotne europskim vrijednostima“, objasnio je Talijan Brando Benifei, jedan od dvojice izvjestitelja Europarlamenta kada je u pitanju izvješće o Aktu o umjetnoj inteligenciji, iz Kluba zastupnika Progresivnog saveza socijalista i demokrata.

„Moramo pronaći finu ravnotežu između nastavka osnaživanja našeg privatnog sektora i startupova koji razvijaju proizvod te pravih jamstava za naše građane, koji se moraju osjećati sigurnima dok koriste umjetnu inteligenciju. Sa zakonom o umjetnoj inteligenciji moramo započeti raspravu o tome u kakvoj vrsti društva želimo živjeti“, ukazala je prodorna bugarska europarlamentarka Eva Maydell iz Kluba zastupnika EPP-a, koja je među prvima u Europskom parlamentu krenula s propitivanjem tehnoloških izazova modernog društva.

‘Imali smo snage zabraniti one uporabe umjetne inteligencije za koje mislimo da su suprotne europskim vrijednostima’, objasnio je Talijan Brando Benifei, izvjestitelj Europarlamenta o AI-u. FOTO: Marc DOSSMANN/EP

Nacrt zakona sastavljen je po principu piramide rizika određenih vrsta primjene umjetne inteligencije. Piramida se sastoji od četiri razine. Na vrhu je ona neprihvatljivog rizika, podrazumijeva zabranu. Primjer je društveno bodovanje kakvome svjedočimo u Kini. Kod one visokog rizika nema zabrane, ali će prije izlaska na europsko tržište biti nužno podnošenje zahtjeva usklađenosti. I dokazivanje transparentnosti tehnologije. Visokorizična kategorija odnosi se na razvoj djeteta, obrazovanje, zdravstvo, zapošljavanje, pravosuđe, kritičnu infrastrukturu, demokraciju… Sustavi poput ChatGPT-ja spadat će u kategoriju s posebnim mjerama transparentnosti.

„Kada je Europska komisija objavila svoj nacrt zakona 2021., nitko nije očekivao da će se generativna umjetna inteligencija poput ChatGPT-ja ili DALL-E-ja tako brzo toliko proširiti. ChatGPT se može koristiti za pisanje rođendanske čestitke prijatelju ili pokretanje kampanje dezinformiranja u politici. Prvo predstavlja mali ili nikakav rizik, drugo je izuzetno rizično. Što to onda znači za razinu rizika ChatGPT-ja? Očito može podržati oboje, i rizične i nerizične aplikacije“, propituje briselsku strategiju Johann Laux s Internetskog instituta Sveučilišta Oxford, koji trenutačno istražuje učinkovito provođenje ljudskog nadzora nad automatiziranim donošenjem odluka, a radi i na projektu upravljanja tehnologijama u nastajanju.

Prema nacrtu zakona prihvaćenom u europarlamentarnim klupama, korisnici će ubuduće morati biti obaviješteni o tome komuniciraju li s chatbotom tj. računalnim programima za razgovor ili gledaju li tzv. deepfake, proizvod uvjerljive računalne manipulacije slikom, videom ili zvukom…

‘Moramo moći koristiti naprednu tehnologiju prema strogo utvrđenim pravilima jer je prvih nekoliko sati nakon takvih događaja ključno za pronalazak počinitelja’, kaže europarlamentarka Eva Maydell. FOTO: Fred MARVAUX/EP

„Ako se generativna umjetna inteligencija koristi u kontekstu visokorizičnih slučajeva, morat će se uskladiti s općim pravilima o visokom riziku. I sustavi koji stoje iza nje moraju se podvrći pravilima EU-a. Ne želimo da odgovornost padne na teret institucija i tvrtki koje koriste umjetnu inteligenciju. To mora biti zadaća onih koji je razvijaju. Mora postojati uravnotežen lanac odgovornosti. Kod država članica Unije uočio sam veliki interes za regulaciju, mislim stoga da će stav Europarlamenta u velikoj mjeri dobiti podršku u tripartitnim pregovorima“, optimističan je Benifei. I umjetna inteligencija opće namjene, tzv. temeljni modeli, kao i sustavi poput ChatGPT-ja, morat će biti registrirani u bazi podataka EU-a.

„Od pružatelja tzv. temeljnih modela nećemo tražiti ništa nerazumno. Strategija za njih oslanja se na tri postavke – procjena i ublažavanje mogućih rizika, mjere odgovarajućeg upravljanja podacima i testiranje performansi, sigurnosti te popratnih razina kibernetičke sigurnosti“, definira stvari Maydell, naglašavajući da je predviđeno stvaranje tzv. regulatornih pješčanika, u kojima će tvrtke u kontroliranom okruženju isprobavati nove usluge bez straha od kazne.

Jer oni koji se ne budu pridržavali EU-ovih zakona o umjetnoj inteligenciji mogu biti kažnjeni s do 30 milijuna eura ili šest posto globalnog prihoda, što u slučaju tehnoloških divova poput Microsofta ili Googlea može značiti milijarde. Prema nekim procjenama, veličina tržišta umjetne inteligencije do 2030. bit će inače 110,8 milijardi američkih dolara…

Tržište umjetne inteligencije do 2030. bit će 110,8 milijardi američkih dolara, a kazne zbog zloporabe za tehnološke divove poput Microsofta ili Googlea bile bi ogromne

„Tvrtke će imati ekonomski interes za prodaju svoje umjetne inteligencije na tržištu EU-a. Zbog toga Unija ima razloga vjerovati da će Zakon o umjetnoj inteligenciji imati tzv. briselski učinak, kao i u slučaju GDPR-a. Američki programer može se odlučiti na pridržavanje odredbi tog zakona jer će htjeti svoj proizvod prodati u Europi. A i zato što je učinkovitije slijediti samo jedan regulatorni režim“, pojašnjava Laux.

U Europarlamentu je prije konačnog glasovanja bilo itekakve ideološke borbe, ne samo oko definicije umjetne inteligencije. U konačnici je odbijen amandman pučana da se biometrijska identifikacija u realnom vremenu na javnim prostorima ipak primijeni u dvama iznimnim slučajevima – kada je nestalo dijete i policija za njim traga te kada je riječ o potrazi za teroristima nakon terorističkog napada (povjerenica Vestager poručuje inače da Komisija i dalje podupire te dvije iznimke, uključila ih je u svoj prijedlog zakona). Takva uporaba umjetne inteligencije potpuno je zabranjena.

„Pučani u Europskom parlamentu usprotivili su se potpunoj zabrani koju je predlagala naša politička obitelj. U tome smo bili nepokolebljivi. Jer riječ je o mogućem instrumentu društvene kontrole, riziku od nadgledanja i kršenju temeljnih prava pojedinaca. Europarlament mora u toj priči zauzeti jaku poziciju u pregovorima s Europskim vijećem. Podaci koje bismo dobili uporabom takvih tehnologija nisu toliko bitni za progon kriminala, ali podrazumijevaju skandale sa zloporabom osobnih podataka i špijuniranjem ljudi. Uspjeli smo izbjeći bilo kakav rizik masovnog nadgledanja. Istovremeno smo zadržali mogućnost biometrijske identifikacije uz dobivanje nužnog sudskog naloga, a kako bismo gonili kriminalce“, iscrpno obrazlaže stav socijalista Brando Benifei, dodajući da su zabranjeni i algoritmi za emocionalno prepoznavanje, koji bi poslodavcu ili policiji mogli otkriti umornog radnika ili vozača, kao i prediktivni policijski sustavi, koji se temelje na profiliranju pojedinaca.

‘Zakon mora biti otporan na sve što budućnost donosi. Visokorizičan će nesumnjivo uvijek biti sustav umjetne inteligencije koji se koristi za utjecaj na birače i ishod izbora’

„Europski parlament u prošlosti se već izjašnjavao oko biometrijskog prepoznavanja na daljinu, u sklopu nekih drugih zakona koji su usvojeni. Riječ je, međutim, o svojevrsnoj niši s naglašenim građanskim slobodama. Pučani su uvijek bili protiv društvenog bodovanja i masovnog nadgledanja, ali vjerujemo da se biometrijska identifikacija na daljinu može koristiti u iznimnim slučajevima, onima s nestalom djecom ili nakon terorističkog napada. Tada moramo biti u mogućnosti koristiti naprednu tehnologiju prema strogo utvrđenim pravilima, budući da su prvih nekoliko sati nakon takvih događaja ključni za pronalazak počinitelja“, kazuje Eva Maydell o dijametralno suprotnom stavu od onog Benifeija, uz opasku da će se kod problematike migracija i upravljanja granicama umjetna inteligencija promatrati kao visokorizična aplikacija, što za sobom povlači obvezu transparentnosti i procjene utjecaja na temeljna ljudska prava.

„Iako je cilj Zakona o umjetnoj inteligenciji izričita zaštita temeljnih prava građana EU-a, on nije instrument za zaštitu ljudskih prava. Mnogo će ovisiti o tome kako će sudovi tumačiti taj zakon s obzirom na temeljna prava i hoće li u njegovoj konačnoj verziji biti uglavljena i prava pojedinca. Ono što zakon pokušava jest povećati stupanj vjerodostojnosti umjetne inteligencije. Hoće li građani doista vjerovati njezinim sustavima ili ne, vjerojatnije će odrediti to jesu li i koliko često svjedočili tome da sustavi umjetne inteligencije ne uspijevaju. Povjerenje je teže steći nego izgubiti“, upozorava Johann Laux.

Zakon mora biti otporan na sve ono što budućnost donosi, pa će sadržavati pravne mehanizme za jednostavnije i brže modificiranje popisa kategorija rizika. Visokorizičan će nesumnjivo uvijek biti sustav umjetne inteligencije koji se koristi za utjecaj na birače i ishod izbora. Takvi su sustavi dozvoljeni, ali prolaze rigorozno testiranje i podrazumijevaju iscrpnu dokumentaciju o kvaliteti podataka. Cilj je zaustaviti uplitanje umjetne inteligencije u demokratske i izborne procese u Uniji, pri čemu se ona koristi kao poluga hibridnih utjecaja na javnost članica EU-a. Sedamdeset i jedan posto ljudi koji žive u demokracijama glasovat će inače na parlamentarnim izborima do kraja sljedeće godine, uključujući i građane Unije…

‘Zakon pokušava povećati stupanj vjerodostojnosti umjetne inteligencije’, rekao je Johann Laux, profesor s Oxforda. FOTO: Privatna arhiva

„Mislim da postoji velika opasnost da nadolazeći izbori diljem svijeta budu izloženi kampanjama dezinformacija uz pomoć ChatGPT-ja i drugih oblika generativne umjetne inteligencije“, ne ostavlja mjesta dvojbi Laux.

„Često se u Europarlamentu fokusiramo na jedan članak, jednu riječ, jedan paragraf. S pravom, to je naš posao. Ali u konačnici demokratsko društvo mora izabrati principe prema kojima će se tehnologija razvijati. Europski je pristup da to učini na pouzdan i siguran način, poštujući svoje vrijednosti. To znači da sve članice Unije i njihova demokratska društva moraju poštivati te principe. Moramo se pobrinuti da se tehnologija ne upliće u naše najbitnije demokratske postulate, poput izbora. Jako sam zabrinuta zbog aktualnog trenda jačanja dezinformacija, koje imaju potencijal za još brži razvoj i još veći zamah tijekom sljedećih mjeseci“, sumira Maydell, inzistirajući da je od 1. rujna, kada je stupio na snagu, od velike pomoći u toj borbi EU-ov zakon o digitalnim uslugama.

Zasad je prijedlog da provedba europskog zakona o umjetnoj inteligenciji krene dvije godine nakon njegova usvajanja, zbog usklađivanja s regulativom. Do kraja ove godine izvještaj o globalnom upravljanju umjetnom inteligencijom podastrijet će, pak, poseban savjetodavni odbor koji je osnovao glavni tajnik UN-a. U svom obraćanju na prvoj sjednici Vijeća sigurnosti koja se bavila umjetnom inteligencijom, António Guterres slikovito je poručio kako je tiskanim knjigama trebalo više od pola stoljeća da se prošire Europom nakon otkrića tiskarskog stroja, a da je ChatGPT u samo dva mjeseca od izlaska na tržište dopro do 200 milijuna korisnika. Nužno je stoga postići globalni konsenzus oko potencijala, ali i rizika koje donosi umjetna inteligencija. I donijeti možda najbitniji zakon današnjice.

Do kraja ove godine izvještaj o globalnom upravljanju umjetnom inteligencijom podastrijet će poseban savjetodavni odbor koji je osnovao António Guterres, glavni tajnik UN-a. FOTO: Marko Picek/PIXSELL