Akt o umjetnoj inteligenciji i Akt o digitalnim uslugama i digitalnom tržištu samo su dio novog regulatornog okvira EU-a, a što ti propisi donose, tumači redovita profesorica na Katedri za građansko pravo Pravnog fakulteta u Zagrebu

Sasvim je izvjesno da su i politika i pravo digitalnog tržišta na prekretnici. Zato je sasvim legitimno pitanje što donosi novi europski regulatorni okvir, cijeli niz novih direktiva, aktova i uredbi kojima se EU odredio prema novim izazovima jedinstvenog digitalnog tržišta. Što zapravo donosi digitalno doba, koliko je Europa za njega spremna te što je u naravi novih propisa o jedinstvenom digitalnom tržištu, pitali smo dr. sc. Tatjanu Josipović, redovitu profesoricu na Katedri za građansko pravo Pravnog fakulteta Sveučilišta u Zagrebu. Posebno smo htjeli saznati što sadrži digitalna strategija EU-a za desetljeće koje je nazvala „digitalnim desetljećem Europe“.

Profesorica Josipović nedavno je priredila vrlo zanimljivu prezentaciju za potrebe stručnog skupa Međunarodne trgovačke komore i Hrvatske gospodarske komore. Ta prezentacija bila nam je povod da u širem razgovoru s profesoricom Josipović ispitamo kakvo mjesto u novoj globalnoj europskoj strategiji imaju Akt o upravljanju podacima, Akt o interoperabilnoj Europi, Akt o digitalnim uslugama i digitalnom tržištu, što donosi Europski digitalni identitet i posebno pravno, društveno i na druge načine osjetljiv Akt o umjetnoj inteligenciji. I ne manje važno, kojim će pravnim sredstvima Europa osigurati prosperitetniju, efikasniju i zdraviju digitalnu budućnost svojih građana.

Business&Banking: Što Europi donosi jedinstveno digitalno tržište i je li Europa i kojim dijelom spremna za digitalno doba?

Na europskom digitalnom tržištu nude se novi proizvodi i usluge, različiti digitalni sadržaji i digitalne usluge. Razvijaju se novi oblici imovine kao npr. kriptovalute, digitalna ostavina, novi ugovorni odnosi u kojima sve dominantniju ulogu imaju online platforme. Umjetna inteligencija sve se više koristi u procesima digitalne transformacije poslovanja i u automatizaciji poslovnih procesa i javnih usluga. Intenzivno se razvija jedinstveno tržište podataka. Istovremeno s digitalnom tranzicijom provodi se i zahtjevna zelena tranzicija usmjerena na obnovljive izvore energije, energetsku učinkovitost i energetsku neovisnost. Digitalizacija donosi sudionicima na tržištu brojne prednosti. Ponuda proizvoda i usluga je raznolikija i dostupnija, poslovanje je brže i efikasnije, pristup digitaliziranim javnim uslugama jednostavniji je i ostvariv i prekogranično. Očekuje se da bi ostvarivanje europskih planova digitalizacije za 2030. godinu moglo donijeti gospodarsku vrijednost u iznosu većem od 2,8 bilijuna eura.

‘Europski planovi digitalizacije za 2030. mogli bi donijeti gospodarsku vrijednost veću od 2,8 bilijuna eura’

Međutim, uz brojne prednosti, digitalizacija tržišta dovodi i do specifičnih rizika za sudionike za tržištu. Ponajprije, riječ je o povredi temeljnih ljudskih prava, prava potrošača te manjih i srednjih poduzeća. Razvijaju se novi oblici diskriminacije na temelju državljanstva karakteristični za digitalno tržište. Zato je na jedinstvenom online digitalnom tržištu potrebno osigurati vrijednosti na kojima se temelji Europska unija na drugačiji način no što je to slučaj na tradicionalnom offline tržištu na kojem je socijalno tržišno gospodarstvo utemeljeno na slobodnom kretanju robe, osoba, usluga i kapitala, vladavini prava i poštivanju ljudskih prava. Regulatorni okvir kojim je Europska unija do sada uređivala pravne odnose na offline tržištu više nije dovoljan za regulaciju svih novih aspekata digitalnog poslovanja i ostvarivanje europske digitalne strategije. Pojedincima i poduzećima potrebno je osigurati neometani pristup aktivnostima na internetu i njihovo obavljanje u uvjetima poštenog tržišnog natjecanja bez obzira na državljanstvo, mjesto boravišta ili sjedište poslovanja. Sudionike na digitalnom tržištu potrebno je posebno zaštititi u slučajevima dominantnog položaja platformi. Zaštita potrošača morala bi biti efikasnija i jača. Za zaštitu temeljnih prava potrebni su novi pravni instrumenti. Katalog temeljnih prava potrebno je čak i proširiti novim ljudskim pravima koja je potrebno štititi u digitalnom okruženju.

Business&Banking: Zašto je potreban novi europski regulatorni i pravni okvir kad je u pitanju digitalno tržište?

Novim regulatornim okvirom trebali bi se osigurati preduvjeti za efikasnu digitalnu transformaciju i uspješno poslovanje na digitalnom tržištu, ali i očuvanje svih europskih vrijednosti i uspostavljanje visokih standarda zaštite svih sudionika na tržištu. To ne zahtijeva samo nove zakonodavne akte za digitalno tržište, već i provođenje brojnih reformi na razini Unije i država članica. Do sada su na razini Europske unije ostvareni značajni rezultati u svim područjima važnim za razvoj digitalnog tržišta. Ipak, da bi se potpuno ostvarili europski digitalni ciljevi, digitalna transformacija i provedba reformi morali bi biti još intenzivniji. Donošenje zakona važnih za uspostavu transparentnog i usklađenog regulatornog okvira za digitalno tržište, trebalo bi biti jednostavnije i brže, a njihova implementacija u državama članicama potpuna i efikasna. Uspostava jedinstvenog europskog digitalnog tržišta zahtijeva suradnju tijela Europske unije i država članica, sustavni i multidisciplinarni pristup u pripremi europskog zakonodavstva važnog za razvoj i funkcioniranje socijalno pravednog digitalnog tržišta te za učinkovitu provedbu socijalnih, pravnih, gospodarskih, financijskih reformi koje zahtijeva digitalizacija.

‘Potiče se podatkovni altruizam – stavljanje vlastitih podataka na raspolaganje u društveno korisne svrhe’

Business&Banking: Što sadrži digitalna strategija EU-a za „digitalno desetljeće Europe“ i koji su akti EU-a za nju važni? Koje će benefite donijeti EU-ova digitalna strategija?

Europska komisija proglasila je ovo desetljeće digitalnim desetljećem Europe i definirala digitalne ciljeve za 2030. godinu. Planovi su vrlo ambiciozni. Do 2030. godine planiraju se razvoj osnovnih digitalnih vještina za 80 posto stanovnika Unije, zapošljavanje 20 milijuna IT stručnjaka s podjednakim udjelom žena i muškaraca, digitalna transformacija u 75 posto poduzeća u EU-u, uspostava sigurne i održive digitalne infrastrukture, potpuna digitalizacija ključnih javnih usluga, pristup za 100 posto građana medicinskoj dokumentaciji na internetu i digitalnim identifikacijskim sredstvima. Prema Izvješću Komisije o stanju digitalnog desetljeća za 2023. godinu, u pogledu pojedinih digitalnih ciljeva ostvareni su značajni rezultati iako je naglašena potreba za znatnim ubrzanjem i jačanjem djelovanja EU-a i država članica. U pogledu digitalnih vještina ostvareno je 68 posto ciljeva, a digitalnih javnih usluga za građane 77 posto zacrtanih ciljeva. U pogledu razvoja digitalne infrastrukture i pokrivenosti 5G mrežom ostvareno je do sada 81 posto ciljeva. Digitalna transformacija malih i srednjih poduzeća ostvarena je 77 posto.

Radi provedbe digitalne strategije na razini Europske unije su u posljednjih nekoliko godina doneseni brojni propisi kojima se uređuju različiti aspekti digitalnog tržišta, od digitalnih usluga, čipova, kriptovaluta, preko upravljanja podacima i zaštite osobnih podataka, do najnovijeg europskog Akta o umjetnoj inteligenciji. Radi se o europskim zakonodavnim aktima u obliku uredbi koje se izravno i jednako primjenjuju na području cijele Unije. Izravnom primjenom uredbi koje uređuju digitalno tržište osiguravaju se za sve sudionike na tržištu isti standardi i pravni instrumenti zaštite na cijelom području Unije. Države članice pritom imaju posebnu odgovornost za pravilnu provedbu europskih uredbi, naročito u pogledu osiguranja efikasne pravne zaštite pred nacionalnim sudovima i primjerenih i proporcionalnih sankcija za povrede obveza propisanih uredbama.

‘U digitalnoj ekonomiji podaci imaju posebnu vrijednosti i ključni su resurs za razvoj, ali ključno je i uvažavanje temeljnog prava na zaštitu osobnih podataka i prava na privatnost’, kaže Tatjana Josipović. FOTO: Saša Zinaja/NFOTO

Business&Banking: Koje se uredbe za uspostavu paketa digitalnog tržišta izdvajaju po svojoj važnosti?

U okviru europskog zakonodavnog paketa za digitalno tržište posebno se izdvaja nekoliko uredbi važnih za uspostavu europskog jedinstvenog tržišta podataka i ostvarenje europske strategije za podatke. U digitalnoj ekonomiji podaci imaju posebnu vrijednosti i ključni su resurs za razvoj. Oni su svojevrsno posebno „gorivo“ za razvoj digitalnog tržišta čijim se korištenjem mogu poboljšati zdravstvena skrb, prometni sustavi, stvoriti novi proizvodi i usluge, smanjiti troškovi javnih usluga, povećati energetska učinkovitost. Razvoj digitalnih proizvoda i digitalnih usluga povezanih s internetom povećao je potencijalnu vrijednost podataka za potrošače, poduzeća, ali i za društvo u cjelini. Radi se o visokokvalitetnim podacima iz različitih područja koji se, bez gubitka količine i kvalitete, mogu ponovo upotrijebiti u različite svrhe radi povećanja konkurentnosti, inovacija i razvoja održivog gospodarskog rasta. Projekcije su da će se do 2025. godine globalna količina podataka povećati na 175 zetabajta, što je u usporedbi s 2018. godinom povećanje od 530 posto, dok će se vrijednost podatkovnog gospodarstva povećati s 301 na 829 milijardi eura tj. 2,8 puta. Zbog toga je bilo potrebno na razini Unije otkloniti prepreke funkcioniranju unutarnjeg tržišta podataka, ali uz istovremeno maksimalno uvažavanje temeljnog prava na zaštitu osobnih podataka i prava na privatnost, uređenih posebnim europskim aktima poput Opće uredbe o zaštiti osobnih podataka. Različitim uredbama uređuje se usklađeni okvir s jasnim i poštenim pravilima o upravljanju i pristupu podacima, o ponovnoj uporabi podataka, infrastrukturi za pohranu i obradu podataka te o razmjeni podataka unutar Unije. Cilj je otkloniti prepreke dijeljenju podataka i omogućiti optimalnu raspodjelu podataka u korist društva.

Aktom o upravljanju podacima iz 2022. godine olakšava se dobrovoljna razmjena podataka u korist poduzeća i građana na pouzdan i siguran način te ojačavaju mehanizmi za povećanje dostupnosti podataka. Uređuje se ponovna uporaba javno pohranjenih i zaštićenih podataka poticanjem razmjene podataka reguliranjem novih posrednika u području podataka i poticanjem razmjene podataka u altruističke svrhe. Građane i poduzeća potiče se na dobrovoljno stavljanje na raspolaganje svojih podataka u društveno korisne svrhe te njihovo korištenje u javnom interesu. Time se potiče podatkovni altruizam. Ciljevi tog akta su mnogobrojni. Primjerice, industrijama se želi omogućiti razvoj novih proizvoda i usluga, gospodarski sektor učiniti učinkovitijim i održivijim, želi se potaknuti razvoj sustava umjetne inteligencije, poboljšati personalizirano liječenje i pružanje bolje zdravstvene skrbi, osigurati efikasna borba protiv klimatskih promjena te uspostaviti efikasna javna uprava. Za države članice sve to donosi nove izazove: potrebu odgovarajuće tehničke opremljenosti, poštivanje privatnosti i povjerljivosti podataka, najčešće anonimizacijom podataka, uspostavu efikasnih mehanizama pribavljanja suglasnosti vlasnika podataka te uspostavu jedinstvene informacijske točke za informiranje potencijalnih korisnika o tome koje podatke posjeduju javna tijela.

‘Katalog temeljnih prava potrebno je čak i proširiti novim ljudskim pravima koja treba štititi u digitalnom okruženju’

Aktom o podacima iz 2023. godine također se različitim mjerama u cilju uspostave jedinstvenog tržišta podataka osigurava veća dostupnost podataka u korist poduzeća, građana i javnih uprava te se uspostavljaju jasna pravila o dopuštenoj uporabi podataka, dobrovoljnom sklapanju pravednih ugovora o razmjeni podataka, zaštiti od nepoštenih ugovornih odredbi u ugovorima o razmjeni podataka, pristupu podataka koji su nastali uporabom određenog proizvoda (npr. u slučaju povezanih uređaja u okviru interneta stvari) te njihovoj uporabi i dobrovoljnom dijeljenju s trećim osobama.

Aktom o interoperabilnoj Europi iz 2024. godine olakšavaju se prekogranična suradnja i razmjena podataka u javnom sektoru i međusobno povezivanje digitalnih javnih usluga kad je potrebna prekogranična razmjena podataka (npr. razmjena podataka radi priznavanja stručnih kvalifikacija, pristup podacima o socijalnom osiguranju i zdravstvenim podacima, povezivanje trgovačkih registara, razmjena informacija povezanih s oporezivanjem i sl.). Upravo je to jedan od ključnih digitalnih ciljeva do 2030. godine. Procjena je da će se na godišnjoj razini tako uštedjeti pet milijardi eura. Ključna mjera je uspostava portala interoperabilne Europe kao jedinstvene kontaktne točke za poticanje dijeljenja i ponovne uporabe podataka za tijela javnog sektora, institucije i tijela Europske unije. Takav će pristup osigurati efikasno prekogranično pružanje javnih usluga.

‘Do 2030. planira se zapošljavanje 20 milijuna IT stručnjaka s podjednakim udjelom žena i muškaraca’

Business&Banking: Kako će se umjetnoj inteligenciji osigurati pravni okvir za uspostavu cjelovite zdravstvene zaštite, sigurnijeg prometa i održive energije?

Akt o umjetnoj inteligenciji (2024) najnoviji je zakonodavni akt donesen u okviru provedbe europske digitalne strategije. Radi se o vrlo opsežnom aktu koji uređuje uvođenje umjetne inteligencije radi poboljšanja funkcioniranja unutarnjeg tržišta tako da se istodobno osigurava visoka razina zaštite zdravlja, sigurnosti i temeljnih prava Europske unije, uključujući demokraciju, vladavinu prava i zaštitu okoliša, kao i zaštitu od štetnih učinaka sustava umjetne inteligencije. Glavna je svrha Akta osigurati primjenu umjetne inteligencije na unutarnjem tržištu tako da se ne ugrožavaju zdravlje, sigurnost, temeljne vrijednosti i temeljna prava Unije. Aktom se usklađuju pravila o stavljanju na tržište, stavljanje u uporabu i korištenje sustava UI-ja od javnih i privatnih osoba kad se sustav UI-ja stavlja na tržište Unije ili njegovo korištenje utječe na građane Unije. Radi zaštite temeljnih prava zabranjuju se određene prakse u području umjetne inteligencije kao što su npr. društveno vrednovanje za javne i privatne svrhe, iskorištavanje ranjivosti osoba, biometrijska kategorizacija pojedinaca kako bi se saznala njihova rasa, politička ili vjerska uvjerenja, spolna orijentacija, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama. S druge strane, određeni sustavi UI-ja smatraju se visokorizičnima zbog čega su za takve sustave uređena posebna pravila o upravljanju rizikom, upravljanju podacima, transparentnosti i informiranju subjekata koji uvode sustav UI-ja, obaveznom ljudskom nadzoru, odgovarajućoj kibernetičkoj sigurnosti, obavezama dobavljača visokorizičnih sustava UI-ja, sustavu upravljanja kvalitetom i drugo.

Business&Banking: Zašto upozoravate na članak 6. Akta o umjetnoj inteligenciji i što je problematično u Pravilima o klasifikaciji sustava UI kao visokorizičnima?

Sustav UI-ja smatra se visokorizičnim ako su ispunjeni uvjeti izričito uređeni Aktom. No, određeni se sustavi UI-ja uvijek smatraju visokorizičnima. Oni su navedeni u posebnom Prilogu III Aktu. Radi se o zatvorenoj listi visokorizičnih sustava UI-ja u različitim područjima kao što su npr. obrazovanje, zapošljavanje, pristup osnovnim privatnim i javnim uslugama, kazneni progon, migracije, azil i nadzor granice, pravosuđe, izbori i referendum. Početna ideja bila je da se već zbog toga što se radi o nekom od sustava UI-ja navedenih u Prilogu III taj sustav smatra visokorizičnim i da se na njega primjenjuju stroga pravila o upravljanju takvim sustavom kojima se osiguravaju visoka razina zaštite zdravlja, sigurnosti i temeljnih prava Europske unije. Međutim, tijekom zakonodavne procedure u pravila o određivanju visokorizičnih sustava UI-ja unesene su posebne iznimke po kojima se u svakom konkretnom slučaju, neovisno o tome što se radi o sustavu UI-ja navedenom u Prilogu III, procjenjuje da li sustav UI-ja predstavlja znatan rizik od štete za zdravlje, sigurnost ili temeljna prava fizičkih osoba. Ako se procijeni po posebno definiranim kriterijima da sustav UI-ja ne predstavlja znatan rizik, takav se sustav neće smatrati visokorizičnim i neće se primjenjivati posebna stroga pravila o upravljanju takvim sustavom. Čini mi se da je takvom intervencijom u uređenja visokorizičnih sustava UI-ja ublaženo pravilo o prioritetnoj važnosti zaštite zdravlja, sigurnosti i temeljnih prava prilikom korištenja UI-ja. Praktična provedba te iznimke može dovesti do različitih tumačenja i primjene pravila o visokorizičnim sustavima UI-ja, a time i do uspostavljanja drugačijih standarda zaštite temeljnih prava.

Business&Banking: Što su hrvatska postignuća, vještine, rezultati, doprinosi „Digitalnom desetljeću Europe“?

Republika Hrvatska značajno je napredovala u ostvarivanju digitalnih ciljeva određenih u programu digitalnog desetljeća za 2030. godinu. U pogledu razvoja osnovnih vještina u 2023. godini Hrvatska je iznad europskog prosjeka u pogledu broja stanovnika s osnovnim vještinama i za nekoliko postotaka prelazi europski prosjek u pogledu pokrivenosti nacionalnog područja 5G mrežom. U digitalizaciji poslovanja hrvatski je prosjek ispod europskog, kao i u digitalizaciji javnih usluga. No, s druge strane, u digitalizaciji zdravstvenih usluga Hrvatska je bolja od europskog prosjeka. Opće su preporuke za daljnje aktivnosti brža i efikasnija provedba reformi kako bi se do 2030. godine ostvarili svi zadani digitalni ciljevi.