Od početka kolovoza na području Europske unije na snagu je stupio Zakon o umjetnoj inteligenciji (AI Act), kao prvi pokušaj sveobuhvatne regulacije tehnologija umjetne inteligencije u svijetu.

Primjena zakona osigurava da se umjetna inteligencija razvija i koristi bez rizika koji ta tehnologija nosi, posebice na području prava i sigurnosti građana, tako što razlikuje između AI sustava minimalnog rizika, visokog rizika i neprihvatljivog rizika.

Iako je pri donošenju zakona postojala bojazan da će regulacijom ovog područja Europska unija zapravo ugušiti inovativnost i time zaostati u razvoju za konkurentima koji nemaju slična zakonska ograničenja, analiza njemačkih stručnjaka pokazala je da primjena zakona neće predstavljati značajno opterećenje za tvrtke i programere koji se bave razvojem sustava umjetne inteligencije. Prema zaključcima analize, većina programera neće primijetiti značajne promjene osim ako razvijaju AI sustave visokog rizika.

Naime, AI sustavi minimalnog rizika kao što su preporuke ili filteri za neželjenu poštu ne podliježu obvezama Zakona jer ne predstavljaju nikakvu prijetnju za prava ili sigurnost građana, tako da su regulatorna opterećenja praktički nezamjetna.

Regulacijom se prvenstveno cilja na AI sustave visokog rizika, poput alata za algoritamsko ocjenjivanje kreditne sposobnosti, procjenu kandidata pri zapošljavanju i medicinskog softvera, postavljajući stroge zahtjeve kako bi se osigurala pravednost, transparentnost i odgovornost. Pri programiranju AI sustava visokog rizika programeri će tako imati obvezu osigurati kvalitetne podatke za treniranje AI modela kako bi se spriječio bilo kakav oblik diskriminacije. Da bi se osigurala transparentnost, programeri će imati obvezu održavanja detaljne dokumentacije i zapisa o radu i funkcionalnostima sustava koji će imati ulogu koju „crne kutije“ imaju u zrakoplovima i omogućiti sljedivost.

UI sustavi kao što su chatbotovi moraju jasno otkriti korisnicima da su u interakciji sa strojem. Određeni sadržaji generirani umjetnom inteligencijom, uključujući uvjerljivi krivotvoreni sadržaj, moraju biti označeni kao takvi, a korisnike treba obavijestiti o upotrebi sustava za biometrijsku kategorizaciju ili prepoznavanje emocija. Osim toga, pružatelji usluga morat će osmisliti sustave na način da sintetički audio-zapisi, videozapisi, tekst i slike budu označeni u strojno čitljivom formatu i da se mogu prepoznati kao umjetno stvoreni ili manipulirani. Na kraju, svi sustavi visokog rizika moraju imati i ugrađen mehanizam za ljudski nadzor kako bi se uočile i ispravile pogreške tijekom implementacije sustava.

Sustavi neprihvatljivog rizika koji predstavljaju jasnu prijetnju temeljnim pravima ljudi primjenom Zakona će biti zabranjeni na području EU-a. To uključuje UI sustave ili aplikacije kojima se manipulira ljudskim ponašanjem (igračke koje koriste glasovnu pomoć kojima se potiče opasno ponašanje djece, sustavi koji vladama ili poduzećima omogućuju „društveno vrednovanje” i određene primjene prognostičkog rada policije). Zabranjuju se i neke primjene biometrijskih sustava kao što su sustavi za prepoznavanje emocija na radnom mjestu i neki sustavi za kategorizaciju ljudi ili biometrijska identifikacija u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona (uz strogo ograničene iznimke).

Većina pravila Akta o umjetnoj inteligenciji počet će se primjenjivati 2. kolovoza 2026., no zabrane sustava AI za koje se smatra da predstavljaju neprihvatljiv rizik primjenjivat će se već nakon šest mjeseci.

SADRŽAJ OMOGUĆAVA APIS IT