Nacional donosi ulomak iz svjetskog bestselera ‘Nadolazeći val’ u kojem Mustafa Suleyman, suosnivač pionirske tvrtke za umjetnu inteligenciju DeepMind, upozorava na brojne rizike koje AI i druge tehnologije predstavljaju za globalni poredak

Ako prihvatite samo mali dio središnjeg argumenta ove knjige, postavlja se pitanje što učiniti u vezi toga. Jednom kad prihvatimo ovu stvarnost, što uopće možemo učiniti kako bismo je promijenili? Suočeni s dilemom koju sam opisao u prva tri dijela ove knjige, kako bi to obuzdavanje, barem u teoriji, trebalo izgledati?

Posljednjih sam godina vodio bezbrojne razgovore o toj temi. Raspravljao sam s vrhunskim istraživačima umjetne inteligencije, s predsjednicima uprava, sa starim prijateljima, s političarima u Washingtonu, Pekingu i Bruxellesu, sa znanstvenicima i odvjetnicima, sa studentima i običnim ljudima koji su me slušali u pubu. Svi uvijek posežu za istim odgovorom i gotovo bez iznimke svi imaju isti recept: regulacija.

Čini se da je to odgovor, izlaz iz dileme, ključ za obuzdavanje, spas za nacionalnu državu i civilizaciju kakvu poznajemo. Smišljena regulacija, koja bi uravnotežila potrebu za napretkom sa smislenim sigurnosnim ograničenjima, na nacionalnoj i međunarodnoj razini, koja bi se odnosila na sve od tehnoloških giganata do malih sveučilišnih istraživačkih skupina i razvojnih tvrtki, koja bi činila učinkovit i provediv okvir.

Već smo to prije učinili, glasi argument, pogledajte automobile, zrakoplove i lijekove. Ne trebamo li tako upravljati i nadolazećim valom i obuzdati ga?

Kad bi samo bilo tako jednostavno. Lako je reći: “Regulacija!” u lice nevjerojatne tehnološke promjene. To je također klasičan odgovor izbjegavanja pesimizma. To je jednostavan način otresanja problema. Na papiru regulacija izgleda primamljivo, čak i očigledno i logično; kad to predlažu ljudi, zvuče pametno, brižno, uz osjećaj olakšanja. Između redova naglašava se kako je problem rješiv, ali to je problem nekoga drugog. Međutim, zavirite li malo dublje, manjkavosti i pukotine postaju očigledne.

Istražit ćemo mnoge načine na koje se društvo može početi suočavati s dilemom, otresti se averzije prema pesimizmu i doista se uhvatiti ukoštac s problemom obuzdavanja, potražiti odgovore u svijetu u kojem rješenje tog problema mora biti moguće. Međutim, prije nego što to učinimo, ključno je spoznati vitalnu istinu: regulacija sama po sebi nije dovoljna.

Sazvati okrugli stol u Bijeloj kući i održavati strastvene govore je lako; sasvim je nešto drugo donijeti učinkovite zakone. Kao što smo vidjeli, vlade se suočavaju s brojnim krizama neovisnim o nadolazećem valu — opadajućim povjerenjem, ukorijenjenim nejednakostima, polariziranom politikom, da navedemo samo neke. Preopterećene su, njihovo osoblje nije dovoljno obrazovano i pripremljeno za tako složene i stalno promjenjive probleme koji su pred njima.

Dok amateri po garažama dolaze u posjed sve moćnijih alata, a tehnološke tvrtke troše milijarde dolara na istraživanje i razvoj, većina političara zarobljena je u 24-satnim ciklusima vijesti sačinjenih od zvučnih bitova i fotografija. Kad vlada stigne do stupnja u kojem samo tetura od krize do krize, ostaje joj malo prostora za borbu s tektonskim silama koje zahtijevaju visoku stručnost i pažljive procjene u neodređenom vremenskom okviru. Lakše je ignorirati te probleme u korist plodova na nižim granama koji će vjerojatnije donijeti glasove na sljedećim izborima.

Mustafa Suleyman (1984.), suosnivač je i predsjednik uprave tvrtke Inflection AI. Živi u Palo Altu u Kaliforniji. FOTO: Patrick T. Fallon / AFP / Profimedia

Čak i tehnolozi i istraživači s područja poput umjetne inteligencije muče se držati korak s tempom promjena. Kakve onda šanse imaju regulatori, s manje sredstava? Kako da se nose s erom hiperevolucije, s brzinom i nepredvidivošću nadolazećeg vala?

Tehnologija se razvija iz tjedna u tjedan. Predlaganje i donošenje zakona traje godinama. Zamislite dolazak novog proizvoda na tržište, poput zvona na vratima tvrtke Ring. Ring je instalirao kameru na vaša ulazna vrata i spojio je s vašim mobitelom. Proizvod je bio tako brzo prihvaćen i sada je toliko raširen da je temeljno promijenio prirodu onoga što treba regulirati; iznenada se prosječna ulica u predgrađu od relativno privatnog prostora pretvorila u nadzirano i snimano područje.

Do trenutka kad se postavilo pitanje regulacije Ring je već stvorio široku mrežu kamera, prikupio golemu količinu podataka i slika s pragova ljudi diljem svijeta. Dvadeset godina od nastanka društvenih mreža još ne postoji zajednički pristup pojavi te moćne nove platforme (usto, je li privatnost, polarizacija, monopol, strano vlasništvo ili mentalno zdravlje glavni problem — ili sve navedeno?). Nadolazeći val pogoršat će tu dinamiku.

Rasprave o tehnologiji razvlače se po društvenim mrežama, blogovima i prepiskama, akademskim časopisima, bezbrojnim konferencijama, seminarima i radionicama, s udaljenim stavovima izgubljenim u galami. Svatko ima svoj stav, a to se ne uklapa u dosljedan program. Razgovor o etici sustava strojnog učenja čitave je svjetove udaljen, recimo, od tehničke sigurnosti sintetske biologije. Te rasprave događaju se u izoliranim, podzemnim silosima. Rijetko se probiju van.

Ipak, vjerujem da su to aspekti onoga što vodi do istog fenomena; svi pokušavaju dotaknuti različite aspekte istog vala. Nije dovoljno održati desetke odvojenih razgovora o algoritamskoj pristranosti, ili bioriziku, ili ratu dronovima, ili utjecaju robotike na gospodarstvo, ili posljedicama kvantnog računarstva na privatnost. Te rasprave uopće ne uzimaju u obzir koliko su uzroci i posljedice međusobno povezani i isprepleteni. Trebamo pristup koji bi objedinio te odvojene rasprave, različite dimenzije rizika, trebamo opći pristup za ovu opću revoluciju.

Cijena je raspršenih pristupa neuspjeh, a znamo kako to izgleda. Trenutačno su raspršeni uvidi sve što imamo: stotine odvojenih programa po udaljenim dijelovima tehnosfere koji grickaju dobronamjerne, ali ad hoc pokušaje bez općenitog plana ili smjera. Na najvišoj razini trebamo jasan i jednostavan cilj, zvučan imperativ koji bi objedinio različite napore oko tehnologije u cjelovitu politiku. Ne samo usklađivanje pojedinih elemenata, ne samo u ovoj ili onoj tvrtki, ili istraživačkoj skupini, ili čak zemlji, nego svuda, preko svih fronti, zona rizika i zemljopisnih područja odjednom. Bila riječ o nekom novom AGI-u ili nepoznatom, ali korisnom novom životnom obliku, cilj mora biti jedinstven: obuzdavanje.

Središnji problem čovječanstva u dvadeset prvom stoljeću jest kako održavati dovoljno legitimne političke moći i mudrosti, primjerenoga tehničkog znanja i čvrstih normi obuzdavanja tehnologije kako bismo osigurali da ona i dalje čini više dobra nego štete. Kako, drugim riječima, možemo obuzdati ono što se čini neobuzdanim.

Od povijesti homo technologicusa do stvarnosti ere u kojoj tehnologija prožima svaki aspekt života, vjerojatnost da ćemo u tome uspjeti nije na našoj strani. Ali to ne znači da ne trebamo pokušati.

Međutim, većina organizacija, ne samo vlada, slabo je pripremljena za složene izazove koji su pred nama. Kao što smo vidjeli, čak i bogate nacije muče se s nadolazećim krizama. Ulazeći u 2020. godinu, Indeks globalne zdravstvene sigurnosti smjestio je SAD na prvo mjesto, a UK nedaleko iza, po epidemiološkoj pripravnosti. Međutim, popis katastrofalnih odluka prouzročio je veće stope smrtnosti i materijalne štete nego u usporedivim zemljama kao što su Kanada i Njemačka. Unatoč onome što se doimalo kao zavidno stručno znanje, institucionalna dubina, uz planiranje i osigurana sredstva, čak i oni najbolje pripremljeni na papiru ostali su zatečeni i ozbiljno pogođeni.

Vlade bi stoga trebale biti bolje nego ikad pripremljene za nove rizike i tehnologije. Nacionalni budžeti za takve situacije uglavnom su na rekordnim razinama. Međutim, činjenica je da se vlade iznimno teško snalaze s tim novim prijetnjama. To nije prigovor vladama; to je procjena težine izazova koji je pred nama. Kad se suoče s nečim poput ACI-a, koji može proći moj moderni Turingov test, odgovor čak i najpromišljenijih, najdalekovidnijih birokracija nalikovat će odgovoru na COVID. Vlade vode posljednji rat, bore se protiv posljednje pandemije, reguliraju posljednji val. Regulatori reguliraju ono što mogu predvidjeti.

Međutim, ovo je doba iznenađenja.

REGULACIJA NIJE DOVOLJNA

Unatoč vjetru u prsa, napori da se reguliraju granične tehnologije nužni su i pojačavaju se. Najnaprednija uredba vjerojatno je Zakon o umjetnoj inteligenciji, koji je 2021. godine predložen u Europskoj uniji. Dok ovo pišem u 2023. godini, prijedlog prolazi dugačak proces da bi postao europski zakon. Usvoji li se, AI istraživanja i primjena bit će kategorizirani prema razini rizika. Tehnologije neprihvatljivog rizika koje mogu izazvati direktnu štetu bit će zabranjene. Tamo gdje umjetna inteligencija utječe na temeljna ljudska prava ili ključne sustave poput osnovne infrastrukture, javnog prijevoza, zdravlja ili blagostanja, bit će klasificirana kao tehnologija visokog rizika i biti izložena pojačanom nadzoru i odgovornosti. Umjetna inteligencija visokog rizika mora biti transparentna, sigurna, podložna ljudskoj kontroli i temeljito dokumentirana.

Ipak, taj prijedlog, iako najnapredniji u svijetu, najambiciozniji i najdalekovidniji dosadašnji pokušaj, pokazuje dubok problem regulacije. Napadaju ga sa svih strana, od toga da je otišao predaleko do toga da nije dovoljno restriktivan. Neki tvrde da je previše fokusiran na nastajuće, buduće rizike, da pokušava regulirati nešto što još uopće ne postoji; drugi pak da nije dovoljno dalekovidan. Neki vjeruju da dopušta previše slobode velikim tehnološkim tvrtkama, da su one imale ključnu ulogu u sastavljanju tog prijedloga zakona i da su ublažile njegove uredbe. Drugi misle da je previše striktan i da će zamrznuti istraživanja i inovacije u Europskoj uniji, nanoseći štetu radnim mjestima i poreznim prihodima.

Takav zakon zapravo hoda po tankom užetu suprotstavljenih interesa. Ali malo je područja kao što su granične tehnologije gdje se pokušava urediti nešto tako široko raspršeno, tako ključno za gospodarstvo, nešto što tako brzo evoluira. Sva ta buka i zbrka daje do znanja koliko je složen i težak svaki pokušaj regulacije, posebice usred ubrzanih promjena, i kako će, baš zbog toga, gotovo sigurno ostaviti pukotine koje će onemogućiti uspješno obuzdavanje.

Reguliranje ne samo hiperevolucijskih nego i tehnologija tako široke namjene iznimno je izazovno. Razmislite kako je reguliran motorizirani transport. Ne postoji samo jedan regulator ili samo nekoliko zakona. Umjesto toga, imamo prometnu i cestovnu regulaciju, propise o parkiranju, sigurnosnim pojasevima, emisiji štetnih plinova, autoškolama i tako dalje. Sve te uredbe ne dolaze samo iz nacionalnog zakonodavstva nego i od lokalnih uprava, agencija za autoceste, ministarstava prometa koja izdaju upute, ustanova za izdavanje dozvola, ureda za standarde zaštite okoliša. Ne oslanjaju se samo na zakonodavce nego i na policijske snage, prometnike, proizvođače automobila, mehaničare, urbanističke planere i osiguravatelje.

Složene uredbe koje su se desetljećima dorađivale postupno su ceste i vozila učinile sigurnijima i uređenijima, omogućivši njihov razvoj i širenje. A ipak 1,35 milijuna ljudi na godinu pogine u prometnim nesrećama. Regulacija može umanjiti neželjene učinke, ali ne može izbrisati loše ishode poput sudara, zagađenja ili širenja. Procijenili smo da je to prihvatljiv gubitak ljudskih života u odnosu na dobit. Taj mi je ključan. Regulacija se ne oslanja samo na donošenje novog zakona. Ona ovisi i o normama, strukturi vlasništva, nepisanim pravilima privole i poštenja, arbitražnim procesima, poštivanju ugovora, nadzornim mehanizmima. Sve je to nužno integrirati i javnost to mora podržati.

To iziskuje vrijeme — vrijeme koje nemamo. S nadolazećim valom nemamo pola stoljeća za brojna tijela koja bi trebala smisliti što nam je činiti, za ispravne vrijednosti i najbolje postupke koje bismo trebali iznjedriti. Napredna regulacija mora biti učinkovita, i to brzo. Ni približno nije jasno kako upravljati tako širokim spektrom najnovijih tehnologija. Kad regulirate sintetsku biologiju, regulirate li hranu, medicinu, industrijske alate, akademska istraživanja ili sve to odjednom? Koja su tijela odgovorna za to? Kako sve to spojiti? Koji su sudionici odgovorni za koji dio opskrbnog lanca? Zamke samo jedne ozbiljne nesreće ekstremne su, a ipak iznimno je teško odrediti koja bi agencija bila odgovorna.

Osim žrvnja zakonodavnih rasprava, nacije su uhvaćene u proturječnosti. S jedne strane, u strateškom su natjecanju te žele ubrzati razvoj tehnologija poput umjetne inteligencije i sintetske biologije. Svaka nacija želi biti tehnološki napredna i imati takav ugled. To je mjerilo nacionalnog ponosa, nacionalne sigurnosti, to je egzistencijalni imperativ. S druge strane, očajnički žele regulirati i kontrolirati te tehnologije — obuzdati ih, među ostalim i iz straha da će ugroziti položaj nacionalne države kao sjedišta moći. Plaši činjenica da to u najboljem slučaju podrazumijeva scenarij snažnih, dovoljno kompetentnih, kohezivnih (liberalnodemokratskih) nacionalnih država sposobnih učinkovito interno funkcionirati i koordinirati svoje djelovanje na međunarodnoj razini.

Da bi obuzdavanje bilo moguće, pravila moraju funkci- onirati na tako različitim mjestima kao što su Nizozemska i Nikaragva, Novi Zeland i Nigerija. Gdje netko uspori, drugi će požuriti. Svaka zemlja u razvoj tehnologije unosi svoje pravne i kulturne običaje. Europska unija strogo ograničava genetski modificirane organizme u opskrbi hranom. Međutim, u SAD-u genetski modificirani organizmi uobičajen su dio poljoprivrede. Kina se, na prvi pogled, doima kao vodeća regulatorna zemlja. Vlada je izdala brojne ukaze o AI etici, u pokušaju da uvede stroga ograničenja. Proaktivno brani različite kriptovalute i DeFi (decentralized finance — decentralizirane financije) inicijative i ograničava vrijeme koje djeca mlađa od osamnaest godina smiju provoditi na društvenim mrežama ili igrajući računalne igre na devedeset minuta na dan tijekom tjedna, a na tri sata dnevno tijekom vikenda. Nacrt uredbe o preporučenim algoritmima i LLM-ovima u Kini daleko nadmašuje sve što smo dosad vidjeli na Zapadu.

Zakon europske unije o AI-ju zapravo hoda po tankom užetu suprotstavljenih interesa. FOTO: Alexander Limbach / Shotshop GmbH / Profimedia