Što znači učiniti umjetnu inteligenciju predmetom političkog i filozofskog razmatranja? Filozof Mark Coeckelbergh u svojoj knjizi „Politička filozofija umjetne inteligencije“(2022.) razmatra aspekte s kojih se umjetnoj inteligenciji može pristupiti korištenjem pojmova i gledišta političke filozofije i teorije društva s obzirom na konkretnu situaciju ubrzanog tehnološkog napretka u kojoj se više ili manje svjesno nalazimo. Mark Coeckelbergh profesor je filozofije medija i tehnologije na Sveučilištu u Beču i autor više knjiga o umjetnoj inteligenciji.

NACIONAL: Suvremeni sustavi umjetne inteligencije zadnjih su desetak godina iznimno napredovali i u nekim su zanimanjima već nadmašili ljudsku izvedbu, recimo u kirurgiji. Postavlja se pitanje koja će zanimanja u skoroj budućnosti moći biti zamijenjena, ali i potencijalno novih zanimanja. No to su još uvijek manje vidljivi utjecaji umjetne inteligencije na naš život. Češće se raspravlja o prijetnjama ljudskoj slobodi, privatnosti, objektivnom informiranju ili novim oblicima društvenosti…

Istina je da se o manje vidljivim posljedicama često ne raspravlja, premda se trenutno puno pažnje posvećuje pristranosti i diskriminaciji, dok se čini da su ljudi zapravo prilično zadovoljni sa znatnom cenzurom, manipulacijom i ostalim prijetnjama slobodi. Isto tako, usprkos velikim promjenama naših načina života, ne shvaćamo u potpunosti koliko se on promijenio zadnjih desetljeća i da se mijenja brzo. Ako propustimo podići svijest o tome, nećemo imati dovoljno javnih rasprava i demokratskog odlučivanja o budućnosti naših društava.

NACIONAL: U „Političkoj filozofiji umjetne inteligencije“ pišete o raznim aspektima slobode na koje umjetna inteligencija ima utjecaj; od negativne slobode do autonomije. Primjerice, tehnologija u foucaultovskom smislu produktivne moći je i nevidljiv oblik discipliniranja i samodiscipliniranja pojedinaca.

Da, naša negativna sloboda – sloboda od zadiranja – definitivno je u opasnosti. U državama s diktatorskim oblicima vlasti ovo je vrlo jasno, no postoji i opasnost da se ono koristi u takozvanim demokracijama, na primjer u policijskom radu i graničnoj kontroli. Dodatno, postoji i to da nas nadziru drugi na društvenim medijima: drugi nas promatraju, što čini od nas odrađenu vrstu subjekata. Foucaltovska analiza ovdje je apsolutno od pomoći. No nismo samo nadzirani i pod kontrolom države. Mi se sami stavljamo pod nadzor i posjedujemo sve više instrumenata koji nam omogućuju da utječemo i manipuliramo vlastitim ponašanjem. U mojoj knjizi „Samopoboljšanje “govorim o tome kako se to često čini s ciljem da bismo se poboljšali.

NACIONAL: Kakve učinke ima kultura „dijeljenja“ i „izlaganja“ na društvo? Koliko je potpuna transparentnost prema kojoj tehnologija ide dobra za slobodu građana i kome je u interesu prikupljanje što veće količine podataka o pojedincima?

Izlažemo se i ohrabreni smo na izlaganje, postoji pritisak da u tom smislu budemo transparentni. A velike tehnološke kompanije donose odluke o tome što će biti izloženo i koje se informacije odabiru. To se većinom čini automatski, s algoritmima, bez transparentnosti prema korisniku zašto su oni ili određena objava isključeni. To postavlja pitanja vezana uz slobodu izražavanja, koja je trenutno pod velikom prijetnjom zbog ovih novih oblika cenzure. Čak i ako je opravdana, ovi algoritmi koriste se na način koji čini odluke netransparentnima. Ovo je veliki problem i trebate opravdati ograničavanje slobode izražavanja onima koje to zahvaća, ako je ono uopće opravdano. Općenito, velikim tehnološkim kompanijama dana je velika moć i ta moć teško da je pod demokratskom kontrolom. Ponovno su naše već ranjive demokracije u opasnosti.

NACIONAL: U svojoj knjizi pišete o načinima na koje umjetna inteligencija kreira društveno okruženje manipulacijama zasnovanima na prikupljenim podacima s određenom svrhom.

Umjetna inteligencija može se koristiti za manipuliranje izborima tako što se usmjerava na glasače s obzirom na prikupljene podatke. Utječe i na epistemičko okruženje, primjerice, kad pomaže širenju lažnih informacija ili doprinosi polarizaciji i „epistemičkim mjehurima“: mišljenja se polariziraju s malo prostora za nijansiranu argumentaciju i perspektive između ekstrema, a ljudi teže gledanju samo objava svojih političkih prijatelja. Ovo ugrožava mogućnost otvorenije i inkluzivnije političke rasprave.

NACIONAL: Postavljate i pitanje kriterija reguliranja sadržaja koji se objavljuju na društvenim mrežama i ponekad površne i predrasudama opterećene evaluacije.

Evaluacija može biti pristrana. No da bi se o tome sudilo, prvi je problem to što sam rekao – nije uopće jasno što i kako se odlučuje. Nedostaje transparentnost.

NACIONAL: Govoreći o predrasudama i diskriminaciji, postavljate i pitanje koliko su procjene pojedinaca o zadovoljavanju kriterija umjetne inteligencije za neke usluge ispravan i nepristran pristup.

Danas se umjetna inteligencija često demonizira. No korištenje umjetne inteligencije nije nužno pogrešno ili neopravdano. Problem je kada postoji pristranost, povreda privatnosti, zaštite podataka. Zanimljivo, ono što se također događa kada se umjetnu inteligenciju i kompaniju javno izloži kritici da donose pristrane odluke pomoću AI-a, saznaje se cijeli niz kriterija i ljudi počinju govoriti, primjerice, o tome kako javne institucije, recimo ustanove socijalne skrbi ili privatne tvrtke poput osiguravajućih kompanija, donose odluke i jesu li ovi kriteriji i načini odlučivanja pošteni i pravedni. Takva svjesnost i kritičke javne rasprave dobra su stvar.

NACIONAL: Zašto je važno promišljati ulogu umjetne inteligencije u suvremenom društvu s aspekta političke filozofije i kritičke društvene teorije?

Umjetna inteligencija često se propituje s etičkog gledišta. To može biti problem ako vodi isključivo fokusiranju na probleme za pojedinca. Javni i kolektivni problemi također su važni. Politička filozofija i društvena teorija mogu pomoći rasvijetliti ove stvari i mogu ih pomoći raspraviti koristeći političko-filozofske pojmove i argumente. Ovo čini raspravu o umjetnoj inteligenciji sofisticiranijom. U suprotnom, na primjer, samo vičemo „pristranost“, bez rasprave i polemiziranja zašto je to pristrano i zašto je neopravdano tretirati ljude na taj način.

NACIONAL: Na kakve vrste koncentracije moći mislite kada govorite o umjetnoj inteligenciji i kakve opasnosti iz toga proizlaze?

To se odnosi na koncentraciju moći korporacija u rukama nekoliko multinacionalnih tehnologijskih kompanija, njihova menadžmenta i dioničara. To je već problem s aspekta slobodnog tržišta, ali je problem gledano i iz kritičke perspektive. Kombinacija umjetne inteligencije i nekih problematičnih formi kapitalizma kakve postoje, primjerice u SAD-u, vrlo je opasna. Bez odgovarajućeg reguliranja ovih kompanija i bez ponovnog preuzimanja demokratske i javne kontrole, predajemo se u ruke tih kompanija: oni koji kontroliraju njih kontroliraju i nas.

NACIONAL: O čemu govorite kada pišete o ograničavanju političke imaginacije, o kojoj je pisala Hannah Arendt, kao bitnoj za političko rasuđivanje?

Manje je mogućnosti za mišljenje i manje političke imaginacije u arendtovskom smislu kada, uz pomoć umjetne inteligencije, stvaramo političko-epistemičko okružje gdje je ono što se računa izražavanje mišljenja, a ne kritička rasprava, a kamoli zajedničko razvijanje ideja za budućnost našeg društva.

NACIONAL: Kako umjetna inteligencija može stvoriti bolje okruženje za demokraciju? Kakvu vrstu javne sfere trebamo?

Dobro pitanje. S aspekta vrste političke filozofije koju ja čitam, trebamo javnu sferu koja stvara uvjete za kvalitetno javno razmatranje i imaginaciju. U principu, umjetna inteligencija može tome doprinijeti. Postoje eksperimenti s izravnom demokracijom i lokalnim razmatranjima gdje umjetna inteligencija pomaže, primjerice, s informacijama ili čak pomaže strukturirati raspravu. Umjetna inteligencija nije nužno loša i može i doprinijeti demokraciji. No potrebno je puno više rada da bi se ovo razvilo. Trebamo umjetnu inteligenciju za demokraciju.