Akademik Sven Lončarić, profesor i voditelj Centra za umjetnu inteligenciju Fakulteta elektrotehnike i računarstva u Zagrebu i Mislav Malenica, predsjednik udruge CroAI, govore o prednostima i manama razvoja i korištenja umjetne inteligencije

Od trenutka kada je američka tvrtka OpenAI krajem studenoga prošle godine javnosti omogućila korištenje ChatGPT-ja, interaktivnog komunikacijskog sustava između čovjeka i računala koji oponaša prirodan jezik, a u ožujku ove godine izbacila i napredniju, usavršenu verziju tog sustava nazvanu chatbot (u slobodnom prijevodu „razgovor s robotom“), pokrenuta je lavina interesa i komentara koji su se sveli na jedno bitno pitanje: može li i hoće li umjetna inteligencija zavladati čovjekom, odnosno, kakve nam posljedice nosi? Prvi mjeseci korištenja chatbotova obilježeni su kontroverzama, dijametralno suprotnim stavovima i argumentima za i protiv korištenja otvorene komunikacije s računalima, a dio europskih zemalja otišao je i korak dalje i zabranio ili planira zabraniti korištenje ChatGPT-ja i prikupljanje osobnih podataka korisnika putem sustava, što je naišlo na žestoke reakcije pobornika novog trenda.

Kakva je budućnost umjetne inteligencije? Koliko brzo će se razvijati u godinama koje dolaze i koliko će brzo prodirati u svakodnevni život? Jesmo li spremni za umjetnu inteligenciju i hoćemo li se znati nositi s posljedicama koje ona nosi? U prirodi je čovjeka da s oprezom i podozrenjem gleda na tehnološke novitete. Vjerojatno je tako zbog loših iskustava i svijesti o tome koliko je u osnovi korisnih i pozitivnih izuma kroz povijest zloupotrijebljeno i usmjereno u pogrešne svrhe. Naša sumnja i oprez tim su veći uzmemo li u obzir tvrdnje pojedinih znanstvenika da se tako brz napredak umjetne inteligencije poput chatbotova nije očekivao barem još dvadesetak godina. No trebamo li se doista bojati umjetne inteligencije i trebamo li zazirati od toga što nam ona nosi u ne tako dalekoj budućnosti? Odnosno, hoće li široka upotreba AI-ja doista uzrokovati atrofiju ljudskog mozga, kako neki pesimisti predviđaju?

Akademik Sven Lončarić uvršten je u jedan posto najutjecajnijih i najcitiranijih svjetskih znanstvenika u području Artificial Intelligence and Image Processing (umjetna inteligencija i obrada slike). FOTO: Saša Zinaja/NFOTO

Sva smo ta pitanja postavili dvojici stručnjaka koji svaki na svoj način – teoretski i praktično – rade na proučavanju i razvoju umjetne inteligencije te njezinoj konkretnoj primjeni u svakodnevnom životu. Naši su sugovornici akademik Sven Lončarić, profesor s Fakulteta elektrotehnike i računarstva u Zagrebu, voditelj Centra za umjetnu inteligenciju FER-a koji je uvršten u jedan posto najutjecajnijih i najcitiranijih svjetskih znanstvenika u području Artificial Intelligence and Image Processing (umjetna inteligencija i obrada slike), te Mislav Malenica, predsjednik udruge CroAI koja okuplja tvrtke koje se bave razvojem sustava umjetne inteligencije te osnivač i voditelj tvrtke Mindsmiths koja iza sebe već ima razvijene modele konkretne primjene umjetne inteligencije u službi čovjeka.

Odmah na početku zanimalo nas je što su osnovna svrha i cilj umjetne inteligencije. „Razvoj računalnih tehnologija omogućio je eksponencijalni rast količine prikupljenih podataka u brojnim područjima ljudskih djelatnosti. Neke od najvećih svjetskih kompanija kao što su Google, Meta i druge temelje svoje poslovne modele na obradi podataka prikupljenih od korisnika. Kod velikih skupova podataka veliki izazov je analizirati podatke i izvesti zaključke ili odluke na temelju podataka. Metode umjetne inteligencije omogućuju analizu velikih skupova podataka korištenjem metoda strojnog učenja, konkretno, dubokim neuronskim mrežama, gdje računalni algoritam uči na primjerima, slično kao što uče ljudi. Razvoj računala omogućio je realizaciju vrlo velikih modela umjetnih neuronskih mreža koje su u stanju naučiti složena znanja”, objasnio je akademik Lončarić i dodao kako tržište AI-ja na globalnoj razini raste strelovitom brzinom. U 2021. godini tržište umjetne inteligencije u svijetu bilo je vrijedno 328 milijardi dolara, a do 2029. godine, tvrdi, vrijednost će mu svake godine rasti dodatnih 20,1 posto.

Mislav Malenica istaknuo je da se budućnost umjetne inteligencije može usporediti s internetom prije 30 godina. To je, tumači on, nova platforma koja će redefinirati način na koji živimo, radimo, učimo, zabavljamo se, putujemo, brinemo se o svom zdravlju, financijama te jedni o drugima. Umjetna inteligencija već sada prodire duboko u naše svakodnevne živote, iako to možda uvijek ne primjećujemo, a komunikacija s umjetnom inteligencijom u ne tako dalekoj budućnosti bit će još raznovrsnija, tvrdi Malenica. “Dopisivanje prenosi malu količinu informacija u jedinici vremena i može biti naporno. Budući da čovjek vrlo brzo upija informacije vizualno, možemo očekivati da će umjetna inteligencija u komunikaciji s ljudima u budućnosti generirati grafički bogata sučelja u realnom vremenu. Ta sučelja će omogućiti ljudima da brzo razumiju kontekst i donose odluke, čime će komunikacija postati učinkovitija i intuitivnija”, objasnio je Nacionalov sugovornik te dodao da brzina razvoja umjetne inteligencije u narednim godinama neće ovisiti samo o novim tehnološkim dostignućima, već i o tome koliko ćemo je kao društvo brzo prihvatiti i integrirati:

“Napredak uz pomoć umjetne inteligencije ne može se zaustaviti, ali njegova brzina ovisi o našoj sposobnosti da se prilagodimo i usvojimo te inovacije.” O tome je li svijet spreman za umjetnu inteligenciju i hoćemo li se znati s njom nositi, rekao je da se svijet tijekom povijesti uspješno nosio s različitim tehnološkim revolucijama, pa nema razloga vjerovati da nećemo biti spremni i za ovu koju nosi umjetna inteligencija. “Ono što ljude uznemiruje u vezi s umjetnom inteligencijom jest neizvjesnost oko toga u kojem će se smjeru razvijati i kakve će posljedice donijeti. Taj osjećaj nemira nije nov, slično je bilo i kada su se pojavili parni stroj, računalo, mobitel ili internet. Važno je kontinuirano raditi na edukaciji o njezinim mogućnostima i ograničenjima te osigurati odgovorno korištenje tehnologije i poticati inovacije i istraživanje kako bismo bolje razumjeli i usmjeravali razvoj umjetne inteligencije u korist čovječanstva”, tumači Malenica.

‘Postoji rizik i od neetičkog korištenja AI-ja u područjima poput zapošljavanja ili kreditiranja, gdje može doći do diskriminacije ili pristranosti’, upozorava Mislav Malenica. FOTO: Saša Zinaja/NFOTO

U ljudskoj je prirodi da se odupire promjenama, no ljudi ipak vrlo brzo prihvaćaju nove tehnologije koje su im korisne, ustvrdio je Lončarić. “Chatbotovi već nalaze poslovne primjene u sustavima za podršku korisnika, primjerice, na području maloprodaje, zdravstva ili bankarstva, gdje skraćuju vrijeme potrebno za rješavanje problema korisnika. Također se očekuje povećanje primjena chatbotova u aplikacijama za slanje poruka kao što je npr. WhatsApp i u inteligentnim virtualnim asistentima”, naveo je Lončarić i dodao da nove tehnologije sa sobom donose i nove izazove koji se pokazuju kroz njihov utjecaj na promjene u društvu, uključujući utjecaj na gospodarstvo i potrebu za razvijanjem pravne regulative koja se na njih odnosi.

“Povijest čovječanstva pokazala je da se svako znanstveno otkriće ili tehnologija mogu primijeniti u korist čovjeka, ali da se jednako tako može i zloupotrijebiti. Razvoj umjetne inteligencije otvara i etička pitanja i dvojbe koji su predmet znanstvenih istraživanja i utječu na razvoj pravne regulative. U razvoju pravne regulative mnoge države pokušavaju naći ravnotežu između omogućavanja slobodnog razvoja tehnologije i pravnih ograničenja za sprječavanje zlouporaba”, objasnio je Lončarić i upozorio na to da je uloga zakonske regulative osigurati da sustavi umjetne inteligencije ne krše ljudska prava korisnika, etičke principe i privatnost podataka: “Primjerice, regulativa EU-a klasificira primjene umjetne inteligencije u tri grupe. Zabranjene su primjene koje mogu nanijeti fizičku ili psihičku štetu korisniku, koje provode tzv. socijalno ocjenjivanje ili koje u stvarnom vremenu analiziraju javne prostore u kojima se kreću ljudi. Druga skupina su rizične primjene kod kojih postoji potencijal za kršenje ljudskih prava korisnika. Treća skupina su primjene kod kojih nema rizika za kršenje ljudskih prava. No bez obzira na zakonsku regulativu, može se očekivati da će uvijek biti onih koji će kršiti zakone, kao što se to događa i u svim drugim područjima ljudske djelatnosti.”

‘Osjećaj nemira kod ljudi u vezi razvoja umjetne inteligencije nije nov. Slično je bilo i kada su se pojavili parni stroj, računalo, mobitel ili internet’, objašnjava Malenica

I Malenica se slaže s time da će se čovječanstvo sve više oslanjati na umjetnu inteligenciju jer će s vremenom prepoznati pogodnosti ona donosi. Umjetna inteligencija, tvrdi on, brzo napreduje i mnogi problemi koje danas uočavamo uskoro će nestati. “No to ne znači da se ta ista tehnologija neće moći i zloupotrijebiti. Neki od primjera potencijalnih zloupotreba uključuju korištenje AI-ja za razvoj naprednih oružja, širenje lažnih informacija, kao i kršenje privatnosti putem nadzora i analize velikih količina podataka. Postoji rizik i od neetičkog korištenja AI-ja u područjima poput zapošljavanja ili kreditiranja, gdje može doći do diskriminacije ili pristranosti. Ono što je dobro jest to što će u sustavu korištenja AI-ja ostati trag i što ćemo lakše detektirati i ispravljati takve slučajeve nego kada se oslanjamo samo na ljudsku prosudbu. Rješenje za takve probleme leži u edukaciji i privikavanju. Slično kao što smo se morali priviknuti na to da ne možemo vjerovati svemu što piše na internetu, tako ćemo i u slučaju umjetne inteligencije morati pronaći načine da izvučemo maksimalnu korist za sebe, a da istodobno budemo svjesni njezinih ograničenja. To uključuje promicanje etičkog razvoja i upotrebe AI-ja, kao i osnaživanje pojedinaca i organizacija da razumiju i prepoznaju potencijalne zloupotrebe i neodgovorno korištenje tehnologije”, precizirao je Malenica.

A što nas je ovih nekoliko vrlo intenzivnih mjeseci komunikacije s chatbotovima naučilo o korištenju računalne inteligencije i jesmo li postali svjesni njezinih pozitivnih, ali i negativnih strana? “Kroz te interakcije mogli smo naučiti nekoliko važnih lekcija o AI-ju, ali i nama ljudima. Prva nam lekcija kaže da je umjetna inteligencija dosegnula razinu na kojoj može biti iznimno korisna. Drugo, pokazalo se da mnoga znanja i vještine za koje smo smatrali da su teški i specifični za nas ljude ipak nisu nedostižni. To nam je probudilo maštu. No tu su i stvari zbog kojih moramo biti oprezni, umjetna inteligencija nije svemoćna ni nepogrešiva. Chatbotovi se mogu susresti s poteškoćama ili davati netočne informacije, što ukazuje na to da, iako su napredni, još uvijek imaju svoja ograničenja. Osim toga, AI sustavi uče iz podataka koje imaju na raspolaganju, što znači da su podložni pristranosti i pogreškama koje postoje u tim podacima. Naučili smo da moramo pristupiti informacijama koje dobivamo od AI-ja s određenom dozom skepse. Slično kao što ne možemo vjerovati svemu što neka osoba kaže, svemu što piše na internetu ili čujemo na televiziji, tako ćemo i interakcije s različitim sustavima baziranim na umjetnoj inteligenciji morati uzimati s rezervom”, tvrdi Malenica.

‘Prema trenutnom stanju razvoja umjetna inteligencija ne može se usporediti s tzv. jakom inteligencijom koju ima čovjek’, kaže akademik Sven Lončarić. FOTO: Saša Zinaja/NFOTO

I Lončarić upozorava da će biti nužna doza rezerve i dobre informiranosti korisnika u korištenju umjetne inteligencije. “Mana svih sustava umjetne inteligencije koji su temeljeni na učenju jest da ovise o podacima koji se koriste za učenje. Chatbotovi uče koristeći tekstove koji su dostupni na internetu, iz knjiga i drugih izvora. Budući da na internetu postoji puno neistinitih ili pristranih informacija, moguće je da chatbot nauči netočne informacije pa da onda i odgovori koje daje korisniku budu netočni. Stoga je prioritet kod sustava umjetne inteligencije koristiti nepristrane podatke za učenje takvih sustava”, upozorio je Lončarić i konstatirao da će vrlo vjerojatno, kao i kod klasičnih medija, reputacija određenog chatbota govoriti o tome koliko su dobivene informacije vjerodostojne. “Razvojem metoda umjetne inteligencije na kojima se temelje chatbotovi, povećat će se točnost takvih sustava, no uvijek će postojati određena mala vjerojatnost dobivanja pogrešnog odgovora. Širenje zlonamjernih i lažnih informacija oduvijek je postojalo u ljudskom društvu i u računalnim društvenim mrežama tako da možemo očekivati da će ono postojati i u konverzacijskim sustavima umjetne inteligencije koji uče iz podataka dostupnih na internetu. Prisutnost lažnih informacija može se smanjiti ljudskim moderiranjem izvora iz kojih umjetna inteligencija uči, no iz primjera društvenih mreža evidentno je da, usprkos svim naporima, nije moguće ukloniti sve netočne informacije”, upozorio je Lončarić.

U svijetu se već naširoko raspravlja o potrebi kvalitetnijeg i sveobuhvatnijeg zakonskog reguliranja upotrebe chatbotova, ali i svih drugih vidova umjetne inteligencije u svim sferama života, posebice nakon poznatih slučajeva neovlaštenog korištenja osobnih podataka korisnika ili pak do sada zabilježenih slučajeva plasiranja neistinitih podataka i kleveta u javnosti, zbog čega se tvrtka OpenAI suočila s mogućim tužbama. ChatGPT je tako, primjerice, jednog gradonačelnika u Australiji lažno optužio da je služio zatvorsku kaznu zbog primanja mita, a američkog profesora za seksualno uznemiravanje studentica. No možemo li zakonski baš sve regulirati i spriječiti takve slučajeve, od kojih neki zasigurno mogu imati teške i opasne posljedice? Malenica kaže: “Iako je moguće pronaći netočne i štetne informacije na internetu, bilo zbog nemara ili zle namjere, nijedna zakonska regulacija nikada nije uspjela potpuno iskorijeniti te probleme. Ključ sigurnosti na internetu je edukacija korisnika kako bismo znali što očekivati i kako bismo prepoznali tko stoji iza informacija i tko preuzima odgovornost za njihove posljedice. Slično tome, različiti AI sustavi neće biti razvijani s jednakom količinom resursa i odgovornosti. Kao ljudi, morat ćemo i dalje učiti tko stoji iza njih i sami odlučivati kome ćemo dati svoje povjerenje. U slučaju primjena poput zdravstva ili prometa, gdje potencijalne štetne posljedice mogu biti fatalne, uključit će se nadzorna tijela koja će evaluirati i nadzirati razvoj i primjenu takvih sustava. Iako će zakonodavstvo imati ulogu u reguliranju umjetne inteligencije, ono ipak neće moći sve kontrolirati. Stoga će edukacija i prepoznavanje odgovornosti biti ključni za zaštitu od neželjenih posljedica.”

‘Na internetu ima neistinitih ili pristranih informacija, pa je moguće da chatbot nauči netočne informacije i odgovori koje daje korisniku budu netočni’, kaže Lončarić

Umjetna inteligencija, dakle, više nije daleka budućnost. Ona je ovdje, postala je sadašnjost i u narednim godinama i desetljećima sve intenzivnije će se uključivati u svakodnevni život. A na nama je da mudro koristimo njezine benefite i maksimalno ograničimo moguće štete. Odgovornost će, kako tvrde naši sugovornici, biti na svakome od nas. No ostaje otvoreno pitanje može li se umjetna inteligencija oteti kontroli i početi svijet uređivati po svom? Akademik Lončarić o tome kaže: „Prema trenutnom stanju razvoja umjetna inteligencija ne može se usporediti s tzv. jakom inteligencijom koju ima čovjek. Sigurno je da će se daljnjim razvojem umjetne inteligencije otvarati novi izazovi i etičke dvojbe. Ti izazovi uključuju pitanja može li umjetna inteligencija imati svijest i mogu li sustavi umjetne inteligencije postati inteligentniji od čovjeka koji ih je stvorio.”

Odgovore na ta pitanja dobit ćemo u godinama koje dolaze, no Malenica podsjeća da su već dugo poznati sustavi koji automatizirano čine štetu, poput računalnih ili bioloških virusa koji su stvoreni iz neznanja, znatiželje ili zle namjere. “S umjetnom inteligencijom takvi sustavi mogu biti napredniji, ali iza njih će uvijek biti netko tko ih je stvorio i mora preuzeti odgovornost za posljedice. Kako se razvijaju nove tehnologije, usporedo će se razvijati i one koje otkrivaju i sprečavaju neželjene posljedice, baš kao što postoje sustavi za zaštitu banaka od krađe putem interneta. Kako će to sve izgledati, u ovom trenutku nije niti treba biti jasno, ali zasigurno će biti uzbudljivo”, zaključio je Mislav Malenica.