Tomislav Jagušt, docent na Fakultetu elektrotehnike i računarstva u Zagrebu, za MegaWatt govori o chatbotu Branka, baziranom na umjetnoj inteligenciji, koja je pokrenuta da pomaže maturantima prilikom upisa

U ožujku 2023. godine način stvaranja i razmjenjivanja informacija u svijetu drastično se promijenio. Objavljivanjem platforme GPT 4.0 tvrtke OpenAI, koja spada u takozvane „Large Language Models“ (LLM), svijet umjetne inteligencije učinio je veliki korak naprijed. Razumijevanje i generiranje jezika u sklopu umjetne inteligencije bili su poboljšani, što je dovelo do prirodnije i točnije interakcije. „Multimodalne“ mogućnosti također su uvedene, što je omogućilo obradu i generiranje vizualnog sadržaja u svrhu kvalitetnije komunikacije i ispunjenja umjetnoj inteligenciji zadanih zapovijedi. Ove godine je Fakultet elektrotehnike i računarstva (FER) u Zagrebu odlučio uhvatiti korak s tim velikim globalnim trendovima. U suradnji s IT tvrtkom Infobip iz Pule stvorili su chatbot Branka, nazvan po profesorici i prvoj ženskoj doktorandici elektrotehnike u Hrvatskoj Branki Zovko-Cihlar, koji je prilikom ovogodišnjih upisa svim maturantima bio dostupan na web stranicama fakulteta kao izvor najbitnijih informacija o upisima i odgovarao im na sva goruća pitanja vezana uz sam fakultet. Što su sve maturanti trebali za to? Kliknuti na Brankinu ikonu na službenoj stranici FER-a i postaviti Branki pitanje – chatbot Branka ih samostalno analizira i precizno na njih odgovara, kao i na sva dodatna pitanja. Bilo da je pitanje o točnim datumima upisa ili dostupnim smjerovima na FER-u, Branka zna sve odgovore.

Chatbot Branka nazvan je po profesorici i prvoj ženskoj doktorandici elektrotehnike u Hrvatskoj, Branki Zvonko-Cihlar, FOTO: FER Zagreb

Chatbot Branka je LLM, isto kao i svjetski slavan GPT 4.0. LLM ili „veliki jezični model“ vrsta je modela umjetne inteligencije dizajnirana za razumijevanje i generiranje ljudskog jezika. Ti modeli izgrađeni su korištenjem arhitekture neuronske mreže, često temeljene na transformatorima, i obučeni su na golemim količinama tekstualnih podataka. „Veliko“ u „velikim jezičnim modelima“ odnosi se na gigantske razmjere tih modela koji imaju milijarde ili čak trilijune parametara, što su uglavnom prilagodljive komponente koje pomažu modelu umjetne inteligencije da nauči obrasce u jeziku.

„U pozadini sustava je ono što nazivamo ‘veliki jezični model’ tj. na engleskom Large language model – LLM. Najpoznatiji takav sustav je trenutno onaj od OpenAI-ja, ChatGPT. Naš chatbot Branka koristi snagu LLM-a i konkretne informacije s kojima smo je ‘istrenirali’ tj. ‘naučili’ je da zna odgovarati na pitanja vezana uz upis na FER. Implementirana je u obliku ‘chat widgeta’, malog pop-up prozorčića koji se nalazi u kutu stranice za upis na FER i svi posjetitelji stranice mogu otvoriti chat i započeti s njom razgovor. Sustav je ‘istreniran’ s podacima relevantnima za upis na FER, dakle s pravilnicima, odlukama Fakultetskog vijeća, postojećim uputama za upis, kao i s često postavljanim pitanjima (FAQ) koja se mogu naći na našim stanicama za upis, ali način komuniciranja koji sustav nudi, tj. razgovor s botom, korisnicima je često brži i jednostavniji od klasičnog čitanja ili pretraživanja velike količine teksta“, rekao je na početku razgovora za MegaWatt Tomislav Jagušt s Fakulteta elektrotehnike i računarstva u Zagrebu.

‘Način komuniciranja koji sustav nudi, tj. razgovor s botom, korisnicima je često brži i jednostavniji od klasičnog čitanja ili pretraživanja velike količine teksta’, kaže Jagušt

Tomislav Jagušt docent je na FER-u na Zavodu za primijenjeno računarstvo i bio je jedan od glavnih sudionika u stvaranju chatbota Branka. Njegov glavni zadatak bio je koordinirati tim koji su činili stručnjaci i razvojni inženjeri s FER-a i iz tvrtke Infobip te nekoliko osoba s domenskim znanjem, tj. djelatnika Studentske službe FER-a. Jagušt je diplomirao i doktorirao računarstvo na FER- u i prilikom svog obrazovanja odredio je „tehnologijom podržano obrazovanje“ – teoriju i praksu upotrebe raznih tehnoloških pomagala u obrazovanju – kao svoje glavno područje interesa. Mnoge stvari spadaju u tu kategoriju, najčešće su to računala i pametni telefoni, ali uz hardver, tu ulazi i softver, na što se konkretno i Jagušt najviše fokusira. U takva softverska rješenja Jagušt ubraja „razne web ili mobilne aplikacije za učenje, igre, sustave koji koriste igrifikaciju, adaptivnost“, a u najnovije vrijeme i različite vidove umjetne inteligencije kao što su i chatbotovi poput Branke.

‘Ovim smo pokazali da sustavi AI-ja mogu biti odlična pomoć koji često mogu riješiti veliku većinu problema’, rekao je docent Tomislav Jagušt, FOTO: FER Zagreb

„FER kontinuirano radi na poboljšanju svoje nastave, ali i svih ostalih procesa koji se odvijaju na Fakultetu. Tako smo u jednom od razgovora s djelatnicima svoje studentske službe došli na ideju da pokušamo smanjiti opterećenje djelatnika službe izradom AI pomoćnika. Naime, tijekom srpnja studentska služba ima jako puno posla, potrebno je evidentirati sve ispite, ocjene, upise godina i predmeta postojećih studenata, a u isto vrijeme obaviti i upis brucoša. Brucoši često imaju razna pitanja vezana uz upis i iako na našem webu postoji dokument s često postavljanim pitanjima kao i drugi relevantni dokumenti (pravilnici, odluke o upisu, upute i sl.), oni ipak često direktno kontaktiraju studentsku službu, e-mailom, telefonom ili preko društvenih mreža. Izradom chatbota koji raspolaže svim relevantnim informacijama o upisima, željeli smo rasteretiti studentsku službu u tom periodu, a svojim budućim studentima omogućiti brz dolazak do traženih informacija“, opisao je početak rada na projektu Tomislav Jagušt.

Ubrzo je FER stupio u kontakt s IT i telekomunikacijskom tvrtkom Infobip baziranom u Puli, hrvatskim „jednorogom“ – startup tvrtkom u privatnom vlasništvu čija vrijednost prelazi milijardu dolara. Tvrtka je, prema Jaguštu, „jedna od najznačajnijih IT tvrtki u Hrvatskoj“, a zapošljava mnogo bivših FER-ovih studenata. Zbog toga FER i Infobip već godinama surađuju na raznim projektima i događanjima pa je tako i projekt chatbota Branka samo prirodno napredovanje i proširivanje te već uspostavljene suradnje. Pogotovo s obzirom na to da Infobip razvija vlastiti sustav za „kreiranje i treniranje AI pomoćnika tj. chatbotova“, koji su djelatnici FER-a u suradnji s Infobipom jednostavno prilagodili svojim potrebama, ispunivši ga svim bitnim informacijama.

„Sam sustav koji razvijaju naši partneri iz Infobipa je prilično generički i njegova jezgra tj. ‘engine’ je već primijenjena u nekoliko komercijalnih chatbotova. Koriste ga, koliko znam, jedna osiguravajuća kuća, web stranica s kulinarskim receptima i još neki korisnici. Mi ćemo sigurno nastaviti suradnju i implementirati sustav kao podršku još nekih procesa na FER-u, a i Infobip radi slično, uvodi mini chatbotove kako bi svojim djelatnicima olakšao snalaženje u administrativnim poslovima“, pojasnio je Tomislav Jagušt.

Rezultat? Apsolutan uspjeh. Tijekom ovogodišnjih upisa se broj direktnih upita upućenih Studentskoj službi FER-a drastično smanjio, „pogotovo oni najčešći“ za koje je Branka bila „posebno istrenirana da daje detaljne odgovore“, prema riječima Tomislava Jagušta. Ako se, pak, radilo o vrlo specifičnim i individualnim problemskim pitanjima, na koja chatbot Branka nije mogao odgovoriti, maturantu su bili proslijeđeni daljnji kontakti za Studentsku službu kako bi se njegov problem razriješio. Ovo prema Jaguštu otkriva jednu bitnu točku u razvoju sustava umjetne inteligencije. Oni mogu biti „odlična pomoć i često mogu riješiti veliku većinu problema“, ali uvijek mora postojati mogućnost stupanja u kontakt sa stvarnom osobom koja nadopunjava sve one potrebe koje umjetna inteligencija još ne može ispuniti.

Iako su jesenski rokovi za upise na fakultete tek pred vratima, Fakultet elektrotehnike i računarstva u Zagrebu već gleda prema budućnosti. Ideja je da se sustavi poput chatbota Branke razviju i za neke druge procese na FER- u, poput „pomaganju postojećim studentima prilikom upisa godine ili, recimo, djelatnicima prilikom popunjavanja putnih naloga i slično“, prema primjerima Tomislava Jagušta. Uglavnom, radi se o situacijama gdje korisnik često griješi ili nije siguran u ispravan način postupanja prilikom neke aktivnosti. Chatbotovi poput Branke u takvim situacijama su izvrsno pomagalo koje brzo i efikasno rješava probleme još u ovim relativno niskim stupnjevima razvoja, a koje ipak ukazuje na obećavajuću budućnost umjetne inteligencije.

‘Izradom chatbota koji raspolaže svim relevantnim informacijama o upisima željeli smo rasteretiti studentsku službu u ljetnom periodu i očito smo uspjeli’

„Pitanje o budućnosti umjetne inteligencije u Hrvatskoj je prilično nezahvalno. Zapravo, svako pitanje koje uključuje predviđanje budućnosti je nezahvalno. Pa, rekao bih da je sadašnjost prilično dobra, mislim da pratimo trendove i u mnogim istraživanjima držimo korak sa svijetom. Jasno, za neke ‘cutting edge’ proizvode potrebni su i ogroman novac i resursi, koji kod nas ipak nisu dostupni, ali u skladu s mogućnostima, stojimo prilično dobro. Kako je umjetna inteligencija posljednjih godina počela nalaziti primjenu u raznim područjima, tako je i na FER-u veliki broj znanstvenika i istraživačkih skupina uključio određene oblike AI-ja u svoja istraživanja. Zbog toga smatram da nam je i budućnost dobra. Jasno, to je područje koje se jako razvija i još uvijek ima puno toga što je potrebno istražiti, provjeriti ima li mogućnosti za poboljšanja. A to je onda i prirodno okruženje za istraživače i znanstvenike – tu možemo eksperimentirati, osmišljavati nove algoritme, poboljšavati postojeće te implementirati ili predlagati vlastita rješenja za neke izazove koji se pojavljuju“, zaključio je razgovor za MegaWatt koordinator projekta chatbota Branka Tomislav Jagušt.