Ključne osobe u području umjetne inteligencije žele da se obustava moćnih AI sustava obustavi zbog straha od prijetnje čovječanstvu.
OpenAI, tvrtka koja stoji iza ChatGPT-a, nedavno je izdala GPT-4, najsuvremeniju tehnologiju koja je impresionirala promatrače svojom sposobnošću obavljanja zadataka kao što je odgovaranje na pitanja o objektima na slikama.

Pismo Instituta za budućnost života, koje su potpisali inovatori, želi da se razvoj privremeno zaustavi na toj razini, upozoravajući u svom pismu na rizike koje bi budući napredniji sustavi mogli predstavljati.

“Sustavi umjetne inteligencije s ljudsko-konkurentnom inteligencijom mogu predstavljati duboke rizike za društvo i čovječanstvo”, kaže se. Future of Life Institute neprofitna je organizacija koja kaže da je njezina misija “usmjeriti transformativne tehnologije od ekstremnih, velikih rizika prema životu”.

Musk, vlasnik Twittera i izvršni direktor automobilske tvrtke Tesla, naveden je kao vanjski savjetnik organizacije.

Napredne umjetne inteligencije potrebno je pažljivo razvijati, stoji u pismu, ali umjesto toga, “posljednjih mjeseci vidjeli smo laboratorije umjetne inteligencije u nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova koje nitko, čak ni njihovi kreatori”, ne može razumjeti, predvidjeti ili pouzdano kontrolirati”.

Pismo upozorava da bi umjetna inteligencija mogla preplaviti informacijske kanale dezinformacijama i zamijeniti poslove automatizacijom. Pismo je uslijedilo nakon nedavnog izvješća investicijske banke Goldman Sachs u kojem se kaže da bi umjetna inteligencija vjerojatno povećala produktivnost, ali bi milijuni poslova mogli postati automatizirani.

Međutim, drugi stručnjaci rekli su za BBC da je učinak umjetne inteligencije na tržište rada vrlo teško predvidjeti.

Više spekulativno, pismo pita: “Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti i zamijeniti nas?”

U nedavnoj objavi na blogu citiranom u pismu, OpenAI je upozorio na rizike ako se umjetna opća inteligencija (AGI) razvije nepromišljeno: “Pogrešno usklađena superinteligentna AGI mogla bi uzrokovati veliku štetu svijetu; autokratski režim s odlučujućim vodstvom u superinteligenciji mogao bi učiniti to također.

“Koordinacija između AGI-jevih napora za usporavanje u kritičnim točkama vjerojatno će biti važna”, napisala je tvrtka. OpenAI nije javno komentirao pismo.

Musk je bio suosnivač OpenAI-ja, iako je dao ostavku na mjesto  u odboru organizacije prije nekoliko godina i kritički je tvitao o njezinom trenutnom smjeru.

Funkcije autonomne vožnje koje je izradila njegova automobilska tvrtka Tesla, kao i većina sličnih sustava, koriste AI tehnologiju. U pismu se traži od AI laboratorija da “odmah barem šest mjeseci prekinu obuku AI sustava moćnijih od GPT-4”. Ako se takva odgoda ne može brzo provesti, vlade bi trebale uskočiti i uvesti moratorij, kaže se.

Također bi bila potrebna “nova i sposobna regulatorna tijela posvećena umjetnoj inteligenciji”.

Nedavno je u SAD-u, Velikokj Britanij i EU izneseno nekoliko prijedloga za regulaciju tehnologije. Međutim, Velika Britanija je odbacila namjenskog regulatora za umjetnu inteligenciju.