Pukovnik američkih zračnih snaga “pogrešno se izrazio” kada je opisivao eksperiment u kojem je dron s AI-om tehnologijom odlučio napasti svog operatera kako bi dovršio zadanu misiju, priopćila je služba. Pukovnik Tucker Hamilton, šef testiranja i operacija umjetne inteligencije u američkim zračnim snagama, govorio je na konferenciji koju je organiziralo Royal Aeronautical Society.

Izvještaj o tome postao je viralan. Zračne snage kažu da do takvog eksperimenta nije došlo.

U svom je govoru opisao virtualni scenarij u kojem je dron s AI-om više puta zaustavljen od strane ljudskog operatera da dovrši svoj zadatak uništavanja mjesta raketa zemlja-zrak. Rekao je da je na kraju, unatoč tome što je bio obučen da ne ubije operatera, dron uništio komunikacijski toranj tako da operater više nije mogao komunicirati s njim.

“Nikada nismo proveli taj eksperiment, niti bismo to trebali da bismo shvatili da je ovo vjerojatan ishod”, kasnije je pojasnio pukovnik Hamilton u izjavi Kraljevskom zrakoplovnom društvu. Ljudi koji rade u tom sektoru nedavno su objavili brojna upozorenja o prijetnji koju čovječanstvu predstavlja umjetna inteligencija, iako se svi stručnjaci ne slažu koliko je to ozbiljan rizik.

Govoreći za BBC ranije ovog tjedna, prof Yoshua Bengio, jedan od trojice računalnih znanstvenika koji su opisani kao “kumovi” umjetne inteligencije nakon što su osvojili prestižnu Turingovu nagradu za svoj rad, rekao je kako misli da vojsci uopće ne bi trebalo dopustiti da ima ovlasti uporabe umjetne inteligencije . Opisao  je to kao “jedno od najgorih mjesta gdje bismo mogli postaviti superinteligentnu umjetnu inteligenciju”.

Unaprijed planirani scenarij?

Stručnjaci za obranu i umjetnu inteligenciju su svi bili vrlo skeptični prema tvrdnjama pukovnika Hamiltona, o kojima se naširoko izvještavalo. Jedan stručnjak za obranu rekao je da mu se čini da originalnoj priči pukovnika Hamiltona nedostajekontekst.

Bilo je i sugestija na društvenim mrežama da se takav eksperiment dogodio, vjerojatnije je da je to bio unaprijed planirani scenarij, a ne da je dron pokretan umjetnom inteligencijom tijekom zadatka samostalno odlučio promijeniti način izvođenja misije.

Steve Wright, profesor zrakoplovnog inženjerstva na Sveučilištu Zapadne Engleske i stručnjak za bespilotne letjelice, rekao je u šali da je “oduvijek bio obožavatelj filmova o Terminatoru” upitan da da svoje mišljenje . “U upravljačkim računalima zrakoplova postoje dvije stvari o kojima treba brinuti: ‘učini pravu stvar’ i ‘nemoj učiniti pogrešnu stvar’, tako da je ovo klasičan primjer drugog”, rekao je. “U stvarnosti to rješavamo tako da uvijek uključujemo drugo računalo koje je programirano korištenjem starih tehnika, a to može prekinuti vezu čim prvo učini nešto čudno”, rekao je Wright.