Pokolj u dvije novozelandske džamije u petak, uživo prenošen u svijet, nije prvo emitiranje nasilnog zločina preko interneta, ali je pokazao da je zaustavljanje širenja takvih snimki online veliki izazov za tehnološke tvrtke usprkos godinama ulaganja.

Masakr u Christchurchu uživo je prenosio napadač preko svog Facebook profila 17 minuta. Facebook je priopćio da je uklonio video nakon što ga je na njega upozorila novozelandska policija.

Međutim, nekoliko sati kasnije, snimka je i dalje bila na Facebooku, Twitteru i YouTubeu, kao i na Instagramu i WhatsAppu. Ostala je dostupna i na internetskim stranicama za dijeljenje multimedijalnih sadržaja poput Mega.nz sa sjedištem u Novom Zelandu.

Ljudi koji su željeli proširiti snimku brzo su se dali u akciju i u roku od nekoliko minuta ona je bila na mnogim aplikacijama i web stranicama.

Facebook, Twitter, YouTube i Mega objavili su u petak da rade na uklanjanju kopija snimke.

Drugi uživo prenošeni nasilni zločini uključuju oca na Tajlandu koji je imao prijenos na Facebooku kako ubija svoju kćer 2017. Nakon više od jednog dana i 370.000 pregleda Facebook je uklonio video.

U SAD-u su također zabilježeni prijenosi uživo nasilnih napada: napad u Chicagu na 18-godišnjeg mladića s posebnim potrebama 2017. i ubojstvo muškarca u Clevelandu, Ohio, iste godine.

Facebook, najveća svjetska društvena mreža s oko 2,3 milijarde korisnika mjesečno diljem svijeta, utrostručila je svoj tim za sigurnost na 30.000 ljudi tijekom zadnje tri godina kako bi brže odgovorila na izvješća o uvredljivom sadržaju. Također se usredotočila na razvoj sustava umjetne inteligencije kako bi otkrila takav materijal bez prijave korisnika.

Viralno širenje još jedne užasne snimke navelo je političare diljem svijeta na isti zaključak: tehnološke tvrtke su podbacile.

Dok se video masakra nastavio širiti, bivša novozelandska premijerka Helen Clark izjavila je da tvrtke sporo uklanjaju govor mržnje.

“Što se to ovdje događa?”, upitala je ona misleći na to da je napadač mogao prenositi pokolj uživo čak 17 minuta. “Mislim da će to pridonijeti svim pozivima širom svijeta na učinkovitiju regulaciju platformi društvenih medija.”

Neki očekuju da će Facebook snositi posljedice.

Facebook “je pomogao pružiti platformu za današnji užasavajući napad i nedvojbeno će biti podvrgnut pitanjima zbog omogućavanja širenja toga”, rekao je Clement Thibault, analitičar na web stranici Investing.com.

Izbjegavanje otkrivanja

Nakon što je Facebook zaustavio prijenos uživo pokolja iz Christchurcha, rekao je moderatorima da obrišu sve kopije i pozitivne komentare na napad.

“Sav sadržaj kojim se hvali, podržava i predstavlja napad i napadač(i) treba ukloniti s naše platforme”, upute su koje je Facebook dao moderatorima sadržaja u Indiji, navodi se u emailu koji je vidio Reuters.

Korisnici čija je namjera bila podijeliti nasilnu video snimku imali su nekoliko pristupa. Kopije snimke koje je pogledao Reuters pokazuju da su neki korisnici snimili video na svoje mobitele ili računala kako bi napravili novu verziju s digitalnim otiskom koji se razlikuje od originala da bi izbjegli sustave otkrivanja. Drugi su podijelili kraće dijelove ili screenshotove s napadačevog prijenosa uživo. Pucnjava je počela oko šest minuta nakon početka 17-minutne snimke. Prijenos počinje s napadačem koji se vozi prema džamiji.

Na internetskom forumu Redditu korisnici su razmjenjivali informacije kako bi izbjegli akcije moderatora, upućujući jedni druge na video aplikacije koje još nisu poduzele mjere uklanjanja i šaljući snimku preko aplikacija za poruke.

Stručnjaci i poduzetnici specijalizirani za sustave otkrivanja izjavili su kako su bilo iznenađeni da su korisnici u prvim satima nakon napada mogli zaobići sustave Facebooka.

Joshua Buxbaum, glavni izvršni direktor Irvinea, tehnološke tvrtke WebPurify sa sjedištem u Kaliforniji, rekao je da bi Facebook ali i drugi mogli uvesti prepoznavanje slika ili druge vrste umjetne inteligencije kako bi identificirali kopije na dodatne načine.

“S obzirom na proračune koje imaju svakako bih pomislio da su u stanju iskorijeniti te video zapise”, kazao je Buxbaum.

Stručnjaci kažu da bi tvrtke mogle postaviti svoje alate i postupke za uklanjanje tako da budu agresivniji, ali su YouTube i Facebook rekli da žele biti pažljivi kako ne bi uklonili osjetljive zapise novinskih organizacija ili one koji imaju vrijednost vijesti.

Političari u više zemalja izjavili su da društvene mreže moraju biti opreznije.

“Ovo je slučaj gdje dajete platformu za mržnju”, rekao je američki demokratski senator Cory Booker, koji je nedavno objavio kandidaturu za predsjednika. “To je neprihvatljivo, nije se smjelo nikada dogoditi i trebalo je biti uklonjeno puno brže.”

Britanski ministar unutarnjih poslova Sajid Javid napisao je na Twitteru: “Što je previše, previše je.”