Meta poduzima korake kako bi suzbila širenje intimnih slika tinejdžera na Facebooku i Instagramu. Novi alat, pod nazivom Take It Down, cilja na praksu koja se obično naziva “pornografija iz osvete”, gdje netko objavi eksplicitnu sliku pojedinca bez njegovog pristanka kako bi ga javno osramotio ili prouzročio uznemirenost. Praksa je u posljednjih nekoliko godina naglo porasla na društvenim mrežama, osobito među mladim dečkima.

Take It Down, kojim upravlja i vodi Nacionalni centar za nestalu i zlostavljanu djecu, omogućit će maloljetnicima da po prvi put anonimno prikače hash – ili digitalni otisak prsta – na intimne slike ili videozapise izravno sa svojih uređaja, i prenesite ih na novu platformu. Da bi napravio hash eksplicitne slike, tinejdžer može posjetiti web stranicu TakeItDown.NCMEC.org i instalirati softver na svoj uređaj. Anonimizirani broj, a ne slika, tada će biti pohranjen u bazi podataka povezanoj s Metom tako da će se fotografija, ako se ikada objavi na Facebooku ili Instagramu, usporediti s originalom, pregledati i potencijalno ukloniti.

“Ovo je pitanje bilo nevjerojatno važno za Metu jako, jako dugo jer je učinjena šteta prilično ozbiljna u kontekstu tinejdžera ili odraslih”, rekla je Antigone Davis, globalna direktorica sigurnosti Mete. “To može naštetiti njihovom ugledu i obiteljskim odnosima te ih staviti u vrlo ranjiv položaj. Važno je da pronađemo alate poput ovog koji će im pomoći da povrate kontrolu nad onim što može biti vrlo teška i razorna situacija.”

Alat radi za sve slike koje se dijele na Facebooku i Instagramu, uključujući Messenger i izravne poruke, sve dok su slike nekriptirane.

Osobe mlađe od 18 godina mogu koristiti Take It Down, a roditelji ili odrasle osobe od povjerenja također mogu koristiti platformu u ime mlade osobe. Napore u potpunosti financira Meta i temelji se na sličnoj platformi koju je pokrenula 2021. zajedno s više od 70 nevladinih organizacija, pod nazivom StopNCII, kako bi spriječila pornografiju osvete među odraslima.

Od 2016. NCMEC-ova linija za cyber dojavu primila je više od 250 000 prijava online namamljivanja, uključujući seksualno iznuđivanje, a broj tih prijava više se nego udvostručio između 2019. i 2021. Prošle godine 79% prijestupnika tražilo je novac za čuvanje fotografija offline, prema neprofitnoj organizaciji. Mnogi od ovih slučajeva odigrali su se na društvenim mrežama.
Metina nastojanja dolaze gotovo godinu i pol nakon što su senatori kritizirali Davisa zbog utjecaja koje njegove aplikacije imaju na mlađe korisnike, nakon što je eksplozivno izvješće pokazalo da je kompanija bila svjesna da bi Instagram u vlasništvu Facebooka mogao imati “toksični” učinak na tinejdžerice. Iako je tvrtka od tada izbacila pregršt novih alata i zaštita, neki stručnjaci kažu da je trajalo predugo i da se mora učiniti više.

U međuvremenu, predsjednik Biden je u svom najnovijem govoru o stanju unije zahtijevao veću transparentnost o algoritmima tehnoloških tvrtki i načinu na koji oni utječu na mentalno zdravlje njihovih mladih korisnika.

Kao odgovor, Davis je rekla za CNN da Meta “pozdravlja napore da se uvedu standardi za industriju o tome kako osigurati da se djeca mogu sigurno kretati i uživati ​​u svemu što online usluge mogu ponuditi.”

U međuvremenu je rekla da tvrtka nastavlja umnažati napore kako bi zaštitila svoje mlade korisnike, posebno kada je u pitanju zadržavanje eksplicitnih fotografija sa svoje stranice.

“Seksualno iznuđivanje jedan je od najvećih rastućih zločina koje vidimo u Nacionalnom centru za nestalu i iskorištavanu djecu”, rekao je Gavin Portnoy, potpredsjednik komunikacija i brendiranja pri NCMEC-u. “Mi to zovemo skrivena pandemija, a nitko o tome zapravo ne govori.”

Portnoy je rekao da je također došlo do porasta broja mladih koji umiru samoubojstvom kao rezultat seksualnog iznuđivanja. “To je pokretačka snaga iza stvaranja Take It Down, zajedno s našim partnerima”, rekao je. “To doista daje priliku preživjelima da kažu, gledaj, neću dopustiti da mi to radiš. Imam moć nad svojim slikama i video zapisima.”

Uz Meta platforme, OnlyFans i Pornhubova matična tvrtka MindGeek također dodaju ovu tehnologiju u svoje usluge.

Ali ograničenja postoje. Kako bi zaobišli tehnologiju raspršivanja, ljudi mogu mijenjati izvorne slike, primjerice obrezivanjem, dodavanjem emotikona ili njihovim skraćivanjem. Sustav će i dalje označavati neke promjene, kao što je dodavanje filtra za sepiju ili crno-bijelu fotografiju. Meta preporučuje tinejdžerima koji imaju više kopija slike ili uređenih verzija da naprave hash za svaku od njih.

“Ne postoji jedinstveni lijek za pitanje seksualnog iznuđivanja ili pitanje dijeljenja intimnih slika bez pristanka”, rekao je Davis. “Zaista je potreban holistički pristup.”

Tvrtka je pokrenula niz ažuriranja kako bi tinejdžerima pomogla da imaju iskustvo primjereno njihovoj dobi na svojim platformama, poput dodavanja novih alata za nadzor za roditelje, tehnologije za provjeru dobi i mogućnosti postavljanja za tinejdžere na najprivatnije postavke na Facebooku i Instagramu.
Ovo nije prvi put da velika tehnološka tvrtka ulaže resurse u suzbijanje eksplicitnih slika maloljetnika. Godine 2022. Apple je odustao od svojih planova za pokretanje kontroverznog alata koji bi provjeravao fotografije iPhonea, iPada i iClouda na sadržaj seksualnog zlostavljanja djece nakon oštre reakcije kritičara koji su osudili potencijalne implikacije te značajke na privatnost.

“Djeca se mogu zaštititi bez tvrtki koje pretražuju osobne podatke, a mi ćemo nastaviti raditi s vladama, zagovornicima djece i drugim tvrtkama kako bismo zaštitili mlade ljude, očuvali njihovo pravo na privatnost i učinili internet sigurnijim mjestom za djecu i za nas sve”, rekla je tvrtka u priopćenju dostavljenom Wiredu u to vrijeme.

Davis nije komentirao očekuje li kritike za Metin pristup, ali je primijetio da “postoje značajne razlike između alata koji je Apple lansirao i alata koji NCMEC lansira danas.” Naglasila je da Meta neće provjeravati slike na telefonima korisnika.

“Pozdravljam svakog člana industrije koji pokušava uložiti u napore da spriječi ovakvu vrstu užasnog zločina da se dogodi na njihovim aplikacijama”, dodala je.