Korisnici popularne platforme za online igre Roblox koji žele koristiti chat uskoro će morati potvrditi svoju dob, i to prilaganjem službenog ličnog dokumenta ili dopuštanjem alatu s umjetnom inteligencijom da im skenira lice.
Ovaj potez odgovor je na niz tužbi i optužbi da platforma omogućuje seksualnim predatorima kontakt i zlostavljanje djece, a iz Robloxa poručuju da će ažurirana pravila olakšati sprečavanje povezivanja mladih korisnika s nepoznatim odraslim osobama, piše CNN.
Pritisak zbog tužbi za ugrožavanje djece
Roblox, platforma na kojoj korisnici stvaraju i igraju online igre te međusobno komuniciraju, dugo se reklamirala kao zabavan način za učenje kodiranja, a za razliku od mnogih drugih platformi, dopušta korisnike mlađe od 13 godina.
S više od 150 miliona korisnika širom svijeta, od kojih je trećina mlađa od 13, kompanija se našla pod velikim pritiskom javnosti nakon izvjetaja o djeci koja su vrbovana, zlostavljana, a u nekim slučajevima i oteta od strane odraslih koje su upoznali na platformi.
Državni tužioci Kentakija i Louizijane podnijeli su odvojene tužbe optužujući Roblox za nanošenje štete djeci, dok je državni tužilac Floride prošlog mjeseca izdao kazneni nalog za dobivanje informacija od kompanije, nazivajući platformu “plodnim tlom za predatore”.
Kompaniju su tužile i pojedine porodice, uključujući Beccu Dallas, koja tvrdi da je njen 15-godišnji sin Ethan počinio samoubistvo nakon što je bio vrbovan putem Robloxa i aplikacije za dopisivanje Discord.
Kako će funkcionisati nova provjera?
Prema novim pravilima, svi korisnici moraće potvrditi svoju dob prije pristupanja chat opcijama.
Ako ne žele učitati osobni dokument, moraće snimiti svoje lice kako bi umjetna inteligencija procijenila njihovu dob pomoću tehnologije kompanije Persona. Alat će korisnike smjestiti u procijenjene dobne grupe – mlađi od 9, 9-12, 13-15, 16-17, 18-20 ili 21+ – te će im biti dopušteno razgovarati samo s drugim korisnicima unutar ili blizu tog raspona.
Na primjer, korisnik procijenjen na 12 godina moći će razgovarati s korisnicima do 15 godina, ali ne i sa starijima od 16. Ako AI pogriješi, korisnici stariji od 13 godina mogu ispraviti svoju dob učitavanjem ličnog dokumenta, a roditelji to mogu učiniti za svoju djecu putem alata za roditeljski nadzor.
Bezbjednost kao prioritet
Roblox već ima određene mehanizme zaštite, poput roditeljskog nadzora, blokiranja dijeljenja fotografija i ličnih podataka te ljudske i AI moderacije sadržaja.
Ali, očekuje se da će novo ažuriranje značajno povećati broj korisnika koji potvrđuju svoju dob.
“Naš prioritet su bezbjednost i uljudnost”, izjavio je Matt Kaufman, glavni direktor za bezbjednost u Robloxu.
“Želimo Roblox učiniti bezbjednim, pozitivnim iskustvom primjerenim dobi za svakoga. Postavili smo izuzetno visoke standarde za sebe i razumijemo da javnost očekuje isto od nas.”
Kompanija tvrdi da će se slike lica koristiti isključivo za procjenu dobi i da će biti izbrisane odmah nakon svrstavanja u dobnu grupu.
Najava se poklapa s planiranim “virtualnim prosvjedom” koji organizuje neprofitna organizacija ParentsTogether Action, pozivajući na jače bezbjednosne mjere. Dolazi i u vrijeme kada sve više platformi, poput YouTubea i Mete, uvodi AI za procjenu dobi korisnika, prenosi Index.
Pouzdanost tehnologije i sprečavanje prevara
Iz Robloxa nisu podijelili specifičnu stopu točnosti svoje AI tehnologije, ali Kaufman je rekao da je “obično prilično tačna unutar jedne ili dvije godine” za korisnike između 5 i 25 godina. Iako su neki korisnici na drugim platformama pronalazili načine za zaobilaženje ovakvih provjera, Kaufman tvrdi da Robloxova tehnologija ima “prilično snažne provjere prevara” da bi se utvrdilo je li osoba “živa” te da sistem traži “druge anomalije, poput ljudi koji pokušavaju iznova koristiti isto lice”.
Uvođenje provjere dobi započinje danas na dobrovoljnoj bazi. Postaće obvezna u Australiji, Novom Zelandu i Nizozemskoj u decembru, a na globalnom nivou početkom sljedeće godine.