TikTok je zabranio 20 korisničkih naloga nakon što je BBC pisao o profilima afroameričkih influenserki generisanih vještačkom inteligencijom kako bi se korisnici usmjerili na stranice koje promovišu seksualno eksplicitan sadržaj.
Oni su dio rastućeg trenda naloga na Instagramu i TikToku koji je kritikovan kao rasistički, eksploatatorski i obmanjujući zbog rasnih klišea i jezika koji se koriste.
BBC i istraživači iz nezavisne publikacije o vještačkoj inteligenciji Riddance pronašli su desetine računa na dvije platforme s izrazito seksualiziranim digitalnim likovima ili avatarima Afroamerikanki.
Fotografije i videozapisi su generisani pomoću umjetne inteligencije, ali nisu označeni kao takvi, što je očigledno kršenje smjernica platforme.
Skoro svi profili su bili na Instagramu, a otprilike trećina je imala verzije i na TikToku. Matična kompanija Instagrama rekla je za BBC da istražuje slučaj, ali nije rekla da je preduzela bilo kakve mjere.
Avatari su često prikazani u oskudnoj odjeći. Neki imaju izuzetno tamne tonove kože koji su digitalno manipulisani, što im daje vještački izgled.
Nekoliko njih uključuje komentare o osobama bijele puti u svojim objavama, kao što su “voli bijelce” i “zašto mi treba bijelac u životu”.
BBC je, u saradnji s analitičarima Jeremyjem Carrascom i Angel Nulani iz Riddancea, identifikovao 60 takvih računa, uglavnom na Instagramu, koji su sadržavali linkove, ili lance linkova, do plaćenog seksualno eksplicitnog sadržaja na stranicama trećih strana. Stranice su označile slike kao generisane umjetnom inteligencijom, ali Instagram nalozi nisu.
Jedan od računa koje je TikTok ugasio, iako je u vrijeme objavljivanja još uvijek bio aktivan na Instagramu, izazvao je dodatni bijes krađom videa od stvarnih ljudi.
Predstavljen je kao prikaz upečatljivog lika generiranog umjetnom inteligencijom i prikupio je tri miliona pratilaca u roku od nekoliko sedmica od svog stvaranja u decembru.
Umjetna inteligencija je modifikovala i objavila videozapise od originalne kreatorke sadržaja Riye Ulan, modela sa sjedištem u Maleziji.
Lice avatara, koje ima izuzetno tamnu, vještački stvorenu nijansu kože, preklopljeno je preko njenog tijela.
“Bila sam ljuta. Naravno da su svi moji videozapisi dostupni… To ne znači da ih možete jednostavno uzeti, ukrasti i objaviti kao svoje”, rekla je.
Jedan od manipulisanih videa dostigao je više od 35 miliona pregleda na TikToku i 173 miliona na Instagramu, što je oko 47 puta više od pregleda Riyine originalne objave.
Iako tri videa koja se jasno podudaraju s Riyinim sadržajem nisu seksualne prirode, drugi videozapisi na AI računu koji koriste isti digitalno kreirani lik pokazuju to otkrivanjem odjeće ili izvođenjem provokativnih radnji. Lanac linkova s računa vodi do plaćenog sadržaja za odrasle.
Meta je saopštila da istražuje sadržaj koji joj je dostavljen.