Američka glumica Jenna Ortega, zvijezda Netflixove serije “Srijeda”, bila je meta reklamne kampanje s lažnim golišavim slikama, a reklame su distribuirane na Facebooku i Instagramu u vlasništvu Mete, pokazuje NBC vijesti.
Jenna Ortega u viralnoj sekvenci iz serije “Srijeda” na NetflixuFoto: Netflix / Everett / Profimedia Images
Oglasnu kampanju provela je RichAds, tvrtka registrirana na Cipru, koja je promovirala aplikaciju za koju tvrdi da može koristiti umjetnu inteligenciju (AI) za stvaranje seksualno eksplicitnih slika od običnih fotografija.
NBC News pronašao je u Metinoj arhivi oglasa 12 reklama za aplikaciju nazvanu “Perky AI” koje koriste fotografiju Ortege iz vremena kada je imala 16 godina, a slika je uređena, a zatim izblijedjela kako bi se sugeriralo da je glumica gola.
Oglasi su rekli korisnicima Facebooka i Instagrama da aplikacija “Perky AI” može promijeniti Orteginu odjeću u različite kombinacije sve dok ne ostane “bez odjeće”.
21-godišnja američka glumica postala je međunarodna zvijezda zahvaljujući velikom uspjehu koji je postigla srijedaNetflixova serija snimljena u Rumunjskoj pod redateljskom palicom Tima Burtona, neke sekvence s Ortegom iz serije postale su viralne na društvenim mrežama poput Instagrama i TikToka.
RichAds, tvrtka koja je napravila lažne slike, sebe na svojoj web stranici opisuje kao “globalnu mrežu usluga” koja nudi različite načine za stvaranje push oglasa i drugih vrsta skočnih reklamnih poruka ili raznih obavijesti.
Meta se brani nakon pojave deepfakeova s Jennom Ortegom
NBC News primjećuje da je Meta suspendirala stranicu aplikacije “Perky AI” nakon što je kontaktirala tvrtku Marka Zuckerberga za komentar, ali da je prije toga tvrtka registrirana na Cipru pokrenula više od 260 oglasa na Metinim platformama od prošlog rujna.
“Meta strogo zabranjuje dječju golotinju, sadržaj koji seksualizira djecu i usluge koje nude gole slike generirane umjetnom inteligencijom bez pristanka”, rekao je Ryan Daniels, glasnogovornik Mete, u priopćenju za javnost.
Ali ovaj slučaj postavlja nova pitanja o dostupnosti ili sposobnosti Meta platformi da se bore protiv fenomena “deepfake” slika, posebno u situacijama kada su uključeni korisnici koji plaćaju.
Tvrtka na čelu s Markom Zuckerbergom dala je daljnja uvjeravanja u tom pogledu još prošlog mjeseca, rekavši da proširuje svoje napore u identificiranju slika generiranih ili modificiranih uz pomoć umjetne inteligencije kako bi se uklonile dezinformacije i “deepfake” sadržaj uoči izbora na održati u Sjedinjenim Američkim Državama Sjedinjenim Američkim Državama i drugim zemljama diljem svijeta 2024.
Apple također uhvaćen u kontroverzi oko ‘Perky AI’
Aplikacija “Perky AI” može se preuzeti s App Storea jer Appleova pravila online trgovine ne zabranjuju deepfake aplikacije. Međutim, odredbe i uvjeti App Storea zabranjuju aplikacije koje uključuju pornografiju, kao i one koje stvaraju “klevetnički, diskriminirajući i zlonamjerni sadržaj” ili koje bi mogle “poniziti, zastrašiti ili ozlijediti pojedinca ili grupu”.
Ali Apple je rekao da je aplikacija “Perky AI” već odbijena od App Storea 16. veljače zbog kršenja njegovih pravila o “eksplicitno seksualnom ili pornografskom materijalu” i da je bila pod 14-dnevnom provjerom u vrijeme kada je Tim Cook vodio tvrtka je kontaktirana za komentar.
Ali tijekom tog vremena aplikacija se još uvijek može preuzeti i koristiti. Ali Apple kaže da je u međuvremenu uklonio aplikaciju iz svoje internetske trgovine i suspendirao ciparsku tvrtku koja stoji iza nje iz svog programa za razvojne programere.
Ova nova kontroverza oko širenja seksualnih deepfakeova izbila je samo nekoliko tjedana nakon što je izbio veliki skandal oko platforme društvenih medija X Elona Muska, koja je omogućila široko širenje pornografskih slika pjevačice Taylor Swift.
“X” je u jednom trenutku blokirao pojavljivanje svih pretraga za imenom Taylor Swift na svojoj platformi dok nije uspio ukloniti sadržaj.
