NEW YORK — Ne, Katy Perry i Rihanna ove godine nisu bile na Met Gali. Ali to nije spriječilo slike generirane umjetnom inteligencijom da prevare neke obožavatelje da pomisle da su se zvijezde pojavile na stepenicama najveće modne večeri.
Deepfake slike koje prikazuju nekolicinu velikih imena na godišnjem prikupljanju sredstava u Muzeju umjetnosti Metropolitan brzo su se proširile internetom u ponedjeljak i rano u utorak.
Neki oštrooki korisnici društvenih medija uočili su odstupanja — a same platforme, poput X’s Community Notes, ubrzo su primijetile da su slike vjerojatno stvorene pomoću umjetne inteligencije. Jedan od tragova da je virusna slika Perryja u haljini prekrivenoj cvijećem, na primjer, bila lažna jest da je tepih na stepenicama odgovarao onom s događaja 2018., a ne ovogodišnjoj zeleno obojenoj tkanini podstavljenoj živim lišćem.
Ipak, drugi su bili prevareni – uključujući Perryjevu majku. Nekoliko sati nakon što su se najmanje dvije slike pjevačice koje je generirala umjetna inteligencija počele vrtjeti internetom, Perry ih je ponovno objavila na svom Instagramu, popraćena snimkom zaslona teksta koji je izgledao kao da je od njezine mame koja joj daje kompliment za ono što je mislila da je pravo pojavljivanje na Met Gala.
“lol mama, AI je i tebe dohvatila, ČUVAJ SE!” Perry je odgovorio u razmjeni.
Predstavnici Perryja nisu odmah odgovorili na zahtjev Associated Pressa za dodatnim komentarima i informacijama o tome zašto Perry nije bio na događaju u ponedjeljak navečer. Ali u opisu svoje objave na Instagramu, Perry je napisala, “nije mogla stići na MET, morala je raditi.” Objava je također uključivala video njezinog pjevanja bez zvuka.
U međuvremenu, lažna slika Rihanne u prekrasnoj bijeloj haljini izvezenoj cvijećem, pticama i granama također je kružila internetom. Multihyphenate je prvotno bila potvrđena gošća ovogodišnje Met Gale, ali su predstavnici Voguea rekli da ona neće doći prije nego što zatvore tepih u ponedjeljak navečer.
Časopis People izvijestio je da je Rihanna imala gripu, ali predstavnici nisu odmah potvrdili razlog njezine odsutnosti. Rihannini predstavnici također nisu odmah odgovorili na zahtjeve za komentarom na sliku zvijezde koju je generirala umjetna inteligencija.
Dok je izvor ili izvore ovih slika teško otkriti, realistična pozadina Met Gala koja se vidi na mnogima sugerira da je koji god AI alat korišten za njihovu izradu vjerojatno bio uvježban na nekim slikama prošlih događaja.
Službeni fotograf Met Gala, Getty Images, odbio je komentirati u utorak.
Prošle godine Getty je tužio vodeći generator slika umjetne inteligencije, Stability AI sa sjedištem u Londonu, navodeći da je bez dopuštenja kopirao više od 12 milijuna fotografija iz Gettyjeve kolekcije stock fotografija. Getty je od tada pokrenuo vlastiti AI generator slika obučen na njegovim radovima, ali blokira pokušaje generiranja onoga što opisuje kao “problematičan sadržaj”.
Ovo nije prvi put da smo vidjeli generativnu umjetnu inteligenciju, granu umjetne inteligencije koja može stvoriti nešto novo, a koja se koristi za stvaranje lažnog sadržaja. Slike, video i audio lažne slike istaknutih osoba, od pape Franje do Taylor Swift, već su prije imale veliku popularnost na internetu.
Stručnjaci primjećuju da svaki slučaj naglašava rastuću zabrinutost oko zlouporabe ove tehnologije — osobito u pogledu dezinformacija i potencijala za provođenje prijevara, krađe identiteta ili propagande, pa čak i izborne manipulacije.
“Nekada je bilo da je vidjeti vjerovati, a sada vidjeti nije vjerovati”, rekla je Cayce Myers, profesorica i voditeljica diplomskih studija na Virginia Tech School of Communication – ukazujući na utjecaj Perryjeve slike koju je u ponedjeljak stvorio AI. “(Ako) se čak i majka može prevariti da misli da je slika stvarna, to vam pokazuje razinu sofisticiranosti koju ova tehnologija sada ima.”
Iako se korištenje umjetne inteligencije za generiranje slika slavnih u lažnim luksuznim haljinama (za koje se lako dokaže da su lažne na događajima s velikim publicitetom poput Met Gale) može činiti relativno bezopasnim, Myers i drugi primjećuju da postoji dobro dokumentirana povijest ozbiljnije ili štetnije upotrebe ove vrste tehnologije.
Ranije ove godine, seksualno eksplicitne i uvredljive lažne slike Swift, na primjer, počele su kružiti internetom — zbog čega je X, bivši Twitter, privremeno blokirao neka pretraživanja. Žrtve deepfakea bez pristanka su, naravno, i dalje od slavnih osoba, a zagovornici naglašavaju posebnu zabrinutost za žrtve koje imaju malo zaštite. Istraživanja pokazuju da eksplicitni materijal generiran umjetnom inteligencijom uvelike šteti ženama i djeci — uključujući uznemirujuće slučajeve golih tijela generiranih umjetnom inteligencijom koji kruže srednjim školama.
A u izbornoj godini za nekoliko zemalja diljem svijeta, stručnjaci također nastavljaju ukazivati na potencijalne geopolitičke posljedice koje bi obmanjujući materijal generiran umjetnom inteligencijom mogao imati.
“Implikacije ovdje nadilaze sigurnost pojedinca – i doista se dotiču stvari kao što su sigurnost nacije, sigurnost cijelog društva”, rekao je David Broniatowski, izvanredni profesor na Sveučilištu George Washington i vodeći glavni istraživač Institut za pouzdanu umjetnu inteligenciju u pravu i Društvo u školi.
Iskoristiti ono što generativna umjetna inteligencija može ponuditi dok se gradi infrastruktura koja štiti potrošače težak je zadatak — pogotovo jer komercijalizacija tehnologije nastavlja rasti tako velikom brzinom. Stručnjaci ističu potrebu za korporativnom odgovornošću, univerzalnim industrijskim standardima i učinkovitom državnom regulativom.
Tehnološke tvrtke uvelike odlučuju kada je riječ o upravljanju umjetnom inteligencijom i njezinim rizicima, dok vlade diljem svijeta rade na tome da ih sustignu. Ipak, ostvaren je značajan napredak tijekom prošle godine. U prosincu je Europska unija postigla dogovor o prvim svjetskim sveobuhvatnim pravilima umjetne inteligencije, ali akt neće stupiti na snagu dvije godine nakon konačnog odobrenja.
_____________
Reporteri AP-a Matt O’Brien iz Providencea, Rhode Island i Kelvin Chan iz Londona doprinijeli su ovom izvješću.
