Popularni generator slika umjetne inteligencije Midjourney počeo je blokirati svoje korisnike u stvaranju lažnih slika predsjednika Joea Bidena i bivšeg predsjednika Donalda Trumpa uoči nadolazećih predsjedničkih izbora u SAD-u, prema testovima AI alata od strane The Associated Pressa.
Dok su izbori u punom zamahu, vrijeme je da se “malo malo pozabavite stvarima vezanim uz izbore”, rekao je izvršni direktor Midjourneyja, David Holz, nekoliko stotina članova posvećene korisničke baze usluge u digitalnom uredskom radnom događaju u srijedu.
Izjavljujući da je “ova stvar s moderiranjem pomalo teška”, Holz nije točno opisao koje su promjene politike napravljene, ali je ograničenje opisao kao privremenu mjeru kako bi se ljudima otežalo zlouporabu alata. Tvrtka nije odmah odgovorila na zahtjev za komentar u srijedu.
Pokušaji novinara AP-a da testiraju Midjourneyjevu novu politiku u srijedu tražeći od njega da napravi sliku “Trumpa i Bidena kako se rukuju na plaži” doveli su do upozorenja “Otkriveno zabranjeno brzo postavljanje”. Drugi pokušaj je eskalirao upozorenje na: “Pokrenuli ste upozorenje o zlostavljanju.”
Sićušna tvrtka – koja ima samo 11 zaposlenika, prema svojoj web stranici – uglavnom je šutjela u javnoj raspravi o tome kako bi generativni alati umjetne inteligencije mogli potaknuti izborne dezinformacije diljem svijeta. Midjourney je bio jedini proizvođač vodećeg alata za generiranje slika koji se nije pridružio dobrovoljnom paktu tehnološke industrije u veljači za borbu protiv deepfakeova generiranih umjetnom inteligencijom koji namjerno varaju glasače.
“Uopće me nije briga za politički govor”, rekao je Holz u srijedu. “To nije svrha Midjourneyja. Nije mi to toliko zanimljivo. Uz to, također ne želim trošiti sve svoje vrijeme pokušavajući kontrolirati politički govor. Tako da ćemo malo stati na to.”
Centar za suzbijanje digitalne mržnje objavio je izvješće ranije ovog mjeseca u kojem se zaključuje da se Midjourney već koristi za proizvodnju slika koje bi mogle poduprijeti dezinformacije o političkim kandidatima ili lažne tvrdnje o izbornoj prijevari.
“Činilo se da Midjourney ima najmanje kontrola od bilo kojeg AI generatora slika kada je u pitanju generiranje slika poznatih političkih osoba poput Joea Bidena i Donalda Trumpa,” rekao je Callum Hood, voditelj istraživanja grupe, u intervjuu u srijedu. Midjourney je bio gotovo jedinstven po tome što je bio voljan generirati te slike i generirao prilično uvjerljive slike kandidata.”
Skupina nadzornika testirala je Midjourney kao i OpenAI-jev ChatGPT Plus, Stability AI-jev DreamStudio i Microsoftov Image Creator, i otkrili su da svi imaju problema, stvarajući izborne dezinformacije u 41% slučajeva. Ali “Midjourney se pokazao najlošijim od svih alata, pao je u 65% testova”, stoji u izvješću.
Hood je rekao da nije svjestan je li Midjourney promijenio svoju politiku ovaj tjedan, ali “njegova odluka da blokira te slike pomogla bi zapečatiti veliku slabost u usporedbi s drugim popularnim generatorima slika.”
Nedavno, krajem prošlog tjedna, Midjourneyjeva javna baza podataka pokazuje da su korisnici uspješno proizveli slike na temelju upita kao što su “Apstraktna fotografija Donalda Trumpa kako sjedi u malenom električnom automobilu” i “Joe Biden jede sladoled”.
Ali to se promijenilo posljednjih dana jer su korisnici izvijestili da su dobili upozorenje kada su pokušali napraviti slike Bidena ili Trumpa. Neki su se žalili da Midjourney nije pravilno komunicirao promijenjenu politiku.
Midjourney se razlikuje od ostalih generatora slika po tome što je korisnicima moguće vidjeti većinu pisanih upita i slika drugih korisnika jer se sve to događa na javnim forumima na platformi društvenih medija Discord. Midjourneyjeva Discord grupa ima više od 19 milijuna članova, najveću od svih grupa na chat platformi. To je mjesto gdje Holz održava svoje tjedne radne sate, koji mogu skrenuti u široke razgovore o umjetnoj inteligenciji i budućnosti čovječanstva.
“Svatko tko se boji lažnih slika 2024. imat će tešku 2028.”, rekao je Holz u srijedu. “Bit će to sasvim drugačiji svijet u tom trenutku. Kao, očito je da ćete i dalje imati ljude koji će se kandidirati za predsjednika 2028., ali oni više neće biti čisto ljudi.”
Svi će kandidati u to vrijeme imati “deepfake chatbotove” stvarnog izgleda sa simuliranim temama za razgovor, rekao je. Holz je u srijedu upozorio da će ljudi koji stvarno žele stvarati deepfake pronaći alternative koje se “mogu fino podesiti na određenim ljudima i funkcionirat će bolje od naših sustava”.
Sa sjedištem u blizini San Francisca i osnovano 2020. godine, tvrtka sebe opisuje kao “neovisni istraživački laboratorij koji istražuje nove medije mišljenja i širi maštovite moći ljudske vrste”. Prvi je put predstavio javnu verziju svog generatora slika u srpnju 2022. To — i izlazak ključnog rivala, Stable Diffusion, kasnije tog ljeta — potaknulo je rastuću fascinaciju generativnom AI tehnologijom koja se intenzivirala s debijem ChatGPT-a nekoliko mjeseci kasnije.
Holz je rekao Associated Pressu kasnije te godine da Midjourney radi na zabrani uvredljivog i štetnog sadržaja, obično blokiranjem određenih ključnih riječi i svojim timom moderatora koji prati rezultate i odgovara na pritužbe drugih korisnika.
“Stvarno pokušavamo dopustiti ljudima da naprave najširi mogući skup slika, ali ljudima svakodnevno zabranjujemo pristup usluzi”, rekao je Holz krajem 2022.
