OpenAI bi mogao dobiti visoku kaznu EU-a

OpenAI se suočava s još jednom žalbom na zaštitu podataka u Europskoj uniji. Neprofitna organizacija za zaštitu podataka noyb podnijela je tužbu u ime tužitelja protiv tvrtke jer nije ispravila lažne informacije o javnim osobama, javlja TechCrunch.

Halucinacije aplikacija umjetne inteligencije odavno su dio sustava, ali čini se da ako iznosi lažne informacije o javnim osobama, može prekršiti regionalna pravila GDPR-a.

U najboljem slučaju, to će rezultirati kaznom u iznosu od 4 posto godišnjeg prometa, ali što je još važnije, regulatori mogu narediti promjene u obradi informacija, tako da usklađenost s GDPR-om može transformirati rad generativnih AI alata u EU.

Ovo nije prvi put da se OpenAI suočava sa zakonodavcima EU. Tvrtka je bila prisiljena napraviti neke velike promjene nakon što je talijansko tijelo za zaštitu podataka nakratko zatvorilo ChatGPT još 2023. godine.

Rješenje je komplicirano

noyb je podnio žalbu u vezi s GDPR-om protiv ChatGPT-a austrijskom tijelu za zaštitu podataka u ime neimenovanog podnositelja žalbe koji je tvrdio da je javna osoba i koji je otkrio da mu je chatbot dao netočan datum rođenja. OpenAI je odbio zahtjev podnositelja pritužbe da ispravi netočan datum rođenja, uz odgovor da je tehnički nemoguće riješiti problem.

Umjesto toga, ponudio je filtriranje ili blokiranje podataka za određene upite, kao što je ime podnositelja pritužbe.

Prema politici privatnosti OpenAI-ja, korisnici koji primijete da chatbot generira netočne informacije o njima mogu podnijeti zahtjev za ispravak. Međutim, važno je istaknuti da zbog tehničke složenosti rada modela, oni možda neće moći ispraviti netočnost u svim slučajevima.

U tom slučaju OpenAI preporučuje da korisnici zatraže potpuno uklanjanje svojih osobnih podataka iz ChatGPT izlaza ispunjavanjem web obrasca. noyb se žali da OpenAI nije u nadležnosti odlučivanja o tome koja su primarna prava korisnika detaljno navedena u pravilima EU-a.

Prema pritužbi, postoje i problemi s transparentnošću, jer OpenAI ne može reći odakle dolaze podaci generirani o pojedincima, niti koje podatke chatbot pohranjuje o ljudima.

Korisnici imaju pravo saznati o tome uz zahtjev za pristup predmetu (SAR). Međutim, OpenAI je odbio zahtjev.

Maartje de Graaf, noyb-ov odvjetnik za zaštitu podataka naznačio je u svojoj izjavi da tehnologija mora slijediti zakonske zahtjeve, a ne obrnuto. Sada je red na austrijsko tijelo za zaštitu podataka da istraži pritužbu o upravljanju podacima OpenAI-ja, a organizacija također traži kaznu kako bi osigurala buduću usklađenost. Zanimljivo je da se tvrtka sa sličnom pritužbom suočava iu Poljskoj.