Europski parlament odobrio je u srijedu Zakon o umjetnoj inteligenciji, uredbu o korištenju umjetne inteligencije koja ima za cilj jamčiti sigurnost i poštivanje temeljnih prava, ali i poticati inovacije.
Umjetna inteligencija (AI), regulirana u Europskoj unijiFoto: Budrul Chukrut/SOPA Images / Shutterstock Editorial / Profimedia
Uredba, dogovoren u prosincu 2023 tijekom pregovora sa zemljama članicama usvojili su ga europski zastupnici s 523 glasa za, 46 protiv i 49 suzdržanih, stoji u priopćenju europskog zakonodavnog tijela.
Prijedlog zakona nastoji zaštititi temeljna prava, demokraciju, vladavinu prava i održivost okoliša pred visokorizičnim sustavima umjetne inteligencije. Zakon također ima za cilj poticanje inovacija i osiguravanje vodeće uloge Europe u tom području. Uredba nameće obveze umjetnoj inteligenciji, ovisno o njezinim potencijalnim rizicima i očekivanom učinku.
Neke upotrebe su zabranjene
Nova pravila zabranjuju određene upotrebe umjetne inteligencije koje ugrožavaju prava građana, uključujući biometrijske sustave klasifikacije koji se temelje na osjetljivim karakteristikama pojedinaca.
Nesvrsishodno izdvajanje slika lica s interneta ili CCTV snimaka radi stvaranja baza podataka za prepoznavanje lica također je među zabranjenim upotrebama.
Prepoznavanje emocija na radnom mjestu i u školama, društveno bodovanje, prediktivni policijski sustavi (kada se temelje samo na profiliranju osobe ili analizi njezinih karakteristika) i AI koji manipuliraju ljudskim ponašanjem ili iskorištavaju ranjivosti također neće biti dopušteni ljudima.
Izuzeci za provedbu zakona
Korištenje biometrijskih identifikacijskih sustava od strane tijela kaznenog progona načelno je zabranjeno, osim u taksativno nabrojanim i strogo definiranim situacijama.
Sustavi biometrijske identifikacije u “stvarnom vremenu” mogu se instalirati samo ako su zadovoljene stroge mjere zaštite, na primjer ako je njihova upotreba ograničena vremenski i zemljopisno te ako je unaprijed odobrila sudska vlast ili upravno tijelo. Mogu se koristiti, primjerice, za traženje nestale osobe ili za sprječavanje terorističkog napada.
Korištenje ovih post-facto sustava (“post-biometrijski identifikacijski sustavi”) smatra se visokorizičnim slučajem upotrebe i moguće je samo na temelju izdavanja sudskog odobrenja povezanog s kaznenim djelom.
Obveze za sustave visokog rizika
Tekst također predviđa jasne obveze za druge visokorizične sustave umjetne inteligencije zbog njihovog velikog potencijala nepovoljnog utjecaja na zdravlje, sigurnost, temeljna prava, okoliš, demokraciju i vladavinu prava.
Evo nekoliko primjera visokorizične upotrebe umjetne inteligencije: kritična infrastruktura, obrazovanje i obuka, bitne javne i privatne usluge (zdravstvo, bankarstvo itd.), neki sustavi koje koristi policija, migracija i upravljanje granicama, pravosuđe i demokratski procesi ( npr. spriječiti utjecaj na izbore).
Ovi sustavi moraju procijeniti i ublažiti rizike, održavati takozvane “log datoteke” koje omogućuju automatsko bilježenje događaja, biti transparentni i točni te podložni ljudskom nadzoru.
Građani će imati pravo podnijeti pritužbe na sustave umjetne inteligencije i dobiti objašnjenja o odlukama koje se temelje na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.
Zahtjevi transparentnosti
Sustavi umjetne inteligencije opće namjene i modeli umjetne inteligencije opće namjene na koje se oslanjaju moraju biti u skladu s određenim zahtjevima transparentnosti, uključujući zakon o autorskim pravima EU-a i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku modela umjetne inteligencije.
Jači modeli za sustave umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike morat će ispuniti dodatne zahtjeve, uključujući procjenu modela, procjenu i ublažavanje sistemskog rizika te izvješćivanje o incidentima.
Osim toga, umjetne ili manipulirane (“deepfake”) slike te audio i video sadržaj moraju biti jasno označeni kao takvi.
Mjere potpore inovacijama i malim i srednjim poduzećima
Na nacionalnoj razini bit će obvezno stvoriti regulatorne prostore za testiranje i organizirati testiranje u stvarnim uvjetima. Mala i srednja poduzeća i novoosnovana poduzeća morat će imati pristup tim alatima za razvoj i obuku inovativne umjetne inteligencije prije nego što ih iznesu na tržište.
“Konačno, prvi obvezujući zakon o umjetnoj inteligenciji”
Tijekom plenarne rasprave u utorak, suizvjestitelj Odbora za unutarnje tržište Brando Benifei (S&D, Italija) izjavio je:
- “Konačno imamo prvi obvezujući zakon o umjetnoj inteligenciji u svijetu koji smanjuje rizik, stvara prilike, bori se protiv diskriminacije i donosi transparentnost. Zahvaljujući Parlamentu, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Europi, a prava radnika i građana bit će zaštićena. Ured za umjetnu inteligenciju sada će biti uspostavljen kako bi podržao tvrtke da se počnu pridržavati pravila prije nego ona stupe na snagu. Osigurali smo da europski ljudi i vrijednosti budu u samom srcu razvoja umjetne inteligencije.”
Suizvjestitelj Odbora za građanske slobode Dragos Tudorache (Renew, Rumunjska) izjavio je:
- “EU je postigla rezultate. Povezali smo koncept umjetne inteligencije s temeljnim vrijednostima koje su u osnovi naših društava. Međutim, imat ćemo puno posla izvan samog zakona o umjetnoj inteligenciji. AI će nas prisiliti da preispitamo društveni ugovor koji je u srcu naših demokracija, naše obrazovne modele, naša tržišta rada i način na koji provodimo vojne operacije. Zakon o umjetnoj inteligenciji polazište je za novi model upravljanja izgrađen oko tehnologije. Sada se moramo fokusirati na provedbu ovog zakona”.
Sljedeći koraci
Uredbu trenutno provjeravaju pravnici-lingvisti i očekuje se da će biti usvojena prije kraja saziva (prema proceduri ispravljanja). Zakon još treba službeno usvojiti Vijeće EU-a.
Stupit će na snagu 20 dana nakon objave u Službenom listu i bit će u potpunosti primjenjiv 24 mjeseca nakon stupanja na snagu, uz sljedeće iznimke: zabrane koje se odnose na zabranjene prakse primjenjuju se počevši od šest mjeseci nakon datuma stupanja na snagu; kodeks dobre prakse (devet mjeseci od dana stupanja na snagu); pravila o sustavima umjetne inteligencije za opću upotrebu, uključujući upravljanje (12 mjeseci od dana stupanja na snagu); te obveze za visokorizične sustave (36 mjeseci).
