Europski parlament odobrio je danas u Strasbourgu zakon o umjetnoj inteligenciji pod nazivom ‘Ai Act’. Europski zastupnici odobrili su uredbu, rezultat dogovora postignutog sa državama članicama u prosincu 2023., vrlo velikom većinom, s 523 glasa za, 46 protiv i 49 suzdržanih. Cilj je, objašnjava Dom, zaštititi temeljna prava, demokraciju, vladavinu prava i održivost okoliša od visokorizičnih sustava umjetne inteligencije, uz promicanje inovacija. Uredba utvrđuje obveze za AI na temelju mogućih rizika i razine utjecaja.
Nova pravila
Nova pravila, nastavlja Komora, zabranjuju neke aplikacije umjetne inteligencije koje ugrožavaju prava građana. To uključuje biometrijske sustave kategorizacije, temeljene na osjetljivim karakteristikama i neselektivnoj ekstrapolaciji slika lica s interneta ili iz CCTV snimaka, kako bi se stvorile baze podataka za prepoznavanje lica. Također će biti zabranjeni sustavi za prepoznavanje emocija na radnom mjestu i u školamasustavi društvenog kreditiranja, prediktivne policijske prakse (ako se temelje isključivo na profiliranju ili procjeni osobina osobe) i sustavi koji manipuliraju ljudskim ponašanjem ili iskorištavaju ranjivost ljudi.
U načelu, agencije za provođenje zakona neće moći koristiti biometrijske identifikacijske sustave, osim u posebnim slučajevima, predviđenim zakonom. Identifikacija u “stvarnom vremenu” može se koristiti samo ako se poštuju određena jamstva, na primjer ako je upotreba vremenski i prostorno ograničena i podložna sudskom ili administrativnom odobrenju. Dopuštene upotrebe uključuju, na primjer, traženje nestale osobe ili sprječavanje terorističkog napada. Korištenje ovih sustava naknadno se smatra visokim rizikom. Iz tog razloga, da bi se mogla žaliti, sudska dozvola mora biti povezana s kaznenim djelom. Obveze su predviđene i za druge visokorizične sustave umjetne inteligencije (koji bi mogli uzrokovati štetu zdravlju, sigurnosti, temeljnim pravima, okolišu, demokraciji i vladavini prava). Ova kategorija uključuje upotrebe povezane s kritičnom infrastrukturom, obrazovanjem i strukovnim osposobljavanjem, zapošljavanjem, osnovnim javnim i privatnim uslugama (npr. zdravstvena skrb, bankarstvo itd.), nekim sustavima za provedbu zakona, upravljanjem migracijama i granicama, pravosuđem i demokratskim procesima (kao u slučaju sustava koji se koriste za utjecaj na izbore). Ovi sustavi imaju obvezu procijeniti i smanjiti rizike, voditi evidenciju o korištenju, biti transparentni i točni te osigurati ljudski nadzor. Građani će imati pravo podnijeti pritužbe na sustave umjetne inteligencije i dobiti objašnjenja o odlukama koje se temelje na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava. Sustavi umjetne inteligencije za opće namjene i modeli na kojima se temelje, objašnjava parlament, morat će zadovoljiti određene zahtjeve transparentnosti i poštivati pravila EU-a o autorskim pravima tijekom faza obuke. Za snažnije modele, koji mogu predstavljati sistemske rizike, bit će potrebno ispuniti i druge obveze, poput provođenja procjene modela, procjene i ublažavanja sistemskih rizika i izvješćivanja o incidentima. Nadalje, umjetne ili manipulirane slike te audio ili video sadržaj (tzv. ‘deepfakes’) moraju biti jasno označeni kao takvi.
Vrijeme usvajanja pravila
Propis će morati proći konačnu provjeru od strane pravnika-lingvista i trebao bi biti konačno donesen prije kraja saziva (postupak ispravka). Vijeće ga još treba službeno odobriti. Pravilo će stupiti na snagu dvadeset dana nakon objave u Službenom listu EU, a počet će se primjenjivati 24 mjeseca nakon stupanja na snagu, osim u pogledu: zabrana zabranjenih praksi, koje će se primjenjivati šest mjeseci nakon stupanja na snagu; kodeksi dobre prakse (devet mjeseci kasnije); pravila o sustavima umjetne inteligencije opće namjene, uključujući upravljanje (12 mjeseci) i obveze za visokorizične sustave (36 mjeseci).
Zemlje EU-a morat će uspostaviti i učiniti dostupnima na nacionalnoj razini regulatorne eksperimentalne prostore i mehanizme testiranja u stvarnim uvjetima (u engleskom sandboxu), tako da mala i srednja poduzeća i novoosnovana poduzeća mogu razviti inovativne sustave umjetne inteligencije i obučiti ih prije nego što ih plasiraju na tržište. .
„Nakon dvije intenzivne godine rada – kaže suizvjestitelj Odbora za unutarnje tržište Brando Benifei (S&D, Pd) – konačno smo uspjeli odobriti prvi obvezujući zakon u svijetu o umjetnoj inteligenciji, usmjeren na smanjenje rizika i povećanje mogućnosti , boriti se protiv diskriminacije i donijeti transparentnost. Zahvaljujući Europskom parlamentu, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Europi. Štitimo prava radnika i građana. Sada ćemo morati pratiti tvrtke da se pridržavaju pravila prije nego što stupe na snagu. uspjeli staviti ljudska bića i europske vrijednosti u središte razvoja umjetne inteligencije”.
