U EU dogovorena sveobuhvatna pravila za pouzdanu umjetnu inteligenciju
Nakon maratonskih pregovora, Europski parlament, zemlje članice EU i Europska komisija postigli su dogovor o Zakonu o umjetnoj inteligenciji, koji će postati prva svjetska sveobuhvatna regulativa u području umjetne inteligencije. S obzirom na opći ton pravila, trebala bi se odnositi na sve, a time i na modele otvorenog koda.
U nacrtu regulative o umjetnoj inteligenciji koju je predložila Europska unija, ističe se da umjetna inteligencija mora biti alat koji služi čovječanstvu, a krajnji cilj je povećanje ljudske dobrobiti, a ne razvoj same tehnologije umjetne inteligencije kao glavne svrhe. Korištenje umjetne inteligencije na tržištu mora biti u skladu s načelima pravednosti i jednakosti, i ne smije ograničavati niti ometati razvoj drugih tehnologija.
Relevantni predloženi propisi uključuju interni razvoj i primjenu metoda umjetne inteligencije unutar tvrtki, kao i načela primjene u područjima kao što su obrazovanje, zapošljavanje i zdravstvena skrb, te definiraju potencijalni utjecaj umjetne inteligencije na četiri razine: minimalna, ograničena, visoka razina i rizik zabrane.
Među njima, prikupljanje podataka za zaštićene društvene skupine, ili čak praćenje i bilježenje osobnih podatke u bilo kojem trenutku putem biometrije (kao što je prepoznavanje lica) u stvarnom vremenu, zabranjena je razina. Što se tiče upotrebe u kritičnoj infrastrukturi, obrazovanje, pravnim poslovima ili poslovima povezanim s pravosuđem, kao i tehnologije povezane s zapošljavanjem djelatnika, klasificirani su kao visokorizični, dok su aplikacijske usluge koje pružaju tvrtke kao što su ChatGPT, Bard i Copilot trenutno klasificirane kao ograničeni rizik.
Što ako tvrtke prekrše pravila?
Ako tvrtke s umjetnom inteligencijom prekrše pravilo, riskiraju kazne od 35 milijuna eura ili najviše 7 posto svojih globalnih prihoda, do najviše 7,5 milijuna eura. Nadalje, postoje veće ovlasti od izricanja kazni, poput uklanjanja modela s tržišta ili prestanka ponude kao SaaS. Također nadzornici još moraju izraditi politiku koja navodi na što će se koja kazna odnositi i kada se koriste postoci umjesto tvrdih iznosa.
Ostaje još pitanje provedbe. Odredbe o provedbi kažu da regulatori mogu zahtijevati pristup izvornom kodu, uključujući (pod povjerljivošću) parametre AI modela.
EU je zapravo predložila relevantne mjere upravljanja za tehnologiju umjetne inteligencije u prošlosti. Primjerice, 2018. predložena je strategija umjetne inteligencije i plan koordinacije za europsko područje, a 2019. etičke smjernice za primjenu umjetne inteligencije. U travnju ove godine osnovati posebnu radnu skupinu za pomoć zemljama u rješavanju mjera zaštite podataka koje stoje iza tehnologije umjetne inteligencije.
Prije toga, Europska unija je predložila Opći zakon o zaštiti podataka (GDPR) za zaštitu osobne privatnosti europskih stanovnika, zahtijevajući da sve usluge dobiju pristanak korisnika prije prikupljanja potrebnih podataka o korištenju. U trenutnim primjenama tehnologije umjetne inteligencije usmjerenim na podatke, EU se nada da će postići ravnotežu između prikupljanja podataka i tehnoloških aplikacija kako bi spriječila tvrtke da samovoljno prikupljaju osobnu privatnost korisnika na temelju aplikacija tehnologije umjetne inteligencije, a istovremeno izbjegava tehnološki razvoj.
Kada Zakon stupa na snagu?
Vijeće i parlament još trebaju službeno usvojiti dogovoreni tekst kako bi postao zakon EU-a. Očekuje se da će se to dogoditi prije kraja godine. Zakon neće stupiti na snagu prije 2025. To će vjerojatno biti prvi sveobuhvatni zakon o umjetnoj inteligenciji na svijetu.
