Prelomni evropski akt o umetni inteligenci je stopil v veljavo

Akt o umetni inteligenci (angl. AI Act), ki ga je Evropski parlament potrdil marca letos, je od 1. avgusta dalje tudi v veljavi v Evropski uniji. Evropske institucije zakonodajo opisujejo kot prelomno, saj gre za prvi primer celovite regulacije novonastalega področja, nekatere civilnodružbene organizacije pa zakon opisujejo kot zadržan korak naprej.

Akt, ki ga je Evropska komisija predlagala aprila 2021, med drugim določa tehnična pravila za razvijalce, ki bi na trg lansirali svoje modele umetne inteligence, in prepoveduje določene prakse. Pri tem sisteme umetne inteligence razvršča od manj do bolj tveganih. Ta razvrstitev za podjetja prinaša bolj ali manj stroga pravila in različne časovnice, do kdaj morajo svoje operacije uskladiti z zakonodajo.

V celoti se bo zakon začel uporabljati 2. avgusta 2026. Do 2. avgusta 2025 – torej v roku enega leta – pa morajo države članice EU implementirati zakon v svoje nacionalne zakonodaje, so sporočili z ministrstva za digitalno preobrazbo.

Cilj zakona je izboljšanje notranjega trga z določitvijo enotnega pravnega okvira za umetno inteligenco in obenem razvoj takšne umetne inteligence, ki ne predstavlja tveganj za kršenje človekovih pravic evropskih državljanov ter jih ščiti pred drugimi škodljivimi učinki. Sistemi umetne inteligence morajo biti “varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni”, je junija zapisal Evropski parlament.

Prepovedi in izjeme

Zakon bo veljal za vse sisteme umetne inteligence, tako že obstoječe kot tiste v razvoju. Tem sistemom bo zakon določil stopnjo tveganja z uvrstitvijo v eno od štirih kategorij: brez tveganja, omejeno tveganje, visoko tveganje in nesprejemljivo tveganje. Sistemi umetne inteligence v slednji kategoriji bodo prepovedani od februarja prihodnje leto.

EU prepoveduje prakse, kot so kognitivno-vedenjska manipulacija ljudi ali določenih ranljivih skupin, socialno točkovanje, s katerim eksperimentirajo na primer na Kitajskem, in biometrična identifikacija, vključno s prepoznavo obraza v realnem času.

Pri biometrični identifikaciji so dovoljene izjeme za namene kazenskega pregona – prav ta izjema je bila eno najbolj perečih vprašanj v času pogajanj. Biometrična identifikacija v realnem času na daljavo bo dovoljena “v izjemo resnih primerih,” pojasnjujejo v parlamentu, naknadni sistemi pa bodo dovoljeni za pregon hudih kaznivih dejanj. V obeh primerih bo potrebna odobritev sodišča.

Modeli umetne inteligence, ki so v splošni uporabi, kot je ChatGPT ameriškega razvijalca OpenAI, bodo morali zadostiti predvsem zahtevam o preglednosti. To vključuje oznako, da je bila vsebina ustvarjena z umetno inteligenco, preprečevanje ustvarjanja nezakonitih vsebin in objavljanje povzetkov o uporabi avtorsko zaščitenih podatkov za usposabljanje modela.

Kot je za Euronews dejal zastopnik Evropske komisije Thomas Regnier, okrog 85 odstotkov podjetij s področja umetne inteligence pade v kategorijo minimalnega tveganja. Ti najbolj ohlapno regulirani sistemi morajo prav tako poskrbeti predvsem za preglednost, ki uporabniku omogoča informirane odločitve.

Korak naprej, a zadržan

Na inštititu Danes je nov dan so skupaj z drugimi civilnodružbenimi organizacijami, ki so del mednarodne koalicije združenj o digitalnih pravicah (EDRi), izrazili razočaranje, da EU “ni ubrala pristopa, ki bi bolj temeljil na človekovih pravicah”. Kljub temu koalicija nevladnih organizacij ocenjuje, da končna verzija vsebuje več možnih smeri za pozitivne spremembe.

V koaliciji se bodo v prihodnje zavzemali za strogo in učinkovito tolmačenje prepovedanih in tveganih tehnologij, ukrepe za zapolnitev vrzeli v trenutni zakonodaji (na primer zaščita ljudi z neurejenim migrantskim statusom, reševanje okoljskih vplivov umetne inteligence), dodatne nacionalne prepovedi za škodljivo umetno inteligenco, hitro zaustavitev neskladnih rab ter transparentne in vključujoče procese.

“Akt o umetni inteligenci obljube, da bo v središče postavil ljudi in njihove pravice, ne izpolnjuje v celoti, zato bodo v civilnodružbeni koaliciji še naprej delali na čim bolj smotrni implementaciji teh pravil,” so še sporočili iz Danes je nov dan.