Dober dan. (Maja Cimerman, Inštitut Danes je nov dan.) Spoštovana predsedujoča, hvala za besedo. Lep pozdrav tudi ostalim članom odbora in ostalim prisotnim. Hvala za vabilo na današnjo sejo.

Na Inštitutu Danes je nov dan menimo, da je predlog stališča Republike Slovenije glede akta o umetni inteligenci v mnogih aspektih ustrezen in da ustrezno ščiti pravice državljanov EU. Vseeno pa v nadaljevanju predlagamo nekatere spremembe, ki bi slovensko stališče izboljšale in prispevale, da akt o umetni inteligenci ščiti človekove pravice in svoboščine vseh posameznikov in skupin, kot je opredeljeno v listini Evropske unije o temeljnih pravicah.

Naši predlogi so naslednji. Kot prvo, predlagamo, da se iz predloga stališča odstrani izjema za rabo umetne inteligence na področju nacionalne varnosti, kot je omenjeno na tretji strani predloga stališča v drugi alineji točke A. Torej v predlogu stališča, kot smo že slišali, je zapisano, da se Republika Slovenija zavzema za, citiram: "Izvzetje področja nacionalne varnosti in vojaške rabe iz akta o umetni inteligenci ne zato, ker ne bi želela, da se tudi o tem področju ne zasledujejo cilji regulacije umetne inteligence, temveč zato, ker se strinja, da urejanje teh področij ni v pristojnosti Evropske unije, temveč v pristojnosti nacionalnih držav." - konec citata. Slovenija se tukaj naslanja na stališče Sveta EU, s katerim pa se ne strinjata Evropska komisija in Evropski parlament. Svet v svojem mnenju izhaja iz obstoječe delitve pristojnosti, kot je opredeljena v Lizbonski pogodbi, vendar namen Akta o umetni inteligenci ni omejevanje delovanja držav članic na področju nacionalne varnosti. Namen akta je ustvariti usklajena pravila za notranji nadzor pri razvoju in uporabi sistemov umetne inteligence. Usklajevanje notranjega trga pa je v pristojnosti Evropske unije. Splošna izjema za področje nacionalne varnosti bi bila v tej situaciji v nasprotju s sodno prakso sodišča EU, ki pravi, da je potrebno kadarkoli se uporablja zakonodaja EU - v tem primeru gre za ureditev notranjega trga - kakršnekoli izjeme, zaradi nacionalne varnosti uvesti v skladu s členom 52, Listine EU o temeljnih pravicah, torej presojeno za vsak primer posebej ob upoštevanju zahtev zakonitosti, stroge nujnosti in sorazmernosti. Torej na podlagi tega ne more biti splošne izjeme oziroma izključitve iz zakonodaje Evropske unije za vse dejavnosti nacionalne varnosti. Nobena zakonodaja EU ne vsebuje izjeme, ki bi bila splošne narave. GDPR na primer, podobno kot Direktiva o kazenskem pregonu pravi, da se ne uporablja za obdelavo osebnih podatkov med dejavnostjo, ki ne spada na področje uporabe prava unije in člen 23, GDPR zahteva, da se morebitne pravice, izjeme od pravic posameznikov, na katere se nanašajo osebni podatki, ocenijo za vsak primer posebej in uvedejo v zakon v skladu z Listino EU o temeljnih pravicah. Torej bi splošna izključitev umetne inteligence, ki je bila razvita ali uporabljena v namene nacionalne varnosti, presegla omejitev pristojnosti, ki jih uvaja Lizbonska pogodba. Tudi vohunska programska oprema Pegasus, na primer, je bila razvita v namene nacionalne varnosti, pa je njena nadaljnja raba presegla ta namen. Zato predlagamo, da se iz predloga stališča Republike Slovenije glede akta o umetni inteligenci odstrani izjema za rabo umetne inteligence na področju nacionalne varnosti, torej da se v stališču Republika Slovenija zavzame za ohranitev izvirnega besedila komisije ali pa vsaj sledi pristopu, ki je bil sprejet z GDPR in drugimi zakoni EU, ki omejuje izvzetje na dejavnosti, ki ne spadajo na področje uporabe prava EU.

Kot drugo predlagamo, da Republika Slovenija v predlog stališča doda, da se ne strinja z modelom, po katerem se ponudniki sami odločijo, ali ustrezajo klasifikaciji sistema visokega tveganja. V prvotnem osnutku Evropske komisije je sistem umetne inteligence štel za visoko tveganega, če naj bi se uporabljal za enega od visoko tveganih namenov, navedenih v prilogi 3, vendar sta Svet EU in Evropski parlament uvedla vrzel, ki bi ponudnikom teh sistemov omogočala, da se sami odločajo, ali menijo, da je sistem visoko tvegan. To v praksi pomeni, da bi isto podjetje, za katerega bi veljal akt, imelo pooblastilo, da se enostransko odloči, ali naj bi akt zanj veljal ali ne. Takšna sprememba bi povzročila uvedbo visoke pravne negotovosti glede tega kateri sistemi se štejejo za visoko tveganje, poleg tega bi vodila v razdrobljenost enotnega trga EU z različnimi razlagami o tem, kaj je visoko tveganje v posameznih državah članicah. Posledično bi vodila do tega, da se organi držav članic soočajo s hudimi izzivi pri uveljavljanju zakonodaje brez dovolj sredstev za zadostno spremljanje samo ocenjevanja ponudnikov, in dopustila bi brezobzirnim ponudnikom, da se izognejo osnovnim zahtevam akta, ki naj bi naredile njihove sisteme varnejše in zanesljivejše, kar bi posledično postavilo odgovorne razvijalce umetne inteligence v slabši položaj. Te spremembe člena 6 je potrebno nujno zavrniti in ponovno vzpostaviti prvotni postopek Evropske komisije za razvrščanje tveganj. Obstajati mora objektiven, skladen in pravno varen postopek za določitev, kateri sistemi umetne inteligence so opredeljeni kot visoko tvegani. Poleg tega, danes je nov dan, podpira popolno prepoved sistemov družbenega razvrščanja in ne le omejitev družbenega razvrščanja, kakor je trenutna dikcija v predlogu stališča Republike Slovenije. Danes je nov dan in še sedem drugih organizacij, ki so aktivne na področju migracij in azila podpira prepoved izvoza prepovedanih in visoko tveganih tehnologij ter prepoved uporabe teh tehnologij za nadzor zunanjih meja EU in nadzor tujcev. S tem, ko EU dovoljuje uporabo nevarnih in prepovedanih umetno inteligentnih sistemov zunaj EU, na mejah EU in v begunskih centrih, relativizira človekove pravice in uvaja dvojna merila in neenako obravnavo oseb. Danes je nov dan, se tudi zavzema za več transparentnosti, pravne zaščite in nadzora javnosti pri uporabi umetne inteligence v javnem in zasebnem sektorju. Predvsem se zavzemamo za obvezo tistih, ki uporabljajo take sisteme, da omogočijo pravno varstvo in dostop do informacij tretjim osebam, torej tistim, ki jih sistemi umetne inteligence targetirajo. Danes je nov dan se tudi zavzema za odpravo izjeme za obstoječe velike podatkovne sisteme EU, saj imajo ti že zdaj izjemne posledice za varstvo človekovih pravic v Evropski uniji.

To je naše stališče, ki smo ga podrobneje obrazložili tudi v dopisu, ki smo ga poslali na Generalno pisarno Državnega zbora.

Hvala lepa.