Predlagam, da počasi začnemo.

Pričenjam 15. sejo Odbora za obrambo, ki je bila sklicana na podlagi 47. člena Poslovnika Državnega zbora Republike Slovenije.

Pozdravljam vse prisotne, še posebej državnega sekretarja na Ministrstvu za obrambo, Uroša Lampreta, državnega sekretarja v Ministrstvu za zunanje zadeve, dr. Stanislava Raščana, državnega sekretarja v Ministrstvu za notranje zadeve, Franca Kanglerja, načelnika Generalštaba Slovenske vojske, generalmajorja Roberta Glavaša, svetovalca predsednika republike, gospoda Boštjana Šefica in ostale vabljene.

Obveščam vas, da je zadržan in se seje ne more udeležiti član odbora, Franc Jurša. Svojo odsotnost s seje pa je opravičil tudi državni sekretar v kabinetu predsednika Vlade, mag. Bojan Pograjc.

Imam nekaj pooblastil, dovolite, da jih preberem za zapisnik: poslanka Mateja Udovč bo na seji nadomeščala poslanko Moniko Gregorčič, poslanec Rudi Medved bo na seji nadomeščal poslanca Marjana Šarca, poslanec Aleksander Reberšek bo na seji nadomeščal poslanca Andreja Černigoja, poslanec Bojan Podkrajšek bo na seji nadomeščal poslanca Marijana Pojbiča, poslanec Jože Lenart bo na seji nadomeščal poslanca Nika Prebila in poslanec dr. Matej T. Vatovec bo na seji nadomeščal poslanca Miho Kordiša.

Prehajamo na določitev dnevnega reda. S sklicem seje ste prejeli naslednji dnevni red: 1. točka - Predlog deklaracije o podpori prizadevanjem za mednarodno prepoved smrtonosnih avtonomnih orožnih sistemov, 2. točka - Poročilo Vlade Republike Slovenije Državnemu zboru o uresničevanju Strategije sodelovanja Republike Slovenije v mednarodnih operacijah in misijah, sodelovanju v potekajočih mednarodnih operacijah in misijah v letu 2020 in načrtih prihodnjega sodelovanja, ter 3. točka - vprašanja in pobude članic in članov Odbora.

Ker v poslovniško določenem roku nisem prejel predlogov za razširitev oziroma za umik posameznih točk, je določen dnevni red seje, kot ste ga prejeli s sklicem.

Prehajamo na 1. TOČKO DNEVNEGA REDA - PREDLOG DEKLARACIJE O PODPORI PRIZADEVANJEM ZA MEDNARODNO PREPOVED SMRTONOSNIH AVTONOMNIH OROŽNIH SISTEMOV, ki jo je Državnemu zboru v obravnavo predložil poslanec in predsednik Odbora za obrambo, Samo Bevk in je objavljena na spletnih straneh Državnega zbora. Kot gradivo, objavljeno na spletnih straneh Državnega zbora, ste prejeli: mnenje Zakonodajno-pravne službe, z dne 3. junija 2021 in mnenje Vlade Republike Slovenije z dne 3. junija 2021, ter mnenje Komisije Državnega sveta za državno ureditev, z dne 16. junija 2021.

K tej točki so bili vabljeni mag. Matej Tonin, minister za obrambo, brigadir Robert Glavaš, načelnik Generalštaba Slovenske vojske, dr. Matjaž Gams, državni svetnik, Državni svet, Zakonodajno-pravna služba, Urad predsednika republike in kabinet predsednika Vlade.

V poslovniškem roku amandmaji niso bili vloženi, zato prehajamo in začenjamo z obravnavo predloga deklaracije, v kateri bomo opravili razpravo in glasovanje o točkah predloga deklaracije. Odboru predlagam, da se razprava o vseh točkah združi, v skladu s prvim odstavkom 128. člena Poslovnika Državnega zbora. Po opravljeni razpravi bi opravili glasovanje o morebitnih amandmajih odbora, nato pa glasovali o vseh točkah skupaj. Ali kdo temu predlogu nasprotuje? (Ne.) Ugotavljam, da ne.

Ker sem predlagatelj predloga deklaracije bom uvodno obrazložitev podal sam.

Spoštovani članice in člani Odbora za obrambo, spoštovani gostje, v zakonodajni postopek sem vložil Predlog deklaracije o podpori prizadevanjem za mednarodno prepoved smrtonosnih avtonomnih orožnih sistemov. Predlog deklaracije je vsebinsko pripravil dr. Peter Bahčič, strokovni sodelavec Odbora za obrambo, predlog deklaracije pa sledi duhu načel, ki jih vsebuje resolucija Evropskega parlamenta z dne 12. septembra 2018, o avtonomnih orožnih sistemih. Spodbudo za korak v tej smeri pa je podal Državni svet Republike Slovenije, predsednik Državnega sveta, Alojz Kovšca je namreč 17. marca letos na Vlado in Državni zbor naslovil vprašanji državnega svetnika, prof. dr. Matjaža Gamsa, do uporabe avtonomnih orožnih sistemov.

Tako je, kot že rečeno, strokovna služba odbora pripravila predlog deklaracije, ki sem jo na podlagi 169.a člena Poslovnika Državnega zbora Republike Slovenije vložil v zakonodajni postopek. Predlog smo predhodno uskladili tudi z Zakonodajno-pravno službo, tako da na besedilo kasneje ni bilo nobenih pripomb, kar je razvidno tudi iz poročila službe.

Resolucija Evropskega parlamenta in predlog vložene deklaracije opredeljujeta avtonomne orožne sisteme kot oborožene sisteme, nad katerimi človek nima razumnega nadzora kritičnih funkcij. Delovanje avtonomnih sistemov brez razumnega človekovega nadzora, seveda odpira številna nova etična vprašanja, povezana s humanitarnim pravom in človekovimi pravicami. Gre za popolnoma nov način potencialnega bodočega bojevanja, katerega morebitne razsežnosti si je v tem trenutku zelo težko predstavljati. Gre tudi za razvoj tehnologij, ki že obstajajo in se še razvijajo, v civilnem okolju in jih je razmeroma enostavno uporabiti tudi za vojaške namene. Umetna inteligenca, ki se je pričela razvijati v drugi polovici prejšnjega stoletja, je v 21. stoletju prodrla v vse pore družbenega življenja, med drugim tudi v vojaške sfere, kjer so prepoznali njen potencial na vseh področjih vojskovanja. Njen razcvet v veliki meri sovpada z bliskovitim razvojem smrtonosnih avtonomnih orožnih sistemov. Številni znanstveniki so že večkrat opozorili na nevarnost tako imenovanih ubijalskih robotov ali naprav, kot so brezpilotna letala in roboti, namenjeni za vojskovanje. Znanstveniki tudi izpostavljajo, da bo razvoj smrtonosnih orožnih sistemov povzročil 3. svetovno revolucijo v načinu bojevanja, saj bo vojna potekala hitreje in v veliko hujšem obsegu, kot doslej. Če se bo trend avtonomnosti orožja nadaljeval, bo človek iz odločanja nekoč tudi izločen, saj bo umetna inteligenca tista, ki bo sprejemala odločitve o tem, kdo bo živel in kdo umrl. Južna Koreja ima na primer že vojsko robotov, ki patrolirajo na meji s Severno Korejo. Gre za Samsungov model robota z mitraljezom, ki ga trenutno prek video povezave še vedno upravljajo ljudje, a lahko preklopi tudi na avtonomni način bojevanja.

Za lažjo predstavo o navedeni problematiki sem vam v prilogi dopisa z dne 21. aprila 2021 poslal povezavi na 2 videoposnetka. Prvi videoposnetek, ki je trenutno še fikcija, je nastal na podlagi pobude strokovnjaka za umetno inteligenco na kalifornijski univerzi Berkeley Stuarta Russella in je postal viralen. Drugi posnetek pa prikazuje stvarno orožje, ki ga poganja umetna inteligenca. Gre za omenjeni Samsungov model robota z mitraljezom, ki ga lahko upravljajo ljudje, lahko pa preklopi tudi, kot rečeno, na avtonomni način bojevanja in delovanja. Številne države javno financirana podjetja kot tudi zasebna podjetja že raziskujejo in razvijajo smrtonosne avtonomne orožne sisteme, ki segajo vse od izstrelkov, ki znajo izbirati cilje, do sistemov vztrajnega uničenja s kognitivnimi zmožnostmi. Uporaba smrtonosnih avtonomnih orožnih sistemov vzbuja temeljne etične in pravne pomisleke glede človeškega nadzora, zlasti v zvezi bistvenimi funkcijami kot sta izbira ciljev in napada nanje. Uporaba smrtonosnih avtonomnih orožnih sistemov odpira ključna vprašanja o izvajanju mednarodnega prava na področju človekovih pravic, mednarodnega humanitarnega prava ter evropskih standardov. V zvezi s tem sem mnenja, da je pomembno preprečiti uporabo vsakršnih smrtonosnih avtonomnih orožnih sistemov brez človeškega nadzora nad ključnimi funkcijami kot je izbira ciljev in napad nanje. Na koncu naj poudarim, da je potrebno razlikovati med avtonomnimi orožnimi sistemi in smrtonosnimi orožnimi sistemi. Med tem ko je uporaba prvih lahko koristna. Recimo, avtonomni roboti za razminiranje, pa je uporaba drugih, se pravi robotov za ubijanje ljudi popolnoma nesprejemljiva. Hvala lepa za vašo pozornost. To je predstavitev te deklaracije, ki je sledila duhu deklaracije Evropskega parlamenta iz leta 2018.

Sedaj pa nadaljujemo… Sprašujem, če želi besedo predstavnik Vlade, to je državni sekretar na Ministrstvu za obrambo, gospod Lampret.