Nadzor nad klepeti: “Ni stranskih vrat, ki bi notri spuščala samo dobre fante”

Države članice Evropske unije (EU) se v okviru Sveta EU še niso uspele zediniti o uredbi za boj proti spolni zlorabi otrok, ki od spletnih sporočilnih platform zahteva pregledovanje komunikacij uporabnikov, vključno s šifriranimi klepeti. Evropska komisija in pobudnica Danska v ukrepu vidita učinkovit mehanizem za preprečevanje zlorab otrok, kritiki pa spolzek teren množičnega nadzora komunikacij.

Ključna težava takšnega pregledovanja digitalne komunikacije je, da “v trenutku, ko je to omogočeno – tudi s sodno odredbo – so tehnično to vrata, ki se jih da odpreti tudi takrat, ko sodne odredbe ni. V trenutku, ko omogočimo nekomu dostop, to pomeni, da obstajata ključ in ključavnica,” je za Forbes Slovenija dejal podjetnik in strokovnjak za digitalne tehnologije Aleš Špetič, ki med drugim predava tehnološko podjetništvo na Fakulteti za računalništvo in informatiko.

Špetič meni, da bi zakonodaja v primeru sprejetja v skrajni posledici lahko pomenila konec šifrirane komunikacije na evropskem trgu, čemur pritrjujejo tudi ponudniki šifriranih sporočilnih aplikacij in predstavniki civilne družbe. Obenem pregledovanje odpira vrsto varnostnih tveganj, od možnosti za zlorabo do napačne presoje avtomatiziranega sistema in seveda skrbi, da se pregledovanje sčasoma uporabi tudi za druge namene.

Po poročanju EUObserverja je Danska kot predsedujoča Svetu glasovanje o predlogu, predvideno na srečanju notranjih ministrov 14. oktobra, umaknila z dnevnega reda, saj se je nasprotovanje krepilo. Nov kompromis bodo skušali doseči do srečanja ministrov v decembru.

S prostovoljnega na obvezno pregledovanje

Predlog uredbe, ki so jo nasprotniki poimenovali “nadzor nad klepeti” oziroma angleško chat control, je 11. maja 2022 podala Evropska komisija.

Predlog ponudnike spletne pošte in sporočilnih aplikacij obvezuje k avtomatiziranemu pregledovanju vseh komunikacij uporabnikov v iskanju materialov, ki vključujejo zlorabo otrok (CSAM – child sexual abuse material, angl.). To bi potekalo s tako imenovanim skeniranjem na strani uporabnika (client-side scanning, angl.), kar vključuje namestitev nadzorovalnih funkcionalnosti na pametne telefone uporabnikov in prestrezanje sporočil, preden prispejo od pošiljatelja do prejemnika.

To bi bila zaostritev obstoječe zakonodaje, ki ponudnikom teh storitev omogoča prostovoljno pregledovanje vsebin. Nekatere platforme to počnejo, druge pa ne, ker vztrajajo pri zasebnosti, ki jo ponuja od začetka do konca (end-to-end, angl.) šifrirana komunikacija.

Nekdanji evroposlanec in eden glavnih kritikov nadzora nad klepeti Patrick Breyer pravi, da prostovoljne preglede izvajajo predvsem ameriški ponudniki nešifriranih aplikacij, kot so Meta v svojem Messengerju, Google z Gmailom, Apple s spletno pošto iCloud, Microsoftov Xbox in sporočilna aplikacija Snapchat.

Komunikacij pa ne pregledujeta na primer šifrirani sporočilni aplikaciji Telegram, ki ga je ustanovil v Dubaju živeči Rus Pavel Durov, in ameriški Signal, ki sta ga leta 2018 ustanovila Moxie Marlinspike in Brian Acton. Pri slednjem so v primeru sprejetja obveznega pregledovanja komunikacij napovedali tudi umik z evropskega trga.

Če bi imeli na izbiro vgradnjo nadzorne naprave v Signal ali odhod s trga, bi trg zapustili.

Meredith Whittaker, predsednica Signal Foundation

Dolga pot do sprejetja

Po predlogu Komisije je svoje mnenje novembra 2023 podal Evropski parlament, ki je nasprotoval splošnemu skeniranju in namesto tega predlagal, da bi bil usmerjen nadzor dovoljen le s sodno odredbo in le za osumljence posedovanja materiala CSAM. Evropski poslanci so se zavzeli za ohranitev end-to-end šifriranja oziroma izvzetje teh storitev iz dometa uredbe. Nasprotovali so tudi skeniranju na strani uporabnika.

Decembra lani je manjšina držav članic uspela blokirati predlog v Svetu EU, a ga je ob prevzemu predsedstva Svetu 1. julija letos Danska vrnila na agendo kot “prioriteto”. Za potrditev predloga si je zadala rok 14. oktobra (torej prihodnji torek), ko se sestanejo notranji ministri. Pripravili so kompromisni predlog, v katerem med drugim omejujejo preglede na vizualno vsebino in povezave (URL), brez tekstovnih sporočil, odredbe za zaznavanje vsebin pa bi uvedli za tiste storitve, ki jih oblasti prepoznajo kot “visoko tvegane”. Član stranke Piratov Breyer pravi, da bi imele države pri presojanju ravni tveganja veliko manevrskega prostora in bi lahko med visoko tvegane uvrstile prav ponudnike storitev end-to-end šifriranih klepetov.

Predlog ohranja skeniranje na strani uporabnika. Pri tem Danska predlaga, da bi moral uporabnik privoliti v takšno skeniranje vsebine. Če ne bi privolil, ne bi mogel uporabljati aplikacije za pošiljanje vizualnih vsebin, zgolj tekstovne. Obenem predlog predvideva izjemo za državne račune, ki bi bili pred pregledi zaščiteni v imenu nacionalne varnosti.

Končnega teksta uredbe še ni. Po glasovanju držav članic v Svetu EU se bo – v primeru potrditve – začel tako imenovani trilog oziroma nadaljnja usklajevanja med Komisijo, Parlamentom in Svetom, v katerih bo dosežena končna različica teksta.

Slovenija je proti

Slovensko ministrstvo za notranje zadeve se je v začetku oktobra izreklo proti trenutnemu predlogu uredbe. Pri tem so dejali, da je ustrezna ureditev boja proti spolnim zlorabam otrok nujna, a “ob hkratnem spoštovanju temeljnih človekovih pravic, vključno s pravico do zasebnosti in varstva osebnih podatkov”. Dodali so, da pogajanja še potekajo in da upajo na kompromisno besedilo. S tem je Slovenija odrekla podporo uredbi po dolgem času neodločenosti.

V Evropskem parlamentu je nasprotovanje uredbi izrazilo šest od devetih slovenskih poslancev. Proti sta poslanca SDS oziroma Evropske ljudske stranke (EPP) Branko Grims in Zala Tomašič, pa tudi Matej Tonin iz Nove Slovenije (prav tako EPP). Proti so tudi Irena Joveva (Svoboda/Renew Europe), Matjaž Nemec (SD/S&D) in Vladimir Prebilič (Vesna/Greens). Mnenja še niso izrazili Romana Tomc (SDS/EPP), Milan Zver (SDS/EPP) in Matjaž Šarec (Svoboda/Renew Europe), povzema stran Fight Chat Control.

Urad informacijskega pooblaščenca je skupaj z drugimi evropskimi varuhi osebnih podatkov že julija 2022 podal mnenje na predlog Komisije, v katerem so organ pozvali k spremembam, “da bo skladen z načeli nujnosti in sorazmernosti in da ga ne bo mogoče razumeti kot ukinjanje ali oslabitev šifriranja komunikacij”.

Informacijska pooblaščenka Jelena Virant Burnik je septembra letos poudarila, da je Sodišče EU že večkrat zavrnilo vsesplošen nadzor nad komunikacijami za zaščito še tako nujnih ciljev v javnem interesu. Kot enega največjih pomislekov je navedla postopek izdaje odredb o zaznavanju (angl. detection orders). “Da bi se izognili tveganju množičnega nadzora, je ključnega pomena, da bi bile odredbe zasnovane kot ciljani ukrepi in da bi vsakič obstajal utemeljen sum, vezan na posameznika,” je zapisala.

Pred dnevi so h glasovanju proti predlogu pozvali tudi v Slovenskem tehnološkem forumu. Direktorica Barbara Krajnc je dejala, da “je potrebno spolne zlorabe otrok na spletu preprečevati brezpogojno in proti storilcem izjemno strogo ukrepati, a način preprečevanja ne more biti vzpostavitev nadzora klepeta vsepovprek”.

Konec šifriranih klepetov?

Med 27 državami članicami v Svetu EU jih trenutno predlog podpira 12, med njimi je največja Francija, ki je sprva uredbi nasprotovala. V naši soseščini sta podpornici Hrvaška in Madžarska. Proti je trenutno devet držav, na čelu z Nemčijo, ki v teh glasovanjih zaradi svoje velikosti in vpliva pogosto velja za jeziček na tehtnici, čeprav Politico piše, da je nemška vladna koalicija še naprej razdvojena glede vprašanja. Šest držav je neodločenih.

Nasprotovanje so izrazili ponudniki šifriranih klepetov, kot so Singal, Whatsapp (v lasti Mete), Threema in X. Meredith Whittaker, predsednica neprofitne organizacije Signal Foundation, ki ima v lasti istoimensko apllikacijo, je v blogu nedavno opozorila, da bi uredba pomenila konec pravice do zasebnosti v Evropi.

“Skeniranje vsakega sporočila – ne glede na to, ali to storite pred ali po šifriranju sporočil – izniči samo predpostavko šifriranja od začetka do konca. Namesto da bi morali za dostop do sporočil v Signalu prekiniti Signalov protokol šifriranja, morajo hekerji in sovražne države le izkoristiti dostop, ki je odobren sistemu za skeniranje,” je tveganje za zlorabo opisala Whittaker.

“Če bi imeli na izbiro vgradnjo nadzorne naprave v Signal ali odhod s trga, bi trg zapustili,” je dodala.

Podobno ostro se je odzval tudi švicarski ponudnik šifriranih komunikacij Threema, ki je že junija pozval k ustavitvi uredbe za nadzor klepetov. Nedavno je na omrežju X nasprotovanje izrazil tudi šef Whatsappa pri Meta Platforms Will Cathcart, ki je dejal, da bi tudi kompromisni danski predlog prinesel konec šifrirane komunikacije in ogrozil pravico do zasebnosti. Proti predlogu so tudi pri omrežju X, ki je v lasti najbogatejšega Zemljana Elona Muska.

Varnostno tveganje in zaupanje uporabnikov

“Ni mogoče ustvariti stranskih vrat, ki bi spuščala noter samo ‘dobre fante’. Kar predlagajo, je v bistvu množični nadzor za vse, ki odpira intimno in zaupno komunikacijo vseh, pa naj gre za vladne uradnike, vojsko, preiskovalne novinarje ali aktiviste. Kljub vsemu govorjenju o suverenosti v Evropi je to bizarna odločitev o kibernetski varnosti,” je še zapisala Whittaker.

Špetič prav tako meni, da bi uvedba takšnega nadzornega mehanizma pomenila varnostno tveganje, saj bi ga lahko uporabili tudi slabi akterji, kot so kriminalne združbe, hekerji ali sovražne države.

“V teoriji varovanja informacijskih sistemov je tako, da se vedno napade tam, kjer je najšibkejši člen. In če imate možnost podkupiti uradnika, ki ima dostop do sistema, ali pa zlorabiti njegovo ime, ukrasti njegovo identiteto, je to bistveno lažje kot uporabljati zelo drage tehnike za dešifriranje komunikacije,” pravi Špetič.

Strinja se tudi, da uredba v trenutni obliki ogroža obstoj ponudnikov šifrirane komunikacije na evropskem trgu in meni, da bi konec šifriranega sporočanja še oslabil že tako načeto zaupanje povprečnega uporabnika digitalnih storitev.

“Posledica take uredbe je v bistvu dvojna: na eni strani se zaupanje v cel digitalni svet še toliko bolj zmanjša, ko prihaja do zlorab, na drugi strani pa damo še eno možnost več tistim, ki želijo zlorabljati, da normalne državljane prepričajo v stvari, ki jih drugače ne bi počeli. Ker če lažje pridejo v kriptirano komunikacijo kot sicer, vas toliko lažje prepričajo, da vas kličejo iz banke ali zavarovalnice,” pravi.

Če imate možnost podkupiti uradnika, ki ima dostop do sistema, ali pa (…) ukrasti njegovo identiteto, je to bistveno lažje kot uporabljati zelo drage tehnike za dešifriranje komunikacije.

Aleš Špetič, podjetnik in strokovnjak za digitalne tehnologije

Skeniranje z umetno inteligenco

Špetič kot eno od glavnih težav predloga izpostavlja zamisel o avtomatiziranem pregledovanju vsebin – klepetov torej ne bi pregledoval človek, ampak algoritem umetne inteligence.

“Vsi vemo, da ti mehanizmi, ki jih trenutno imamo, ne delujejo s 100-odstotno zanesljivostjo. Kar pomeni, da bo sistem zelo verjetno označil nekaj uporabnikov, ki tudi slučajno nimajo spornih vsebin. To je precejšen problem, ker je predlog množično zaznavanje, vse zaznane sporne vsebine pa bi se označilo za nadaljnje preglede. To je hud poseg v zasebno komunikacijo, ki je povsem primerljiv s tem, da bi organi pregona imeli možnost priti v vašo pisarno, vse pregledati, in če se jim kaj slučajno zdi spornega, začeti postopek. To je zelo v nasprotju s koncepti evropske družbe,” pravi.

Kot ilustracijo tveganj pri takšnem preverjanju navaja primer Appla, ki je pred časom v svoji storitvi shranjevanja slik v oblaku (iCloud) uvedel skeniranje za otroško pornografijo. En uporabnik je slikal svojega otroka golega, ker je imel nekakšen izpuščaj, in sliko poslal pediatru. Ta mehanizem, ki na začetku še ni bil dobro razvit, je to označil kot otroško pornografijo, Apple pa je v skladu s svojimi pravili uporabe uporabnika blokiral, izključil račun in izbrisal njegov osebni arhiv.

Breyer na svoji spletni strani prav tako opozarja na pogostost tako imenovanih lažnih pozitivnih izidov, ko program zazna sporno vsebino, ki v resnici ni sporna. Pri tem gre lahko na primer za družinske fotografije s plaže ali pa konsenzualno erotično dopisovanje (sexting, angl.).

Spolzek teren

Kritiki opozarjajo tudi na tveganje, da bi se zakonodaja, sprva namenjena preprečevanju zlorabe otrok na spletu, kasneje uporabljena tudi za druge namene. “To je Pandorina skrinjica, ko kar naenkrat postane težko reči: pri nekaterih stvareh smo skeniranje dovolili, pri drugih pa ga ne bomo,” pravi Špetič.

Drugače povedano, to postane odvisno od vsakokratnega odločevalca. “Si predstavljate, da na evropskem nivoju damo možnost za skeniranje klepetov, potem pa imate kakšnega bolj avtoritarnega odločevalca v EU, ki bi tovrstno skeniranje uporabil še za kaj drugega? Kar naenkrat ima mehanizme, namesto skeniranja vsebine za otroško pornografijo pa začne iskati kaj drugega – iskanje notranjih sovražnikov, teroristov. To so realni problemi, ki zvenijo orwellovsko, niso pa čisto za lase privlečeni.”

Dobri nameni

Je namen uredbe torej boj proti zlorabi otrok na spletu ali v resnici množični nadzor komunikacij? “Jaz ne bi šel tako daleč,” pravi Špetič, ki meni, da gre le za slabo premišljen ukrep s sicer plemenitimi nameni.

“Mislim, da je to na istem nivoju kot tisti nesrečni plastični pokrovčki na tetrapakih. Velikega smisla nimajo, imeli pa so dober namen. Nekdo, ki je mislil dobro, ampak ni dovolj široko razmislil, sedaj trmasto vztraja. Američani imajo odličen izraz, da je pot v pekel tlakovana z dobrimi nameni,” je dejal.