Ministarstvo unutrašnjih poslova Crne Gore posjeduje opremu za prepoznavanje lica koja se može koristiti u okviru sistema za nadzor javnih površina u Podgorici, Baru i Budvi, pokazalo je istraživanje BIRN- (birn.me), prenosi portal RTCG.
Podaci koje je BIRN-u dostavila Agencija za zaštitu ličnih podataka (AZLP) pokazali su da je crnogorski MUP nabavio softver za prepoznavanje lica Better Tomorrow koji proizvodi izraelska kompanija Any Vision. Softver je nabavljen u okviru projekta sistema video nadzora javnih površina, a kamere, čija je namjena prepoznavanje lica, postavljene su na lokacijama u Podgorici, Baru i Budvi.Tokom nadzora 2021. i 2022. godine AZLP je utvrdila da su takve kamere bile uključene, ali da one nijesu povezane na softver za prepoznavanje lica, koji je u tom momentu bio u fazi implementacije.
Iz Ministarstva unutrašnjih poslova nijesu odgovorili na pitanja BIRN-a od prošlog decembra koja se odnose na detalje nabavke softvera i kamera za video nadzor, kao ni da li je tokom testnog režima rađena biometrijska analiza. Nije odgovoreno koliko je postavljeno kamera i na kojim lokacijama, kao ni da li snimaju sva lica na javnoj površini i na koji način se obrađuju podaci i po kojem zakonskom osnovu.
U Crnoj Gori ne postoji jasan zakonski okvir kojim je regulisana upotreba biometrijskih mjera na javnim površinama i njihova masovna obrada. Zakonom o zaštiti ličnih podataka predviđeno je da biometrijske mjere mogu primjenjivati državni organi radi bezbjednosti lica ili imovine, ali samo u vezi sa ulaskom u poslovni i službeni prostor uz prisustvo zaposlenih. Zakonom je predviđeno da se radi bezbjednosti mogu snimati javne površine.
Zakonom je predviđeno da prije svake automatske obrade biometrijskih podataka MUP mora tražiti saglasnost AZLP, jer to predstavlja poseban rizik za lična prava i slobode.
Šta je sistem za prepoznavanje lica Better Tomorrow?
Izraelska kompanija Any Vision opisuje program Better Tomorrow kao “najnapredniji svjetski taktički sistem za nadzor zasnovan na vještačkoj inteligenciji, sposoban da otkrije, prati i prepozna osobe od interesa i predmete na masovnim skupovima u realnom vremenu”.
Prema pisanju izraelskog dnevnika Haaretz iz jula 2019. godine i američkog The Washington Posta iz novembra 2021. godine, tehnologiju Any Vision-a za prepoznavanje lica, između ostalih, koristila je izraelska vojska 2019. godine za tajni nadzor nad palestinskim civilnim stanovništvom u okupiranoj Zapadnoj obali, nakon čega je svjetski tehnološki gigant Microsoft, prema pisanju agencije Reuters, odlučio da proda svoje akcije u izraelskoj start up firmi i saopštio da više neće praviti manjinska ulaganja u kompanije koje prodaju kontroverznu tehnologiju.
U oktobru 2021. godine Any Vision se rebrendirao u Oosto, a softver za prepoznavanje lica promijenio je naziv u On Watch.
Bojan Perkov iz beogradske Share fondacije, koja se bavi digitalnom bezbjednošću, upozorio je da korišćenje sistema za biometrijski nadzor dovodi do potpunog gubitka privatnosti u javnom prostoru.
– Onaj ko kontroliše sistem može da bez pristanka retroaktivno ili u realnom vremenu prati kretanja svih građana i po potrebi ukršta te podatke sa drugim bazama podataka i na osnovu toga donosi različite zaključke i odluke – izjavio je Perkov za BIRN.
Kamere u tri grada, sistem se još testira?
Ministarstvo unutrašnjih poslova je u julu 2019. godine, kada je njime rukovodio Mevludin Nuhodžić, od Agencije tražilo saglasnost za uvođenje video nadzora na teritoriji Podgorice, Bara, Budve i Cetinja u cilju, kako su naveli, povećanja stepena zaštite bezbjednosti lica i imovine. Tada je pojašnjeno da se video nadzor uvodi zbog spriječavanja i otkrivanja krivičnih djela, pronalaženja počinalaca krivičnih djela, održavanja javnog reda i mira, obezbjeđivanja javnih okupljanja, obezbjeđivanja određenih ličnosti, objekata i prostora kao i održavanje komunalnog reda.
Agencija je dala saglasnost 30. avgusta 2019. godine, dostavljajući ministarstvu namjenu kamera i tabelarni prikaz lokacija na kojima je ih moguće instalirati. U tom dokumentu se prepoznavanje lica pominje kao namjena za korišćenje kamera za dio lokacija, ali Agencija ne pominje biometrijsku obradu podataka, odnosno korišćenje softvera i kamera za prepoznavanje lica.
U tom dokumentu MUP se poziva na članove 35 i 40 Zakona o zaštiti ličnih podataka kojima je, između ostalog, propisano da javni sektor može snimati javne površine radi bezbjednosti lica i imovine, o čemu se vodi evidencija koja može sadržati snimak lica, datum, vrijeme snimanja kao i ime, adresu, zaposlenje i broj identifikacionog dokumenta snimljenog lica, ako su lični podaci prikupljeni pored snimka ili putem video nadzora.
Agencija je od MUP-a zahtijevala da da u roku od šest mjeseci donese interno Pravilo obrade i zaštite ličnih podataka za evidenciju video nadzora javnih površina kojim će se detaljno precizirati procedure i mjere za zaštitu ličnih podataka kako bi se spriječilo njihovo neovlašćeno uništavanje podataka, promjena ili gubitak, kao i neovlašćen pristup, korišćenja ili prenos ličnih podataka.
MUP je bio u obavezi da sa Upravom policije zaključi ugovor o obradi ličnih podataka, kojim bi se uredila prava i obaveze rukovalaca i obrađivača zbirke ličnih podataka. MUP-u i Upravi policije naređeno je da obezbijede obezbijede tehničke, kadrovske i organizacione mjere zaštite ličnih podataka.
Agencija je ukazala i da postupak instaliranja i puštanja u rad sistema video nadzora mora biti transparentan kako bi građani bili upoznati sa svrhom obrade ličnih podataka i informisani o uslovima pod kojima se video nadzor sprovodi, kao i rokovima čuvanja i pravu pristupa ličnim podacima.
Nakon date saglasnosti i procesa javne nabavke, MUP je 4. decembra 2019. godine potpisao pet miliona eura vrijedan ugovor sa konzorcijumom kompanija iz Srbije – Institut Mihailo Pupin, Telegroup, All Control, BitInfo IPC i podgoričke firme Čikom. Ugovorom je predviđena izrada projektno-tehničke dokumentacije, isporuka, montaža, povezivanje i puštanje u rad sistema video nadzora.
Sistem za video nadzor je postavljen u Podgorici, Baru i Budvi, dok na Cetinju kamere nijesu montirane. Agencija je dala saglasnost da se kamere postave na 35 lokacija u Podgorici, od čega je devet lokacija za kamere za prepoznavanje lica.
Agencija je kontrolisala rad sistema u Podgorici 2021. godine, a godinu kasnije u Baru i Budvi, kada je video nadzor radio u testnom režimu. Sistem i dalje nije zvanično pušten u rad.
Kamere za biometriju bile funkcionalne, ministri neupućeni
Na pitanje zbog čega je Ministarstvo unutrašnjih poslova nabavilo softver za prepoznavanje lica i po kom zakonskom osnovu, bivši ministar Mevludin Nuhodžić je kazao da je raspisivanju tendera prethodilo pribavljanje saglasnosti AZLP, navodeći da je tehnička specifikacija tendera označena stepenom tajnosti “jer se radilo o specifičnoj nabavci”.
Upitan da li je softver za prepoznavanje lica korišten tokom njegovog mandata do decembra 2020. godine, Nuhodžić je naveo da je nakon potpisivanja ugovora, formirana Komisija za praćenje realizacije projekta, te da je to podrazumijevalo i kontrolu od strane Agencije.
“Za vrijeme mog mandata projekat u cjelosti nije završen, te nemam informaciju o korišćenju sistema. Realizacija projekta nastavljena je nakon mog odlaska iz MUP-a, i ministar koji me je naslijedio potpisao je aneks ugovora o daljoj realizaciji projekta. Tako da nijesam upućen u detalje oko postavljanja opreme i korišćenja sistema”, kazao je Nuhodžić.
Međutim tokom nadzora 2021. godine u Podgorici, AZLP je utvrdila da su na tri lokacije kamere sa opcijom prepoznavanja lica bile funkcionalne. U Baru je data saglasnost za postavljanje kamera na 21 lokaciji, od čega je za 11 lokacija dato odobrenje za kamere sa opcijom prepoznavanja lica. U Budvi je od 18 odobrenih lokacija za kamere, odobrenje za prepoznavanje lica dato za tri lokacije.
Sergej Sekulović, koji je u to vrijeme bio na čelu MUP-a, tvrdi da je u vrijeme kada je bio imenovan za ministra projekat video nadzora bio u poodmakloj fazi, navodeći da je bilo zastoja sa lokalnim samoupravama i tražena su izjašnjenja AZLP za kamere kod kojih je obim snimanja prelazio potrebne okvire.
“Kako sam tada upoznat, radi se o savremenom sistemu koji bi u bitnom uticao na smanjenje kriminaliteta u preventivnom smislu i olakšao otkrivanje počinilaca krivičnih djela. U svakom slučaju pretežniji je bio javni interes u tom pravcu nego zaustavljanje istog, plus sto su ugovori bili potpisani i dobar dio obaveza realizovan”, kazao je Sekulović.
Na pitanje da li je tokom testnog režima korišten softver za prepoznavanje lica, bivši ministar je kazao da misli da je sistem imao sve savremene tehnike uključujući i tu.
“Ne mogu sad da potvrdim 100 odsto, pogotovo je li korišteno u testnoj fazi”.
Tokom nadzora 2022. godine iz Agencije su utvrdili da su u Budvi i Baru na po tri lokacije instalirane kamere za prepoznavanje lica, od čega su po dvije bile u funkciji. Namjena ostalih kamera u ova tri grada je, kako se navodi, kontrola prostora i prepoznavanje registarskih tablica.
Iz MUP-a, kojim trenutno rukovodi Danilo Šaranović, nisu odgovorili na pitanje BIRN-a da li je sistem video nadzora u testnom režimu sprovodio biometrijsku analizu, kao ni da li će analiza sprovoditi kada sistem bude zvanično pušten u rad. Iz MUP-a nijesu odgovorili ni kada će sistem biti zvanično pušten u rad.
Šaranović je u intervjuu “Vijestima” 6. januara kazao da je sistem video nadzora i dalje u testnoj fazi i da se koristi dominantno u “operativne svrhe”.
“Projekat je počeo sa implementacijom u 2019. i tokom implementatcije, koliko sam upoznat, pojavile su se poteškoće koje nijesu u potpunosti prevaziđene, a odnose se na neadekvatno planiranje i projektovanje sistema, te neadekvatno planiranje kadrovskih kapaciteta za održavanje i rukovanje ovako kompleksnim sistemom”, kazao je Šaranović.
Kamere pokrivale balkone i unutrašnjost stanova
Međutim, AZLP u zapisniku o nadzoru za teritoriju Podgorice 13. aprila 2021. godine navodi da softver za prepoznavanje lica Better Tomorrow nije bio u funkciji već u fazi implementacije. U zapisniku koji je dostavljen BIRN-u navodi se da se kamere za prepoznavanje lica nadgledaju pomoću softvera za kontrolu prostora, kao i da će “na iste, kada se završi implementacija prema izjavi ovlašćenih službenika, biti instalirano softversko rješenje za prepoznavanje lica”.
U zapisniku Agencije od 7. septembra 2022. godine, a koji se odnosi na sistem video nadzora u Baru i Budvi, konstatuje se da softver za prepoznavanja lica nije bio u funkciji zbog čega se nije mogao utvrditi način obrade prikupljenih ličnih podataka.
Nakon što je novinar BIRN-a pitao Agenciju da li su dali saglasnost na korišćenje softvera za prepoznavanja lica i da li je procijenjen rizik uspostavljanja biometrijskog video nadzora, Savjet Agencije je na sjednici 5. februara, odlučio da ponovo pokrene postupak nadzora sistema video nadzora javnih površina ali izvještaj o tom nadzoru još nije objavljen.
Prilikom nadzora video sistema 2021. godine, Agencija je utvrdila da 28 kamera na javnim površinama u Podgorici, upotrebom zuma i perimetrom mogu snimiti balkone i, kroz prozore, unutrašnjost stambenih prostora. Agencija je to utvrdila i prilikom nadzora sistema u Baru i Budvi.
Agencija je utvrdila da se time može ugroziti pravo na privatnost i nepovredivost doma, navodeći da to nije u skladu sa namjenom video nadzora javnih površina. Nakon što je MUP-u naloženo da ispravi nepravilnosti, kamere su zatamnjene, u dijelu perimetra kojim se može ugroziti privatnost.
Agencija je utvrdila i da su obavještenja o video nadzoru istaknuta na lokacijama gdje su instalirane kamere, kao i da su u Podgorici, Baru i Budvi postavljene četiri vrste kamera. Kamere su bežičnom mrežom povezane na softver Indigo Vision Control Center kojime se upravlja video zapisima i oni skladište. Tokom nadzora u Baru i Budvi, utvrđeno je da je dio kamera integrisan i na softver Indigo Vision LPR koji se koristi za prepoznavanje tablica automobila.
Osim Better Tommorow za prepoznavanje lica i Forensic koji je dio Any Vision, Agencija je utvrdila da MUP posjeduje i Brief Cam softver, koji je bio u fazi implementacije. Iako taj softver nudi i opciju prepoznavanje lica, u dokumentima AZLP se navodi da će on služiti za analitiku video snimaka, što uključuje rješenja koja pružaju opcije za dobijanje što više detalja iz snimljenog materijala. Utvrđeno je i da je softversko rješenje Indigo report, koja će očitavati log fajlove u fazi implementacije.
Namjena 268 kamera:
Prepoznavanje lica – 9
Prepoznavanje tablica – 137
Analitika – 71
Kontrola prostora – 51
Navodi se i da je predstavnik AZLP 15. aprila 2021. godine imao uvid u softverska rješenja tokom kontrole video nadzora u Podgorici.
Kako se navodi u izvještaju Agencije, sistem video nadzora na teritoriji Podgorice funkcioniše tako što se video snimci sa svih pet radnih stanica pohranjuju na serverima i storidžima u prostorija data centra MUP-a, koji je proglašen sa bezbjednosnu zonu. Nadgledanje se sprovodi u realnom vremenu, sa mogućnošću premotavanja, a video zapisi se čuvaju 30 dana, nakon čega sljedeći zapis automatski briše prvi, dok se izuzeti materijal čuva do okončanja krivičnog ili prekršajnog postupka.
Eksportavanje materijala moguće je samo uz zahtjev Uprave policije i Centra bezbjednosti Podgorice, dok sistem ne evidentira prekršaje automatski. Po sličnom principu funkcioniše sistem video nadzora u Budvi i Baru.
Obilaskom terena reporter BIRN-a utvrdio je da pojedine kamere imaju oznake Tattile, imena softvera koji ima opciju prepoznavanja tablica i oznake Avigilion, kompanije koja je specijalizovana za video nadzor.
Iako pojedini proizvođači softvera za prepoznavanje lica tvrde da se obrađuju samo biometrijski podaci onih lica koja su interesantna organima bezbjednosti, sistem funkcioniše tako što se obrađuju podaci svih lica na snimanom prostoru, kako bi službenici mogli identifikovati traženo.
Zakonom o zaštiti podataka o ličnosti propisano je da se video nadzor može sprovoditi radi bezbjednosti lica i imovine, kao i da građani moraju biti obaviješteni o video nadzoru. Za video nadzor javnih površina sprovode se odredbe koje se propisuju za snimanje službenih ili poslovnih prostora.
“To nije dovoljno i smatram da bi zakon trebao detaljnije da propiše pitanje video nadzora javnih površina “, kazao je podgorički advokat Veselin Radulović BIRN-u.
Evropski parlament protiv masovne upotrebe biometrijske tehnologije
U decembru 2023. godine Evropski parlament i Savjet postigli su politički dogovor oko Akta o vještačkoj inteligenciji, koji će striktno uređivati upotrebu vještačke inteligencije u članicama EU. To se odnosi na korišćenje vještačke inteligencije za implementiranje masovnog biometrijskog nadzora, a kao neprihvatljiv rizik se navodi primjena pojedinih biometrijskih sistema, koji će biti zabranjeni.
“Sistemi za prepoznavanje emocija na radnom mjestu i neki sistemi za kategorizaciju ljudi ili biometrijska identifikacija u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona (uz strogo ograničene izuzetke)”, navodi se.
Evropski parlament akt je konačno usvojio 13. marta ove godine, a upotreba sistema za daljinsku biometrijsku identifikaciju u realnom vremenu dopuštena je isključivo u svrhu krivičnog gonjenja uz stroge uslove, poput vremenskog i geografskog ograničenja, i uz prethodno sudsko odobrenje.
U presudi Evropskog suda za ljudska prava 4. jula prošle godine u predmetu Glukhin protiv Rusije naglašava se “visoko intruzivna” priroda tehnologije za prepoznavanje lica i utvrđuje se da bi opšta upotreba ove tehnologije od strane policijskih zvaničnika za identifikaciju demonstranata prekršila osnovna prava ako se ne uspostave detaljna pravila o ovoj upotrebi i adekvatne mjere zaštite od proizvoljnosti.
Nema procjene rizika od biometrijskog nadzora
U Crnoj Gori nisu donijeta posebna zakonska rješenja, niti izmjene i dopune sadašnjih zakona kojima bi se regulisala upotreba biometrije.
Na osnovu dokumentacije i odgovora do kojih je došao BIRN, MUP nije radio ni procjenu rizika uspostavljanja biometrijskog video nadzora, niti je AZLP to zahtijevala.
Iste godine kada je Crna Gora krenula sa projektom video nadzora javnih površina, vlasti u Srbiji su najavile da će Beograd biti pokriven kamerama za biometrijski nadzor, koje će imati mogućnost uparivanja sa softverom za prepoznavanje lica i registarskih tablica.
Uslijedila je žestoka reakcija javnosti, nakon čega je Povjerenik za informacije od javnog značaja i zaštitu podataka o ličnosti zatražio od MUP-a izradu procjene uticaja nadzornog sistema na prava građana. MUP Srbije je izradio dvije takve procjene, a obje su odbijene kao nezadovoljavajuće.
Krajem ljeta 2021. godine, MUP je objavio Nacrt zakona o unutrašnjim poslovima čija su predložena rješenja stručnjaci ocijenili kao legalizaciju sistema masovnog biometrijskog video nadzora, a reagovala je i međunarodna zajednica.
Nacrt zakona je ubrzo povučen, da bi krajem 2022. godine bili objavljeni novi predlozi zakona kojima se reguliše biometrijski nadzor u javnim površinama. Rasprava o ovim nacrtima se i dalje vodi.
MUP usvojio pravila o snimanju
Sistem nadzora kroz prepoznavanje lica sastoji se iz nekoliko koraka. Nadzorne kamere prave video zapise površine koji pokrivaju, izvlače se lica osoba koja se na njima nalaze, nakon čega specijalizovani softver obrađuje video zapis. Svako lice se pretvara u specifičan biometrijski kod, a softver ga prepoznaje na osnovu neuronskih mreža – jedinstvenog seta linija koje spajaju djelove lica poput očiju, nosa, brade, ušiju. Dobijeni biometrijski kod se upoređuje sa različitim bazama podataka kako bi se došlo do preklapanja i otkrivanja identiteta osobe sa snimka.
Veselin Radulović smatra da uvođenje video nadzora javnih površina može dovesti u pitanje poštovanje osnovnih ljudskih prava ukoliko ne postoji adekvatan nadzor obrade prikupljenih podataka.
“Neophodno je obezbijediti da se prikupljeni podaci ne zloupotrebljavaju. Zbog toga je veoma važno ko će imati pristup prikupljenim podacima, kako će se voditi evidencija, ko će njome rukovoditi i koliko će se ti podaci čuvati. Posebno je važno ko će i na koji način kontrolisati upotrebu prikupljenih podataka”, kazao je Radulović BIRN-u.
MUP je u aprilu 2021. godine donio Pravila o vršenju video nadzora javnih površina, kojim je definisano da ministarstvo upravlja sistemom video nadzora, a da Uprava policije snima javne površine. Propisano je da svi policijski službenici, koji su na bilo koji način uključeni u video nadzor, moraju biti upoznati sa odredbama Zakona o zaštiti ličnih podataka o ličnosti.
Precizirano je da se evidentira svaki ulazak policijskih službenika u prostorije za praćenje video snimaka, a da se monitori privremeno isključuju ukoliko sastancima u tim prostorijama prisustvuju osobe koje nisu policijski službenici.
Sistemu se pristupa na osnovu kartica ili lozinki uz vođenje evidencije korišćenja, a ne mogu se unositi uređaji kojima se može snimati. Ovlašćeni službenici ne treba da zumiraju privatni prostor (prozore stanova i balkone), dok neovlašćena lica ne smiju prići prostoriji u kojoj se čuvaju snimci.
MUP je sa Upravom policije zaključio i ugovor o obradi ličnih podataka kojim je, između ostalog, definisano da Uprava policije kao obrađivač upravlja sistemom video nadzora u skladu sa zakonima o zaštiti ličnih podataka, dok MUP sprovodi snimanje javnih površina i unosi informacije o pravnom osnovu za korišćenje podataka, broju predmeta, vremenu odjave i prijave sa sistema.
Prema tom ugovoru MUP ima obavezu da odredi koji zaposleni i kojim ličnim podacima sa video nadzora može imati pristup, kao i kategorije podataka koje se mogu dati na korišćenje i pod kojim uslovima.
Da Crna Gora posjeduje softver za prepoznavanje lica potvrdio je tadašnji ministar unutrašnjih poslova Filip Adžić koji je 12. oktobra 2022. kazao da je “moćan alat za veću sigurnost građana stavljen u funkciju”. Adžić se javno pohvalio na društvenim mrežama da sistem može da identifikuje lica i objekte, registarske oznake vozila i detektuje saobraćajne prekršaje.
Na pitanje BIRN-a da li je tokom njegovog mandata sistem zvanično počeo sa radom, Adžić je naveo da bi “rado odgovorio, ali više nije ministar”.
Bojan Perkov tvrdi da postoje manje intruzivni načini da se otkriju počinioci krivičnih dela.
“Pozitivan uticaj na smanjenje kriminala upotrebom ovakve tehnologije je precijenjen, a njeno korišćenje nije srazmjerno rizicima po prava i slobode građana”, kazao je Perkov.
-Onima koji nadziru daje se previše nekontrolisane moći i npr. neko ko je bio na protestu mogao bi da bude identifikovan i opomenut na radnom mjestu ako radi u državnom organu ili javnom preduzeću, ili bi mogao da prođe neku vrstu inspekcije ako je preduzetnik-rekao je Perkov.
Tužilaštvo provjerava tender za nabavku sistema
Iz Osnovnog državnog tužilaštva u Podgorici BIRN-u su saopštili da je formiran predmet povodom tendera za nabavku sistema za video nadzor iz 2019. godine, navodeći da je on u postupku izviđaja.
“Zbog zaštite interesa postupka, nismo u mogućnosti saopštiti više detalja”, navodi se u odgovorima rukovodioca ODT-a Duška Milanovića.
MUP je tendersku dokumentaciju za otvoreni postupak javne nabavke sistema video nadzora raspisao 11. oktobra 2019. godine, a 4. decembra iste godine potpisao ugovor sa konzorcijumom kompanija iz Srbije – Institut Mihailo Pupin, Telegroup, All Control, BitInfo IPC i podgoričke firme Čikom sa rokom izvršenja od 365 dana. Između ta dva datuma tekst tendera mijenjan je šest puta, a u dijelu koji se odnosi na tehničke karakteristike ili specifikacije predmeta proglašen je tajnim.
Nakon smjene vlasti na parlamentarnim izborima u avgustu 2020. godine, tadašnji državni sekretar MUP-a Rade Milošević je u novembru 2021. godine tužilaštvu dostavio informacije o mogućoj zloupotrebi službenog položaja u postupku javne nabavke opreme za video nadzor.
Preporučeno
Iz MUP-a nijesu BIRN-u odgovorili koliki je ukupni budžetski trošak za sistem video nadzora, kao ni da li je ministarstvo ispitalo navode o spornoj tenderskoj nabavci.
Video