Novosti Svijet

Bezosjećajni čuvari

Avatari čuvaju Schengen: nema više muljanja na granici, stižu policajci roboti s ugrađenim detektorom laži; Ovako će uskoro izgledati kontrole u zračnim lukama

Bezosjećajni čuvari

Kompjutorski generirani likovi policajaca – tzv. avatari – u skoroj budućnosti čuvat će granice Europske unije.

Ono što je svojedobno naviještao George Orwell i na što danas najglasnije upozorava Elon Musk, postaje naša stvarnost: kompjutorski program uz pomoć umjetne inteligencije intervjuirat će putnike na ulazima u schengenske zračne luke i na materinskom jeziku im postavljati pitanja o identitetu, prtljazi, destinaciji i svrsi putovanja.

Zahvaljujući ugrađenom detektoru laži, virtualni granični čuvar reagirat će na svaku putnikovu promjenu tona, ubrzavanje pulsa ili širenje zjenica. Na temelju računalne analize svrstavat će ih u niskorizičnu ili visokorizičnu skupinu ugroza te svakoga potencijalnog sumnjivca prosljeđivati na daljnju "obradu" živim graničarima. Sustav će prikupljati i niz drugih osobnih podataka putnika u države EU-a, poput biometrijskih parametara ili papilarnih linija na prstima. Njegova računalna inteligencija navodno može detektirati 38 promjena na licu svake osobe u samo jednoj minuti.

Dehumanizirana ideja

Pilot-projekt računalnoga graničara, vrijedan 4,5 milijuna eura, zove se "iBorderCtrl" i već je u pokusnom sustavu Frontexa, agencije EU-a za graničnu i obalnu stražu. Upravo je počela njegova testna primjena u nekim zračnim lukama u Mađarskoj, Latviji i Grčkoj, i to na putnicima koji putuju izvan EU-a, s ciljem smanjenja zagušenja.

 

 

Računa se, međutim, da bi bezosjećajni softverski čuvari u punoj primjeni puno efikasnije od živih ljudi trijebili potencijalne teroriste, agresivce i druge sumnjivce iz ljudske rijeke koja se danomice slijeva na Stari kontinent. Više od 700 milijuna putnika svake godine uđe u EU, a računa se da će njihov broj u budućnosti samo dodatno rasti.

Borci za ljudska prava, kao i oni za zaštitu privatnosti, odmah su diljem Europe glasno ustali protiv dehumanizirane ideje ovakvih graničara. Frederike Kaltheuner, voditelj neprofitne britanske udruge Privacy International, već samo testiranje modela naziva strašnom zamisli koja umjetnoj inteligenciji prepušta procjenu i klasificiranje ljudi. On upozorava kako su slični algoritmi za prepoznavanje lica dosad pokazali ogromnu stopu pogrešaka kod ljudi i žena tamnije boje kože, a tvrdi i kako tradicionalni detektori laži imaju debelu povijest inkriminiranja posve nevinih.

– Suočit ćemo se s praksom da će mnogi morati dokazivati svoje poštenje samo zato jer je neki manjkavi softver utvrdio da lažu – upozorava Kaltheuner.

Iz Europskog konzorcija koji razvija sporni softver uzvraćaju, pak, da su u projekt ukalkulirali sve moguće rizike i da se svejedno radi o programu koji će znatno revolucionirati budućnost putovanja i međunarodne sigurnosti.

Masovni nadzor

Skeptičniji dio europskog civilnog društva ide još dalje u kritikama projekta, pa zaključuje kako je "detektor laži" njegov najmanje problematičan dio, budući da se u cjelini zapravo radi o sveobuhvatnom paketu za prikupljanje osobnih podataka i masovni nadzor građana. Tvrde kako je "iBorderCtrl" vrlo sličan "profilu osobnosti" koji je Cambridge Analitica koristila za nezakonito prikupljanje osobnih podataka s 50 milijuna Facebook računa u korist izborne kampanje Donalda Trumpa.

Riječ je o pseudoznanosti i splačini, jer "iBorderCtrl" sastavlja pun profil lica putnika koristeći video i fotografije, krade njegove privatne informacije s društvenih mreža, analizira dokumente i potpise, pohranjuje digitalni zapis nečijega glasa i izrađuje procjenu rizika na temelju tako protuzakonito prikupljenih podataka. Nije riječ ni o kakvom programu što traži ljude koji se žele skriti, nego o programu koji traži podatke koje građani imaju pravo tajiti – zaključuju stručnjaci nizozemske kompanije The Next Web u detaljnoj tehnološko-sadržajnoj analizi projekta europskoga kompjutorskoga graničara.

 

Naslovnica Svijet