VEŠTAČKA INTELIGENCIJA POD KONTROLOM? Na čemu će sve biti akcenat prilikom opsežne izmene Zakona o zaštiti podataka o ličnosti

Rad na izmeni propisa je već počeo, a prvi sastanak Posebne radne grupe za izmenu i dopunu teksta održan je 16. januara.Predsednik Posebne radne grupe je državni sekretar u Ministarstvu pravde Miroslav Panić, a njegov zamenik poverenik Marinović.

- Počevši od 29. januara, svake srede sastajaće se uža Radna grupa, koja će jednom mesečno podnositi izveštaj široj grupi - kaže Marinović za naš list. - Pretrešćemo ceo zakon i radićemo na otklanjanju svih nedostataka i nedoumica. Ne žurimo, bitnije je da se posao obavi kako valja.

On kaže da neki segmenti sada nisu rešeni, kao što je postupak po pritužbi za zloupotrebu podataka, dok drugih stvari čak i nema u zakonu, kao što je npr. upotreba video-nadzora. Takođe, cilj je da se odvoji klasičan režim obrade podataka koji vrše standardni rukovaoci, od onog koji vrše nadležni organi za potrebe gonjenja i pronalaženja učinilaca krivičnih dela. U EU je to regulisano različitim uredbama, odnosno direktivama, dok se kod nas ova dva segmenta čak sreću u okviru istih članova zakona. Takođe će zakonom biti precizirani kriterijumi za dodelu sertifikata.

Naročito je zanimljivo kakva će rešenja radna grupa izabrati kada je u pitanju veštačka inteligencija. Prva evropska uredba iz 2023. deli sisteme veštačke inteligencije na one neprihvatljivog rizika, odnosno zabranjene, koji se smatraju pretnjom po ljude, zatim visokog rizika i ograničenog.

U ove neprihvatljivog rizika spadaju oni kod kojih se koriste tehnike kojih korisnik nije svestan, a one utiču na njegovo ponašanje. Posebno je zabranjena kognitivna manipulacija ponašanja ljudi ili specifičnih ranjivih grupa. Npr. igračke koje se aktiviraju glasom koje podstiču opasno ponašanje kod dece. U zabranjeno spada i društveno bodovanje, odnosno klasifikovanje ljudi na osnovu ponašanja, socio-ekonomskog statusa ili ličnih karakteristika, kao i sistemi biometrijske identifikacije u realnom vremenu i daljinski, kao što je prepoznavanje lica. Neki izuzeci mogu biti dozvoljeni. Npr. sistemima daljinske biometrijske identifikacije "post", gde se identifikacija dogodi posle značajnog odlaganja, biće dozvoljeno krivično gonjenje za teška krivična dela, ali tek nakon odobrenja suda.

U sisteme visokog rizika spadaju oni sistemi veštačke inteligencije koji negativno utiču na bezbednost ili osnovna prava. Ovde, između ostalog, spadaju: biometrijska identifikacija i kategorizacija fizičkih lica, upravljanje i rad kritične infrastrukture, obrazovanje i stručno osposobljavanje,zapošljavanje i upravljanje radnicima, pristup uslugama i davanjima,sprovođenje zakona, upravljanje migracijama, azilom i graničnom kontrolom, pomoć u pravnom tumačenju i primeni zakona. Svi visokorizični sistemi veštačke inteligencije biće procenjeni pre nego što budu stavljeni na tržište, kao i tokom rada.

Sistemi veštačke inteligencije sa ograničenim rizikom treba da budu u skladu sa minimalnim zahtevima za transparentnost koji bi omogućili korisnicima da donose odluke na osnovu informacija. To znači da nakon kontakta sa aplikacijama, korisnik može da odluči da li želi da nastavi da je koristi. Korisnici moraju da znaju kada su u interakciji sa veštačkom inteligencijom.