Regulacija umjetne inteligencije

Što je AI?

Vjerojatno već svatko ima neku osnovnu ideju o tome što bi umjetna inteligencija trebala biti. Postoje mnoge definicije, no mi ćemo bez kompliciranja i ulaska u prijeporna pitanja reći da je umjetna inteligencija (AI) inteligencija koju pokazuju uređaji pri obavljanju određene zadaće. Idealni inteligentni uređaj je prilagodljiv i ujedno poduzima radnje kako bi povećao vjerojatnost da ispuni neku zadaću.

Glavne značajke umjetne inteligencije su:

  1. sposobnost pohranjivanja velike količine podataka i prikupljanja novih podataka iz okoline;
  2. sposobnost da samostalno donosi odluke i zatim djeluje na temelju tih odluka.

Raširenost i primjena AI tehnologije raste iz minute u minutu. Vrlo značajan udio novih proizvoda na tržištu oslanja se na tu tehnologiju. S obzirom na jednu od njezinih glavnih karakteristika da prikuplja i pohranjuje veliku količinu podataka, već možemo naslutiti da se nameću razna pravna i etička pitanja.

AI i zaštita podataka

Moglo bi se reći da se pitanje zaštite podataka ističe pred svim drugim pitanjima kada raspravljamo o AI. Upotreba AI sustava zahtjeva svakodnevnu obradu podataka velikih razmjera. Naime, potrebna je velika količina podataka da bi složeni algoritmi AI-a mogli samostalno učiti i analizirati. Tu očekivano nastupaju izazovi usklađivanja s Općom uredbom o zaštiti podataka (GDPR).

Jedan od općih principa koje GDPR propisuje je i ograničavanje svrhe. Ograničavanje svrhe znači da osobni podaci moraju biti prikupljeni u posebne, izričite i zakonite svrhe te se dalje ne smiju obrađivati na način koji nije u skladu s tim svrhama. GDPR također određuje dužnost jamčenja transparentnosti obrade prema pojedincu čiji podaci se obrađuju. Među pravima koje daje ispitanicima je i pravo da se na njih ne odnosi odluka koja se temelji isključivo na automatiziranoj obradi. AI obrađuje velike količine podataka te se ta obrada uglavnom vrši automatski, bez utjecaja čovjeka, a sam proces obrade niti nije neposredno dostupan čovjeku (odvija se „iza kulisa, u pozadini“). Zbog takve prirode umjetne inteligencije, granice koje postavlja GDPR lako je prekoračiti. Važno je spomenuti i da se u postupku obrade moraju provoditi odgovarajuće tehničke i organizacijske mjere za omogućavanje učinkovite primjene načela zaštite podataka. Pri tome se trebaju uzeti u obzir i priroda, opseg, kontekst i svrhe obrade.

Od gore navedenih zahtjeva GDPR-a koji se tiču obrade osobnih podataka, važno je istaknuti pravo pojedinca da se na njega „ne odnosi odluka koja se temelji isključivo na automatiziranoj obradi, uključujući izradu profila, koja proizvodi pravne učinke koji se na njega odnose ili na sličan način značajno na njega utječu“. Spomenuto pravo ispitanika postoji ako se odluka donosi isključivo na automatiziranoj obradi, što znači da to pravo ne postoji ako je odluka donesena kombinacijom automatizirane i „ručne“ obrade osobnih podataka. Što se tiče učinaka automatizirane obrade, oni moraju biti pravni ili moraju na sličan način značajno utjecati na pojedinca. Pravni učinci će biti oni koji utječu na prava pojedinaca, npr. ako se pojedincu na temelju takve obrade zabrani prelazak preko granice ili mu se uskrati socijalna skrb. Učinci koji na sličan način značajno utječu na pojedinca su oni koji imaju jednak učinak kao i pravni učinci ili su im značajno slični. Utjecaj takvih učinaka ne smije biti beznačajan i mora postojati mogućnost da značajno utječu na okolnosti, ponašanje ili odluke pojedinca, npr. automatsko odbijanje e-zahtjeva za kredit ili recimo praksa donošenja odluke o zapošljavanju bez ljudskog utjecaja.

Za ovu temu također je od posebne važnosti izrada profila o određenoj fizičkoj osobi. Postoje mnogi sustavi koji vrše automatsku obradu podataka, međutim, veoma često AI izvršava profiliranje kao posebnu vrstu automatske obrade. Što je profiliranje? GDPR iznosi sljedeću definiciju:

„Izrada profila“ znači svaki oblik automatizirane obrade osobnih podataka koji se sastoji od uporabe osobnih podataka za ocjenu određenih osobnih aspekata povezanih s pojedincem, posebno za analizu ili predviđanje aspekata u vezi s radnim učinkom, ekonomskim stanjem, zdravljem, osobnim sklonostima, interesima, pouzdanošću, ponašanjem, lokacijom ili kretanjem tog pojedinca.“

AI je sposobna na temelju osobnih podataka donijeti zaključke u vezi pojedinca i to zovemo profiliranjem. Tako su organizacije koje usvoje AI sustav obrade podataka sposobne otkriti što pojedinac voli jesti te koje je spolne orijentacije ili npr. pretpostaviti dijagnozu o odnosu na navike određene osobe. Takva obrada podataka predstavlja znatno zadiranje u pravo privatnosti pojedinca.

Zbog svega navedenog, postoji vjerojatnost da će automatska obrada osobnih podataka prouzročiti visok rizik za prava i slobode pojedinca te dužnost organizacije, koja je voditelj obrade za obradu osobnih podataka koji su u pitanju, provesti procjenu učinka na zaštitu podataka. Ta procjena, uzimajući u obzir prirodu, opseg, kontekst i svrhe obrade, predviđa na koji način će obrada utjecati na pojedinca te također daje moguća rješenja, odnosno predlaže mjere predviđene za rješavanje problema rizika uzimajući u obzir prava i legitimne interese.

AI također obrađuje niz podataka koji nisu osobni. Obrada i prijenos takvih podataka uređuje Uredba Europskog parlamenta i vijeća od 14. studenoga 2018. o okviru za slobodan protok neosobnih podataka u Europskoj uniji (EU) 2018/1807. Ta uredba određuje načelo slobodnog protoka podataka koji nisu osobni podaci unutar Europske unije, osim kad je ograničenje ili zabrana opravdana razlozima javne sigurnosti.
Unutar AI sustava obrada podataka (osobnih i neosobnih) odvija se na način da se prikupljaju podaci iz cijeloga svijeta te se oni pohranjuju i prenose kroz mnogo različitih lokacija unutar i izvan Europske unije. Stoga je potrebno razmotriti obje navedene uredbe prilikom implementacije AI tehnologija.

U siječnju 2019. Vijeće Europe izdalo je Smjernice o umjetnoj inteligenciji i zaštiti podataka. Smjernice možemo sažeti na sljedeće:

  1. Zaštita ljudskog dostojanstva, prava i temeljnih sloboda, a posebice prava na zaštitu osobnih podataka, je nužna pri razvoju i usvajanju AI aplikacija.
  2. Razvoj AI tehnologija, koji se oslanja na obradu osobnih podataka, trebao bi biti temeljen na zakonitosti, poštenosti, određivanju svrhe, proporcionalnosti obrade podataka, tehničkoj i integriranoj zaštiti podataka, odgovornosti, transparentnosti, sigurnosti podataka i upravljanju rizicima.
  3. Pristup usmjeren na izbjegavanje i ublažavanje potencijalnih rizika obrade osobnih podataka je nužan dio odgovornosti za inovaciju u području AI.
  4. AI aplikacije moraju u svako doba potpuno poštovati prava ispitanika.

Cybersigurnost

Sve šira primjena AI donosi sa sobom razne rizike po pitanju informacijske sigurnosti. AI sustav je sposoban samostalno zaključivati i donositi odluke automatskim putem, što znači bez prekida i bez ljudskog uplitanja, stoga vanjski napad i uplitanje u rad AI-a može proći neotkriveno. Napadač na taj način može koristiti rad AI sustava za svoje svrhe, a može i ukrasti podatke koje AI prikuplja i obrađuje za svoj rad. Također, i sam napadač može koristiti AI da napadne slabe i ranjive sustave. Takvi napadi su često brzi, malih su troškova i ne privlače pozornost na sebe te zato dugo ostaju neotkriveni.

Korištenje AI-a u zlonamjerne svrhe već poprima široke razmjere i napadaču značajno olakšava posao. AI se može koristiti da istraži slabosti različitih sustava i da onda osmisli efikasnu metodu napada na te sustave. Zanimljivo je da rješenje protiv takvih napada leži upravo u AI tehnologiji. Specijalizirani AI sustav mogao bi predviđati takve napade i biti korak ispred napadača. Novi AI mogu biti izrađeni ne samo radi svoje posebne svrhe, već i da budu otporni na napade, da uče od napadača i adekvatno se zaštite.

Etička pravila

AI se ne bi smio koristiti bez razmatranja i primjena mjera čija svrha je izbjegavanje neželjenih posljedica. S tim na umu, neovisna Grupa stručnjaka visoke razine za umjetnu inteligenciju (High Level Expert Group on Artificial Intelligence - AI HLEG) je 8. travnja 2019. izdala konačnu verziju Etičkih smjernica za pouzdan AI. Cilj tih smjernica jest primijeniti antropocentrički pristup pri razvoju AI-a, odnosno pristup koji osigurava da stvaranje i razvoj AI-a ne budu svrha samima sebi, već da cilj bude povećanje ljudskog blagostanja.

Pouzdan AI bi uz važeće pravo trebao poštivati i niz ključnih zahtjeva koji trebaju biti zadovoljeni da bi se konkretan AI mogao smatrati pouzdanim:

• Ljudsko djelovanje i nadzor: AI sustavi bi trebali omogućiti pravedno društvo podupirući ljudsko djelovanje i temeljna prava, a ne smanjiti, ograničiti ili obmanjivati ljudsku autonomiju.
• Robusnost i sigurnost: pouzdan AI zahtjeva algoritme koji osiguravaju sigurnost, vjerodostojnost i robusnost u rukovanju s greškama i nedosljednostima tijekom svih faza životnog ciklusa AI sustava.
• Privatnost i upravljanje podacima: građani moraju imati potpunu kontrolu nad vlastitim podacima, dok podaci koji se tiču njih ne smiju biti korišteni da bi im se naudilo ili da bi ih se diskriminiralo.
• Transparentnost: trebala bi biti osigurana mogućnost utvrđivanja podrijetla.
• Raznolikost, nediskriminacija i poštenost: AI sistemi bi trebali razmotriti čitav spektar ljudskih sposobnosti, vještina i potreba te osigurati pristupačnost.
• Dobrobit društva i okoliša: AI sustavi bi trebali biti korišteni kako bi se unaprijedile pozitivne društvene promjene i kako bi se pojačala održivost i ekološka odgovornost.
• Odgovornost: trebali bi se ugraditi mehanizmi koji bi osigurali odgovornost za AI sustave i njihove učinke.

Ove smjernice su namijenjene za sve developere ili korisnike AI-a, međutim, i vlade će također imati ključnu ulogu u tom kontekstu. Štoviše, zakonodavci se pozivaju da osiguraju ispravno upravljanje ekonomskim i socijalnim učincima AI-a i da se etička pitanja ispravno uzimaju u obzir sa zakonodavnog stanovišta.

Navedene smjernice neodoljivo podsjećaju na „Tri zakona robotike“ kultnog pisca znanstvene fantastike Isaaca Asimova:

  1. Robot ne smije naškoditi čovjeku ili svojom pasivnošću dopustiti da se čovjeku naškodi.
  2. Robot mora slušati ljudske naredbe, osim kad su one u suprotnosti s prvim zakonom.
  3. Robot treba štititi svoj integritet, osim kad je to u suprotnosti s prvim ili drugim zakonom.

Na kraju možemo zaključiti da je pri razvoju AI tehnologija potrebno uzeti u obzir navedene rizike za prava i slobode pojedinaca te razvijati sustav koji poštuje ljudska prava i etičke smjernice, ne samo radi mogućih kazni regulatora, već i radi šire prihvaćene primjene takvih sustava.

Author image
Marija Boskovic Batarelo