Umjetna inteligencija sve se češće koristi u sustavima koji imaju pravne i stvarne posljedice za pojedince i organizacije. U mnogim slučajevima ti sustavi djeluju u pozadini — bez jasne dokumentacije, bez formalnih procedura i bez odgovora na ključno pitanje: tko je odgovoran.
Upravo se na tom presjeku prava, tehnologije i upravljanja rizicima pojavljuje pojam AI Governance.
AI više nije samo tehnološko pitanje
Za organizacije, umjetna inteligencija više ne predstavlja isključivo inovacijski potencijal. Sve češće ona postaje:
- izvor regulatornog rizika,
- pitanje usklađenosti s propisima,
- i potencijalni reputacijski problem.
Algoritamski sustavi već danas utječu na odluke o zapošljavanju, procjene rizika, dodjelu pogodnosti, prioritetizaciju slučajeva i pristup uslugama. U takvom kontekstu, izostanak jasnih pravila i nadzora nije neutralan — on sam po sebi predstavlja rizik.
Što zapravo obuhvaća AI Governance?
AI Governance ne odnosi se na upravljanje tehnologijom u tehničkom smislu. Radi se o upravljanju odlukama, procesima i odgovornostima povezanima s uporabom umjetne inteligencije.
To uključuje pitanja poput:
- tko donosi odluku o uvođenju AI sustava,
- na temelju kojih kriterija i procjena rizika,
- kako se osigurava nadzor nad njegovim djelovanjem,
- i tko snosi odgovornost ako sustav proizvede štetne ili nezakonite učinke.
Za compliance i pravne funkcije, to je novo područje koje se ne uklapa u potpunosti u postojeće okvire IT governancea, zaštite podataka ili klasičnog risk managementa.
Regulatorni kontekst se nepovratno promijenio
Donošenjem EU AI Acta, umjetna inteligencija više se ne promatra isključivo kao tehnološka inovacija, nego kao regulirano područje s izravnim implikacijama na prava, sigurnost i odgovornost.
Regulacija se temelji na procjeni rizika, a ne na vrsti tehnologije, što otvara niz praktičnih pitanja za organizacije i njihove pravne savjetnike:
- kako identificirati i klasificirati AI sustave koji se već koriste,
- kako dokazati razumnu razinu nadzora i kontrole,
- i kako se pripremiti za regulatorni nadzor ili sporove.
Zašto je ova tema posebno relevantna za compliance i pravnu struku
AI Governance se ne može u potpunosti delegirati IT odjelima. U praksi, posljedice pogrešne ili netransparentne primjene AI-ja vrlo brzo postaju:
- pravni problem,
- regulatorni problem,
- ili problem odgovornosti uprave.
Zato se sve češće postavlja pitanje: tko u organizaciji ima mandat, znanje i ovlasti upravljati AI rizicima?
Pitanja koja već danas signaliziraju rizik
- Je li određeni sustav prepoznat kao AI u organizacijskim dokumentima?
- Postoji li formalna odluka o njegovoj uporabi?
- Može li se objasniti način na koji sustav dolazi do rezultata?
- Postoji li mehanizam ljudskog nadzora ili intervencije?
- Kako bi se takva praksa branila pred regulatorom ili sudom?
Ako su odgovori na ova pitanja nejasni, to je već compliance signal. AI Governance nije teorijski koncept niti buduća tema.
Riječ je o novom području koje se brzo oblikuje na sjecištu prava, regulative i upravljanja rizicima. Za compliance managere i odvjetnike, razumijevanje osnovnih principa AI Governancea postaje dio profesionalne odgovornosti.
Autor: Ivan Gazić mag.iur