Kad je 2018. stupila na snagu GDPR Uredba, malo tko je predvidio da će “Službenik za zaštitu podataka” (DPO) za nekoliko godina postati standardna pozicija u gotovo svakoj srednjoj i velikoj organizaciji u Europi. Nešto slično događa se danas s EU AI Act-om (ili Uredba) — samo što se ovaj put ne rađa jedna funkcija, nego čitav novi profesionalni profil: AI Governance stručnjak. Ovaj članak detaljno razmatra pravnu osnovu, konkretne zadaće, potrebne vještine i institucionalni kontekst ove nove uloge, isključivo na temelju teksta Uredbe i priznatih strukovnih izvora.
Pravna osnova: zašto zanimanje postaje obveza, a ne izbor?
Za razliku od mnogih “novih zanimanja” koja nastaju spontano zbog tržišnih trendova, AI Governance ima jasan zakonski temelj. Uredba izravno propisuje da dobavljači i subjekti koji uvode UI sustave moraju poduzeti mjere kako bi osigurali dostatnu razinu pismenosti u području umjetne inteligencije za svoje osoblje i druge osobe uključene u rad i korištenje UI sustava u njihovo ime, uzimajući u obzir njihovo tehničko znanje, iskustvo, obrazovanje, osposobljavanje te kontekst u kojem će se sustavi koristiti. Ovo nije preporuka ili dobra praksa — riječ je o pravnoj obvezi koja se odnosi na sve organizacije obuhvaćene Uredbom, bez obzira na veličinu.
Uredba definira i sam pojam “pismenosti u području umjetne inteligencije” kao vještine, znanje i razumijevanje koji dobavljačima, subjektima koji uvode sustav i zahvaćenim osobama omogućuju informirano uvođenje UI sustava, kao i svijest o mogućnostima, rizicima i mogućoj šteti. Uvodna izjava Uredbe dodatno pojašnjava da ta pismenost obuhvaća razumijevanje pravilne primjene tehničkih elemenata tijekom razvoja sustava, mjera koje treba primijeniti tijekom korištenja, tumačenja izlaznih vrijednosti te — za osobe pogođene UI sustavom — znanje potrebno za razumijevanje kako će odluke donesene uz pomoć umjetne inteligencije utjecati na njih. Upravo je operacionalizacija ove obveze u praksi ono što danas stvara potražnju za AI Governance profesionalcima.
Institucionalna arhitektura koja stoji iza novog zanimanja
AI Uredba ne ostavlja ovu ulogu bez institucionalnog uporišta — naprotiv, gradi cijelu regulatornu piramidu koju AI Governance stručnjak u organizaciji mora razumjeti kako bi znao s kim komunicira i prema kojim pravilima:
- Ured za umjetnu inteligenciju (AI Office)** — funkcija unutar Europske komisije zadužena za doprinošenje provedbi, praćenju i nadzoru UI sustava i UI modela opće namjene te za upravljanje umjetnom inteligencijom na razini Unije.
- Vijeće za umjetnu inteligenciju (AI Board) — savjetodavno tijelo sastavljeno od predstavnika država članica koje pomaže Komisiji i državama članicama u dosljednoj i djelotvornoj primjeni Uredbe, doprinosi koordinaciji među nacionalnim nadležnim tijelima, prikuplja i razmjenjuje stručno znanje te izdaje preporuke i mišljenja.
- Nacionalna nadležna tijela — svaka država članica mora imenovati barem jedno tijelo koje provodi prijavljivanje i barem jedno tijelo za nadzor tržišta, s dovoljno stalno zaposlenog osoblja čije kompetencije obuhvaćaju temeljito razumijevanje UI tehnologija, obrade podataka, zaštite osobnih podataka, kibernetičke sigurnosti i temeljnih prava.
- Prijavljena tijela — provode ocjenjivanje sukladnosti visokorizičnih UI sustava kada je to potrebno, uz zahtjeve neovisnosti, kompetentnosti i odsutnosti sukoba interesa.
Za organizaciju koja razvija ili koristi UI sustave, ovo znači da AI Governance stručnjak mora znati prema kojem tijelu se šalju obavijesti, koji su rokovi i koja dokumentacija je potrebna — a upravo je nepoznavanje ove strukture jedan od najčešćih uzroka kašnjenja u compliance procesima.
Konkretne zadaće AI Governance profesionalca
Ključne odgovornosti uključuju:
- Razlikovanje uloga u vrijednosnom lancu — utvrđivanje je li organizacija dobavljač, uvoditelj (deployer) ili korisnik UI sustava, budući da se odgovornosti prema Uredbi bitno razlikuju ovisno o ulozi, te uspostava odgovarajućih procesa upravljanja za svaku od njih
- Uspostava upravljačkih tijela — u praksi to uključuje pozicije i tijela poput Chief Privacy Officera, Chief Ethics Officera, Ureda za odgovornu umjetnu inteligenciju, AI Governance odbora, pravnih savjetnika, Etičkog odbora, Architecture Steering Groupsa i AI Project Managera
- Procjena zrelosti poslovnih funkcija u odnosu na UI upravljanje i rješavanje utvrđenih nedostataka
- Prilagodba postojećih praksi upravljanja privatnošću i podacima za potrebe upravljanja umjetnom inteligencijom, umjesto izgradnje potpuno novih procesa od nule
- Izrada politika upravljanja rizikom trećih strana, kako bi se osigurala odgovornost od početka do kraja lanca vrijednosti
- Zagovaranje podrške za AI governance kod višeg rukovodstva i tehničkih timova
- Uspostava organizacijske strategije rizika i tolerancije na rizik
- Izrada centralnog inventara UI i ML aplikacija te repozitorija algoritama
- Postavljanje zajedničke terminologije i taksonomije za umjetnu inteligenciju unutar organizacije
- Osiguravanje znanja i osposobljavanja kako bi se u cijeloj organizaciji njegovala kultura etičkog ponašanja
Posebno je važna napomena da AI Governance stručnjak mora aktivno surađivati s različitim profilima stručnjaka. Stručnjaci za pojedina poslovna i stručna područja pomažu u prepoznavanju ključnih rizika, podatkovni znanstvenici te inženjeri strojnog učenja i velikih jezičnih modela pružaju praktične uvide u mogućnosti mjerenja, tehnička ograničenja i ponašanje sustava, dok stručnjaci izvan područja umjetne inteligencije daju operativnu perspektivu potrebnu za pretvaranje mogućnosti sustava umjetne inteligencije u provediva i učinkovita rješenja u praksi.
Ljudski nadzor kao konkretan primjer operativne zadaće
Jedan od najkonkretnijih zadataka koji pada na AI Governance stručnjaka jest osiguravanje odgovarajućeg ljudskog nadzora nad UI sustavima, kako to zahtjeva Uredba. Smjernice o zabranjenim praksama pojašnjavaju da osoba zadužena za ljudski nadzor mora imati odgovarajuću pismenost, osposobljavanje i ovlast u području umjetne inteligencije kako bi razumjela na koji način sustav funkcionira te kada daje lošije rezultate ili radi neispravno. To znači da AI Governance profesionalac ne samo da propisuje politike, nego mora osigurati i konkretnu operativnu spremnost osoba koje svakodnevno nadziru rad UI sustava — uključujući postupke tumačenja rezultata sustava u kontekstu donošenja odluka i mehanizme za podnošenje pritužbi u slučaju pogreške.
Vještine, znanje i put do certifikacije
Rad na AI Governanceu zahtijeva poznavanje privatnosti, sigurnosti, analize podataka, etike podataka, moderiranja sadržaja, zaštite intelektualnog vlasništva, objašnjivosti UI sustava i algoritamske pristranosti — a stručnjaci iz mnogih disciplina morat će proširiti svoj skup vještina kako bi preuzeli ovu ulogu.
Izazov nije u stvaranju revizorske profesije od početka, jer već postoje različiti profili kvalificiranih revizora, uključujući interne i eksterne revizore, revizore informacijskih sustava te ISO vodeće auditore. Ključno je pitanje kako postojeća revizorska znanja, metodologije i certifikacijske modele prilagoditi specifičnostima sustava umjetne inteligencije.
Neovisna revizija umjetne inteligencije zahtijeva dodatna znanja o podacima, modelima strojnog učenja, automatiziranom donošenju odluka, pristranosti, objašnjivosti, robusnosti i regulatornim zahtjevima. Stoga se ovo područje trenutačno nalazi u fazi specijalizacije i standardizacije, odnosno razvoja ujednačenih kriterija stručnosti, metodologija revizije i standarda prema kojima bi se mogla dosljedno ocjenjivati pouzdanost i usklađenost sustava umjetne inteligencije.
Velik broj postojećih inicijativa i etičkih okvira dodatno otežava uspostavu jedinstvenog pristupa. Razvoj neovisne revizije umjetne inteligencije zato će se vjerojatno oslanjati na postojeće revizorske i ISO prakse, ali će istodobno zahtijevati njihovu nadogradnju novim, interdisciplinarnim kompetencijama.
Reskilling i tržište rada
Organizacije koje danas uspostavljaju funkciju AI Governanc-om ne bi trebale čekati da se na tržištu pojavi dovoljan broj potpuno profiliranih stručnjaka za ovo područje. Takvih kadrova još nema u potrebnoj mjeri, a razvoj umjetne inteligencije odvija se brže od razvoja formalnih obrazovnih i profesionalnih programa.
Praktičniji je pristup sustavno nadograđivati znanja postojećih stručnjaka iz područja privatnosti, prava, usklađenosti, upravljanja rizicima, informacijske sigurnosti, revizije i data sience-a . Upravo oni već posjeduju velik dio kompetencija potrebnih za razumijevanje regulatornih, etičkih, tehničkih i operativnih rizika umjetne inteligencije.
Šire gledano, automatizacija rutinskih poslova dodatno potvrđuje da razvoj vještina više nije povremena aktivnost, nego trajna obveza pojedinaca i organizacija. Prekvalifikacija, usavršavanje postojećih znanja i odgovarajući mehanizmi zaštite radnika bit će ključni kako bi tehnološka tranzicija bila održiva i pravedna.
Studija slučaja: FRIA i multidisciplinarni tim u praksi
Dobar ilustrativni primjer nove uloge vidljiv je u praksi procjene učinka na temeljna prava (FRIA) prema članku 27. Uredbe. Katalonska metodologija APDCat pokazuje da posao ne obavlja jedna osoba, nego koordinirani multidisciplinarni tim: pravni timovi za inovacije, privatnost i radno pravo, IT/CDO tim (glavni službenik za podatke, uz uključen tim odgovoran za umjetnu inteligenciju s tehničkog stajališta) te CISO tim za informacijsku sigurnost zajednički analiziraju slučajeve upotrebe UI sustava prije njihove provedbe, u okviru proširene procjene učinka na zaštitu podataka, nakon čega relevantni korporativni odbori ocjenjuju i prema potrebi sankcioniraju te inicijative. Isti izvor izravno preporučuje da organizacije preispitaju opise radnih mjesta kako bi uključile nove vrste vještina i odgovornosti, ulažu u osposobljavanje te razvijaju odgovarajuće profesionalne profile, budući da je od samog početka nužno da stručnjaci zaduženi za ove procjene budu uključeni u strategije i projekte digitalne transformacije.
Gdje tu ulazi tehnologija: uloga RegTech alata
Ručno praćenje svih navedenih obveza — od registra UI sustava, preko procjena poput DIPA i FRIA, do dokumentacije za prijavljena tijela i nacionalna nadležna tijela — brzo postaje neodrživo bez odgovarajućeg alata, pogotovo u organizacijama koje upravljaju s više UI sustava istovremeno. RegTech platforme strukturiraju ove procese u koji AI Governance stručnjaku daju jedinstveno mjesto za upravljanje usklađenošću: automatsko povezivanje podataka između DIPA i FRIA procjena u skladu s Uredbom, strukturirano bodovanje rizika te evidenciju za slučaj revizije od strane nadležnog tijela — umjesto da regulatorne zahtjeve prati kroz razbacane tablice i dokumente.
AI Governance nije marketinški izmišljen naziv za postojeće poslove privatnosti ili pravne poslove već je riječ je o novoj, multidisciplinarnoj ulozi koju izravno zahtijeva tekst Uredbe, oslanja se na jasnu institucionalnu infrastrukturu na razini EU-a i država članica. Organizacije koje sada grade ovu funkciju bilo zapošljavanjem, bilo prekvalifikacijom postojećih timova steći će značajnu prednost kada nadzorna tijela počnu aktivnije provoditi Uredbu.
#AIUredba #EUAIAct #AI #AIGovernance
