Visokorizični sistemi umjetne inteligencije su središnja tačka Evropske uredbe o umjetnoj inteligenciji ( Uredba (EU) 2024/1689 ), obično poznate kao Zakon o umjetnoj inteligenciji, koja uvodi okvir zasnovan na riziku za razvoj, isporuku i korištenje sistema umjetne inteligencije (AI). Što je veći rizik za zdravlje, sigurnost i temeljna prava, to su obaveze teže.
Za organizacije, usklađenost stoga ne počinje izradom tehničke dokumentacije, već ispravnom klasifikacijom. Prvo utvrdite koji se sistemi umjetne inteligencije razvijaju, kupuju ili koriste unutar organizacije. Zatim procijenite da li je sistem zabranjen , visokorizičan, podložan obavezama transparentnosti ili izvan bilo kakvih specifičnih obaveza.
Ovaj članak utvrđuje kada se sistem umjetne inteligencije može kvalificirati kao visokorizičan, koje se obaveze primjenjuju na pružatelje usluga i implementatore te koje korake organizacije mogu poduzeti sada. Također pokriva trenutni vremenski okvir, uključujući promjene u okviru procesa Digital Omnibus. Referentni datum za ovaj članak je 25. juli 2026. godine.
Kada je sistem umjetne inteligencije visokorizičan?
Procjena visokorizičnih sistema umjetne inteligencije vrši se uglavnom prema Članu 6 i Aneksima I i III Zakona o umjetnoj inteligenciji. Postoje dva puta.
Prvi put se odnosi na sisteme umjetne inteligencije koji su dio proizvoda obuhvaćenih evropskim zakonodavstvom o proizvodima navedenim u Aneksu I i koji zahtijevaju ocjenjivanje usklađenosti od strane treće strane. Razmislite o određenim medicinskim uređajima, mašinama, liftovima i igračkama. Za ove sisteme, Zakon o umjetnoj inteligenciji se nadovezuje na postojeći postupak ocjenjivanja usklađenosti.
Drugi put se odnosi na sisteme umjetne inteligencije koji se koriste u domenima navedenim u Aneksu III: biometrija, kritična infrastruktura, obrazovanje i stručno osposobljavanje, zapošljavanje i upravljanje radnom snagom, pristup osnovnim privatnim i javnim uslugama, provođenje zakona, migracije, azil i kontrola granica, te upravljanje pravosuđem i demokratski procesi. Ne rezultira svaka upotreba unutar takvog domena automatski klasifikacijom među visokorizične sisteme umjetne inteligencije: specifična funkcija sistema i uslovi iz člana 6 također se moraju procijeniti.
Izuzetak u članu 6(3)
Sistem koji spada u domen Aneksa III ne ubraja se automatski među visokorizične sisteme umjetne inteligencije: ta klasifikacija se isključuje kada ne predstavlja značajan rizik za zdravlje, sigurnost ili osnovna prava osoba i ne utiče bitno na ishod donošenja odluka. To može biti slučaj kada sistem obavlja samo uski proceduralni zadatak, samo poboljšava aktivnost koju je već izvršio čovjek, samo označava odstupanja od ranijeg ljudskog donošenja odluka bez zamjene te procjene ili obavlja isključivo pripremni zadatak.
Oslanjanje na ovaj izuzetak mora biti pažljivo obrazloženo i dokumentirano. Organizacija evidentira ne samo zaključak, već i činjenice i procjenu na kojoj se taj zaključak zasniva. Pružatelj usluga koji smatra da sistem iz Aneksa III ne spada među visokorizične sisteme umjetne inteligencije mora dokumentirati tu procjenu prije nego što se sistem stavi na tržište ili u upotrebu, a dodatno podliježe i obavezi registracije iz člana 49(2).
U jednom pogledu, Uredba je apsolutna. Član 6(3) propisuje da se sistem umjetne inteligencije iz Priloga III uvijek ubraja među visokorizične sisteme umjetne inteligencije kada vrši profiliranje fizičkih osoba. U tom slučaju se ne može pozvati na izuzetak.
Koju ulogu ima vaša organizacija?
Zakon o vještačkoj inteligenciji razlikuje nekoliko uloga u lancu. Dvije od njih su važne za većinu organizacija. Strana koja razvija sistem vještačke inteligencije ili ga stavlja na tržište pod svojim imenom ili zaštitnim znakom kvalifikuje se kao pružalac usluga. Strana koja koristi sistem vještačke inteligencije u okviru vlastitog poslovanja, a da ga nije razvila, uglavnom se kvalifikuje kao implementator.
Ta raspodjela uloga nije statična. Organizacija koja značajno modificira kupljeni sistem, isporučuje ga dalje pod svojim imenom ili zaštitnim znakom ili mijenja njegovu namjenu, i dalje se može smatrati dobavljačem i stoga potpadati pod teži skup obaveza. Utvrdite za svaki sistem koju ulogu ispunjavate i zabilježite tu procjenu.
Glavne obaveze
Pružaoci visokorizičnih sistema umjetne inteligencije podliježu obavezama, uključujući one iz članova 8 do 17, 43 i 47 do 49:
- sistem upravljanja rizicima koji pokriva cijeli životni ciklus
- upravljanje podacima, uključujući otkrivanje i ispravljanje pristranosti u korištenim podacima, uključujući obuku, validaciju i testiranje podataka
- tehnička dokumentacija u skladu s Aneksom IV i evidentiranje događaja
- jasne upute za upotrebu za implementatore
- dizajn koji omogućava efikasan ljudski nadzor
- zahtjevi za tačnost, robusnost i sajber sigurnost
- sistem upravljanja kvalitetom, ocjenjivanje usklađenosti, EU deklaracija o usklađenosti, CE oznaka i registracija u EU bazi podataka
Za visokorizične sisteme umjetne inteligencije koji se koriste za daljinsku biometrijsku identifikaciju kako je navedeno u Aneksu III, tačka 1(a), član 14(5) nameće dodatni zahtjev za ljudski nadzor: nikakva radnja ili odluka ne može se poduzeti na osnovu identifikacije osim ako je nisu posebno provjerile i potvrdile najmanje dvije fizičke osobe s potrebnom kompetencijom, obukom i ovlaštenjem. Ovo je poznato kao princip četiri oka.
Korisnici sistema podliježu lakšim, ali ne manje važnim obavezama iz članova 26 i 27: korištenje u skladu s uputama za upotrebu, nadzor kompetentnog ljudskog tijela, praćenje rada sistema, prijavljivanje rizika i ozbiljnih incidenata te čuvanje evidencije najmanje šest mjeseci. Zaposleni koji će raditi sa sistemom i osobe na koje se primjenjuje moraju biti unaprijed obaviješteni.
Određeni pružaoci usluga moraju također provesti procjenu utjecaja na temeljna prava, Procjenu utjecaja na temeljna prava prema članu 27. To se u svakom slučaju odnosi na tijela kojima upravlja javno pravo, na privatne pružatelje javnih usluga i na pružatelje usluga koji koriste sisteme za kreditno bodovanje ili za procjenu rizika osiguranja u životnom i zdravstvenom osiguranju.
Vremenski okvir i trenutni status
Zakon o umjetnoj inteligenciji stupio je na snagu 1. augusta 2024. godine i primjenjuje se u fazama. U praksi je važno razlikovati obaveze koje se već primjenjuju, obaveze s budućim datumom primjene i najavljene izmjene čije formalno stupanje na snagu još nije završeno.
Zabranjene prakse (Član 5): Primjenjuje se od 2. februara 2025.
AI pismenost (Član 4): Primjenjuje se od 2. februara 2025.
Modeli umjetne inteligencije opće namjene: Primjenjivo od 2. augusta 2025.
Obaveze transparentnosti (Član 50): Primjenjuju se od 2. augusta 2026.; nisu odložene
Visok rizik putem Aneksa III: Formalno još uvijek 2. august 2026.; nakon što Omnibus stupi na snagu, najkasnije 2. decembar 2027.
Visok rizik putem Aneksa I: Formalno još uvijek 2. august 2027.; nakon što Omnibus stupi na snagu, najkasnije 2. august 2028.
Evropska komisija je 19. novembra 2025. godine objavila Digitalni omnibus paket, predlažući odgađanje primjene obaveza za visokorizične sisteme umjetne inteligencije. Privremeni politički dogovor postignut je 7. maja 2026. godine. Evropski parlament dao je svoju podršku 16. juna 2026. godine, a Vijeće je dalo konačno odobrenje 29. juna 2026. godine.
Međutim, na dan objavljivanja ovog članka, objavljivanje u Službenom listu Evropske unije još nije završeno. Amandman stupa na snagu trećeg dana nakon objave. Do tada, prvobitni vremenski okvir Zakona o umjetnoj inteligenciji ostaje primjenjivo pravo, s 2. augustom 2026. godine kao datumom primjene obaveza visokog rizika iz Aneksa III. Objavljivanje prije tog datuma se široko očekuje, ali još nije potvrđeno.
Odgoda je, štaviše, strukturirana uslovno. Primjena obaveza za visokorizične sisteme umjetne inteligencije vezana je za odluku Komisije kojom se utvrđuje da su dostupni potrebni usklađeni standardi i prateći instrumenti, nakon čega slijedi prelazni period. Datumi 2. decembar 2027. i 2. august 2028. funkcionišu kao rokovi, a ne kao jednostavno odlaganje.
Dvije tačke zaslužuju posebnu pažnju. Prvo, obaveze transparentnosti iz Člana 50 i obaveza pismenosti u oblasti vještačke inteligencije iz Člana 4 nisu odgođene: one ostaju na svom prvobitnom vremenskom okviru. Drugo, paket dodaje novu zabranu Članu 5, usmjerenu na aplikacije vještačke inteligencije koje generiraju intimne slike bez pristanka i na materijal seksualnog zlostavljanja djece generiran od strane vještačke inteligencije.
Za organizacije to znači da je planiranje u odnosu na decembar 2027. razumno, ali da bi vođenje evidencije za sada trebalo biti uređeno kao da je august 2026. i dalje obavezujući, sve dok Službeni list ne kaže drugačije.
Nadzor i kazne
U Holandiji, na dan referentnog datuma ovog članka, još uvijek nedostaje provedbeno zakonodavstvo za Zakon o umjetnoj inteligenciji. Očekuje se da će holandsko tijelo za digitalnu infrastrukturu i holandsko tijelo za zaštitu podataka preuzeti centralnu, koordinirajuću ulogu, dok će sektorski nadzornici ostati odgovorni u svojim domenima. Međutim, precizna raspodjela ovlaštenja i njena zakonska osnova moraju se utvrditi na osnovu konačnog holandskog provedbenog zakonodavstva.
Član 99. Zakona o umjetnoj inteligenciji predviđa nekoliko maksimalnih kategorija kazni. Visina zavisi od prirode prekršaja i, gdje je to relevantno, od godišnjeg prometa preduzeća na svjetskom nivou. Najviši maksimum primjenjuje se na kršenje zabranjenih praksi iz člana 5; niži maksimum primjenjuje se na kršenje ostalih obaveza, uključujući one za pružaoce i implementatore visokorizičnih sistema umjetne inteligencije; a najniži se primjenjuje na dostavljanje netačnih, nepotpunih ili obmanjujućih informacija vlastima. Povoljniji režim primjenjuje se na mala i srednja preduzeća (MSP), uključujući startupove. Stvarna kazna se određuje uzimajući u obzir primjenjiva pravila o kaznama i okolnosti slučaja.
Praktična mapa puta
- Napravite popis svih AI sistema koje vaša organizacija razvija, kupuje ili koristi.
- Za svaki sistem odredite koju ulogu ispunjavate: provajdera ili implementatora.
- Odredite kategoriju rizika za svaki sistem i dokumentirajte tu procjenu, uključujući svako oslanjanje na izuzetak iz člana 6(3).
- Uspostavite upravljanje umjetnom inteligencijom i imenujte odgovornog službenika.
- Osigurati pismenost u oblasti vještačke inteligencije među osobljem koje radi s ovim sistemima; ta obaveza se već primjenjuje.
- Pripremiti mjere transparentnosti prema članu 50 s obzirom na 2. august 2026. godine.
- Blagovremeno započnite s tehničkom dokumentacijom i, gdje je potrebno, procjenom utjecaja na temeljna prava.
- Pregledajte ugovore s dobavljačima o raspodjeli uloga, pružanju informacija i pravima revizije.
- Pratite objavu Omnibus paketa u Službenom listu i prilagodite svoje planiranje u skladu s tim.
zaključak
Zakon o umjetnoj inteligenciji fundamentalno utiče na način na koji organizacije razvijaju, kupuju i koriste umjetnu inteligenciju. Najavljeno odgađanje obaveza visokog rizika pruža dodatno vrijeme, ali još nije primjenjiv zakon, a obaveze koje se već primjenjuju ili stupaju na snagu 2. augusta 2026. godine nisu njime pogođene. Stoga je razuman pristup planirati u odnosu na nove datume, a istovremeno ostati spreman za stare. Za širi pregled propisa, pogledajte naš Kompletan vodič kroz Zakon EU o umjetnoj inteligenciji , koji dopunjuje fokus ovog članka na sisteme umjetne inteligencije visokog rizika.
Law & More pomaže organizacijama da inventarizuju i klasifikuju svoje AI sisteme, odrede svoju ulogu kao dobavljača ili implementatora, pregledaju i izrade ugovore sa dobavljačima AI sistema i uspostave upravljanje AI sistemom. Želite li znati koje se obaveze trenutno primjenjuju na vašu organizaciju i koji koraci bi trebali biti prioritetni? Slobodno nas kontaktirajte za razgovor bez obaveza.
Često Postavljena Pitanja
U nastavku odgovaramo na pitanja koja nam najčešće postavljaju o ovoj temi.
Šta je Zakon o umjetnoj inteligenciji?
Evropska uredba o vještačkoj inteligenciji (Uredba (EU) 2024/1689). Stupila je na snagu 1. augusta 2024. godine i primjenjuje se u fazama, s obavezama koje postaju teže kako se povećava rizik koji predstavlja sistem vještačke inteligencije.
Kada je sistem umjetne inteligencije visokorizičan?
Na dva načina: kao dio proizvoda obuhvaćenog zakonodavstvom o proizvodima navedenim u Aneksu I ili putem upotrebe unutar jedne od oblasti navedenih u Aneksu III. U potonjem slučaju, sama oblast nije odlučujuća; specifična funkcija i uslovi iz člana 6 također se računaju.
Može li sistem iz Aneksa III ipak spadati izvan kategorije visokog rizika?
Da, tamo gdje ne predstavlja značajan rizik i ne utiče bitno na donošenje odluka, na primjer kada obavlja usko proceduralni ili isključivo pripremni zadatak. Ta procjena mora biti dokumentovana. Tamo gdje sistem vrši profiliranje fizičkih osoba, izuzetak se nikada ne primjenjuje.
Jesam li ja pružatelj usluga ili implementator?
Vi ste dobavljač ako razvijate sistem ili ga stavljate na tržište pod svojim imenom ili zaštitnim znakom, a uglavnom ste implementator ako koristite kupljeni sistem. Ako značajno modificirate kupljeni sistem ili ga dalje isporučujete pod svojim imenom, i dalje možete postati dobavljač.
Koje se obaveze primjenjuju na pružatelje usluga?
Između ostalog, upravljanje rizicima, upravljanje podacima, tehnička dokumentacija, evidentiranje, uputstva za upotrebu, ljudski nadzor, zahtjevi za tačnost i sajber sigurnost, sistem upravljanja kvalitetom, ocjenjivanje usklađenosti, CE oznaka i registracija u bazi podataka EU.
Koje se obaveze primjenjuju na implementatore?
Upotreba u skladu s uputama, nadzor kompetentnog ljudskog tijela, praćenje, izvještavanje o rizicima i ozbiljnim incidentima, te čuvanje evidencije najmanje šest mjeseci. Uključeni zaposlenici i osobe na koje se sistem primjenjuje moraju biti unaprijed obaviješteni.
Kada se mora provesti procjena utjecaja na temeljna prava?
Član 27. ovo zahtijeva, između ostalog, od tijela reguliranih javnim pravom, privatnih pružatelja javnih usluga i pružatelja usluga koji koriste sisteme za kreditno bodovanje ili za procjenu rizika osiguranja u životnom i zdravstvenom osiguranju.
Jesu li obaveze visokog rizika odgođene?
Usvojeni amandman odgađa primjenu najkasnije do 2. decembra 2027. za Aneks III i 2. augusta 2028. za Aneks I. Na referentni datum ovog člana taj amandman još nije objavljen u Službenom listu, tako da se prvobitni datum od 2. augusta 2026. formalno još uvijek primjenjuje.
Šta se već danas primjenjuje?
Zabranjene prakse iz člana 5 i obaveza pismenosti u vezi sa vještačkom inteligencijom od 2. februara 2025. godine, te pravila za modele vještačke inteligencije opšte namjene od 2. augusta 2025. godine. Obaveze transparentnosti iz člana 50 stupaju na snagu 2. augusta 2026. godine i nisu odložene.
Ko nadgleda Zakon o vještačkoj inteligenciji u Holandiji?
Implementacijsko zakonodavstvo još uvijek nedostaje. Očekuje se da će holandska Uprava za digitalnu infrastrukturu i holandska Uprava za zaštitu podataka preuzeti centralnu, koordinirajuću ulogu, zajedno sa sektorskim nadzornicima. Konačna raspodjela ovlaštenja uslijedit će iz holandskog provedbenog zakonodavstva.
Šta bi moja organizacija trebala sada uraditi?
Započnite s popisom svih AI sistema koje razvijate, kupujete ili koristite. Zabilježite za svaki sistem koju ulogu imate, koja kategorija rizika se primjenjuje i koje obaveze slijede. Također, uspostavite upravljanje AI-jem, osigurajte pismenost u oblasti AI-ja i pregledajte ugovore s dobavljačima o raspodjeli uloga, pružanju informacija i pravima revizije.
