Evropski zakon o umjetnoj inteligenciji uveo je velike promjene 2. februara 2025. godine, čime su osigurane određene AI prakse ilegalno širom EU. Holandska preduzeća sada moraju poštovati stroga pravila o tome koje sisteme umjetne inteligencije mogu koristiti.
Kompanije koje ne uklone zabranjene alate umjetne inteligencije suočavaju se s visokim kaznama i potencijalnim pravnim postupcima protiv svakoga ko pretrpi štetu.
Od februara 2025. godine, sistemi umjetne inteligencije koji manipulišu ljudima, koriste socijalno bodovanje, kategoriziraju pojedince na osnovu biometrijskih podataka ili koriste prepoznavanje lica u stvarnom vremenu u javnim prostorima sada su zabranjeni u Holandiji. Ove zabrane također obuhvataju tehnologiju prepoznavanja emocija na radnim mjestima i u školama, zajedno s neciljanim prikupljanjem slika lica s interneta za izgradnju baza podataka za prepoznavanje.
Pravila se primjenjuju odmah, ne dajući preduzećima period odgode za postepeno ukidanje ovih sistema. Razumijevanje koje su prakse umjetne inteligencije zabranjene i koje korake vaša organizacija mora poduzeti ključno je kako bi se izbjegle kazne.
Ovaj vodič objašnjava specifične zabrane, ocrtava vaše obaveze usklađivanja kao holandsko preduzeće i pokriva zahtjeve za obuku potrebnu da bi vaše poslovanje bilo legalno prema novom zakonu.
Pregled zabrana iz februara 2025.
Uredba (EU) 2024/1689, poznata kao Zakon o veštačkoj inteligenciji EU, uvela je posebne zabrane određenih praksi umjetne inteligencije koje su stupile na snagu 2. februara 2025. Ova pravila se primjenjuju na vaše holandsko poslovanje ako razvijate, implementirate ili koristite AI sistemunutar Holandije ili šire Evropske unije.
Opseg zabranjenih praksi umjetne inteligencije
Zakon o umjetnoj inteligenciji zabranjuje specifične prakse umjetne inteligencije koje predstavljaju neprihvatljive rizike za temeljna prava i evropske vrijednosti. Član 5. Uredbe (EU) 2024/1689 identificira ove zabranjene prakse na osnovu njihove potencijalne štete, a ne same tehnologije.
Glavne zabranjene kategorije uključuju:
- Manipulativni AI sistemi koje iskorištavaju ranjivosti određenih grupa
- Sistemi društvenog bodovanja od strane javnih vlasti
- Daljinska biometrijska identifikacija u realnom vremenu u javno dostupnim prostorima za zakon provođenje zakona (uz ograničene izuzetke)
- Biometrijski sistemi kategorizacije koji zaključuju osjetljive atribute
- Neciljano struganje slika lica s interneta ili snimaka nadzornih kamera
Vaše poslovanje podliježe ovim zabranama bez obzira da li poslujete kao pružatelj usluga, implementator ili distributer umjetne inteligencije u Nizozemskoj. Nizozemska Agencija za zaštitu podataka surađuje s drugim tijelima za provođenje zakona Europske unije kako bi osigurala usklađenost.
Nepoštivanje propisa nosi kazne do 7% vašeg godišnjeg prometa širom svijeta.
Datumi stupanja na snagu i prelazni periodi
Zabrane iz člana 5. stupile su na snagu 2. februara 2025. To znači da vaše preduzeće mora odmah da se pridržava ovih pravila ako koristite ili razvijate relevantne sisteme vještačke inteligencije.
Okvir za provođenje zakona slijedi postepeni vremenski okvir. Potpune kazne, strukture upravljanja i odredbe o povjerljivosti stupaju na snagu od 2. augusta 2025. godine.
Ovo vašoj organizaciji daje šestomjesečni rok u kojem se pravila primjenjuju, ali se potpuni mehanizmi za provođenje još uvijek uspostavljaju. Evropska komisija je 4. februara 2025. objavila službene smjernice kako bi pojasnila kako ove zabrane funkcionišu u praksi.
Organi za nadzor tržišta, uključujući holandsku agenciju za zaštitu podataka, preuzeli su odgovornost za praćenje i sprovođenje ovih pravila od datuma početka u februaru.
Ključne definicije: Sistemi i prakse umjetne inteligencije
Prema Zakonu o umjetnoj inteligenciji, AI sistem označava softver koji koristi mašinsko učenje, pristupe zasnovane na logici ili statističke metode za generisanje rezultata poput predviđanja, preporuka ili odluka. Ova definicija je namjerno široka kako bi obuhvatila trenutne i nove tehnologije.
A zabranjena praksa umjetne inteligencije odnosi se na specifične načine primjene ili korištenja umjetne inteligencije koje je Evropska unija smatrala neprihvatljivim. Zabrana se odnosi na samu praksu, a ne na osnovnu tehnologiju.
To znači da biste mogli koristiti isti AI sistem u dozvoljene svrhe, a istovremeno vam je zabranjeno korištenje određenih aplikacija. Vaše preduzeće mora razlikovati AI sistem (tehnologiju) od njegove prakse (način na koji ga koristite).
Sistem umjetne inteligencije za prepoznavanje lica može biti zakonit za kontrolu pristupa zgradama, ali zabranjen za nadzor u stvarnom vremenu u javnim prostorima. Kontekst i primjena određuju zakonitost prema Uredbi (EU) 2024/1689.
Detaljan popis zabranjenih praksi umjetne inteligencije
Zakon EU o umjetnoj inteligenciji zabranjuje specifične primjene umjetne inteligencije koje predstavljaju neprihvatljive rizike za temeljna prava i sigurnost. Ove zabranjene prakse spadaju u tri glavne kategorije: sistemi koji manipuliraju ljudskim ponašanjem, oni koji iskorištavaju ranjive grupei mehanizme koji omogućavaju masovni nadzor putem socijalnog bodovanja.
Manipulativni i obmanjujući sistemi
Zakon o umjetnoj inteligenciji zabranjuje svaki sistem umjetne inteligencije koji koristi subliminalne tehnike za materijalno iskrivljavanje ljudskog ponašanja na načine koji uzrokuju štetu. To su metode koje djeluju izvan vaše svijesti kako bi uticale na vaše odluke ili postupke.
Zabranjene manipulativne prakse uključuju:
- AI sistemi koji koriste subliminalne komponente koje ne možete detektovati
- Sistemi dizajnirani da iskoriste ranjivosti djece povezane sa starenjem
- Tehnologije koje manipulišu ponašanjem kako bi uzrokovale fizičku ili psihičku štetu
Ne možete namjerno koristiti vještačku inteligenciju obmanjivati ljude na načine koji vode do značajnu štetuTo znači da vaša kompanija ne može koristiti chatbotove ili virtuelne asistente koji obmanjuju korisnike o svojoj AI prirodi kada bi ta obmana mogla rezultirati štetom.
Zabrana se odnosi i na sisteme umjetne inteligencije koji koriste mračne obrasce ili psihološku manipulaciju kako bi korisnike naveli na štetne izbore. zakon štiti pojedince od praksi umjetne inteligencije koje zaobilaze racionalno donošenje odluka.
Ako vaš sistem umjetne inteligencije utiče na ponašanje putem skrivenih manipulacija, a ne transparentnih informacija, time krši Zakon.
Eksploatacija ranjivih pojedinaca
Sistemi umjetne inteligencije koji iskorištavaju ranjivosti povezane s godinama, invaliditetom ili društvenim ili ekonomskim okolnostima strogo su zabranjeni. Ne možete koristiti umjetnu inteligenciju da biste iskoristili ljude koji nemaju sposobnost razumijevanja ili otpora manipulaciji.
Ova zabrana pokriva vještačku inteligenciju koja cilja na neiskustvo djece ili kognitivni pad starijih osoba. Vaše preduzeće ne smije koristiti sisteme koji iskorištavaju fizičke ili mentalne invaliditete za manipulisanje ponašanjem.
Vještačka inteligencija koja se hrani ekonomskim očajem ili socijalnom izolacijom također potpada pod ovu zabranu.
Zaštićene ranjive grupe uključuju:
- Djeca i maloljetnici
- Starije osobe s kognitivnim oštećenjima
- Osobe s fizičkim ili mentalnim invaliditetom
- Pojedinci koji se suočavaju s ekonomskim poteškoćama
Zabrana se primjenjuje kada vaš sistem umjetne inteligencije uzrokuje ili je vjerovatno da će uzrokovati značajnu štetu putem iskorištavanja. Morate procijeniti da li bi vaše aplikacije umjetne inteligencije mogle nepravedno ciljati ranjive populacije.
Socijalno bodovanje i profiliranje ponašanja
Zakon o umjetnoj inteligenciji zabranjuje sisteme umjetne inteligencije koji procjenjuju ili klasificiraju ljude na osnovu njihovih socijalno ponašanje ili lične karakteristike. Ne možete koristiti mehanizme društvenog bodovanja koji vode do nepravednog tretmana ili štete.
Socijalno bodovanje uključuje procjenu pojedinaca na osnovu njihovog ponašanja, odnosa ili predviđenog ponašanja. Ovo stvara profile koji određuju pristup uslugama, mogućnostima ili pravima.
Zabranjene aktivnosti društvenog bodovanja uključuju:
- Ocjenjivanje građana na osnovu društvenog ili profesionalnog ponašanja
- Kreiranje bodova pouzdanosti iz ličnih podataka
- Predviđanje kriminalnog ponašanja na osnovu profiliranja
- Uskraćivanje usluga na osnovu procjene ponašanja
Ne možete implementirati AI sisteme koji dodjeljuju bodove određujući da li neko prima zdravstvenu zaštitu, obrazovanje, zaposlenje ili finansijske usluge. Zabrana se primjenjuje bez obzira da li upravljate ovim sistemima kao javna vlast ili privatno preduzeće.
Daljinski upravljač u realnom vremenu biometrijska identifikacija u javnim prostorima također podliježe strogim zabranama s ograničenim izuzecima za provođenje zakona.
Zabrane biometrijskog prepoznavanja lica i emocionalne umjetne inteligencije
Zakon EU o umjetnoj inteligenciji zabranjuje nekoliko vrsta biometrijskih sistema i sistema za prepoznavanje lica koji predstavljaju rizik za osnovna pravaOve zabrane utiču na to kako holandska preduzeća mogu koristiti biometrijski podaci, baze podataka za prepoznavanje lica, alati za prepoznavanje emocija i sistemi za identifikaciju u stvarnom vremenu u javnim prostorima.
Biometrijska kategorizacija i korištenje podataka
Ne možete koristiti sisteme umjetne inteligencije koji kategoriziraju ljude na osnovu njihovih biometrijskih podataka kako biste zaključili o njihovoj rasi, političkim uvjerenjima, članstvu u sindikatu, vjerskim uvjerenjima ili seksualnoj orijentaciji. Ova zabrana se primjenjuje kada ove sisteme stavljate na tržište, stavljate ih u upotrebu ili ih koristite u ovu specifičnu svrhu.
Zabrana cilja na sisteme koji osjetljivi zaključci o pojedincima putem biometrijske analize. Vaše preduzeće se suočava s kaznama do 7% svjetskog godišnjeg prometa zbog nepoštivanja propisa.
Postoji jedan izuzetak od ovog pravila. Možete označiti ili filtrirati zakonito pribavljene biometrijske skupove podataka, kao što su slike, na osnovu biometrijskih podataka u kontekstu provođenja zakona.
Izvan provođenja zakona, ove prakse kategorizacije ostaju potpuno zabranjene.
Ograničenja tehnologija prepoznavanja lica
Ne možete kreirati ili proširivati baze podataka za prepoznavanje lica nenamjernim preuzimanjem slika lica s interneta ili snimaka CCTV-a. Ova zabrana stupila je na snagu 2. februara 2025. godine.
Da bi se ova zabrana primijenila, moraju biti ispunjena četiri uslova:
- Praksa uključuje postavljanje, servisiranje ili korištenje sistema umjetne inteligencije
- Svrha je stvaranje ili proširenje baza podataka za prepoznavanje lica
- Metoda koristi nenamjerno struganje slika lica.
- Izvori podataka su internet ili snimci nadzornih kamera.
Ključna riječ je „neciljano“. Ne možete prikupljati slike lica na širok, neselektivni način.
To znači da ne možete postaviti kamere u supermarketima ili javnim prostorima koje automatski prikupljaju podatke iz lica kako bi izgradile baze podataka za prepoznavanje bez specifičnih kriterija ciljanja.
Prepoznavanje emocija u zapošljavanju i obrazovanju
Ne možete koristiti AI sisteme za zaključivanje o emocijama ljudi na radnim mjestima i u obrazovnim ustanovama. Ova zabrana direktno utiče na odjele za ljudske resurse, škole i centre za obuku koji bi mogli razmotriti alate za detekciju emocija.
Zabrana pokriva bilo koji sistem umjetne inteligencije dizajniran za čitanje ili tumačenje emocionalnih stanja u ovim specifičnim okruženjima. Nije važno da li koristite analizu lica, prepoznavanje glasovnih obrazaca ili druge biometrijske indikatore.
Postoji jedan uzak izuzetak. Možete koristiti umjetnu inteligenciju za prepoznavanje emocija ako služi medicinskim ili sigurnosnim svrhama.
Na primjer, praćenje budnosti vozača iz sigurnosnih razloga ili otkrivanje uznemirenosti pacijenata u zdravstvenim ustanovama može se kvalificirati pod ovaj izuzetak.
Ograničenja udaljene biometrijske identifikacije
Ne možete koristiti sisteme za daljinsku biometrijsku identifikaciju u realnom vremenu u javno dostupnim prostorima u svrhu provođenja zakona, osim u strogo definiranim okolnostima. Ovi izuzeci uključuju potragu za žrtvama otmice ili trgovine ljudima, sprječavanje neposrednih prijetnji po život ili terorističkih napada i lociranje osumnjičenih za teška krivična djela kažnjiva s najmanje četiri godine zatvora.
Svaka upotreba zahtijeva prethodno odobrenje od sudski organ ili nezavisno administrativno tijelo. U hitnim situacijama možete započeti korištenje bez odobrenja, ali morate zatražiti odobrenje u roku od 24 sata.
Ako vlasti odbiju odobrenje, morate odmah prestati koristiti sistem i izbrisati sve podatke. Holandija može uspostaviti vlastita detaljna pravila za ove izuzetke u okviru nacionalnog zakonodavstva.
Vaše preduzeće mora obavijestiti nadležni organ za nadzor tržišta i nacionalni organ za zaštitu podataka o svakoj upotrebi. Države članice podnose godišnje izvještaje o korištenju biometrijske identifikacije na daljinu u stvarnom vremenu Evropskoj komisiji.
Obaveze usklađenosti za holandska preduzeća
Holandska preduzeća moraju preduzeti konkretne korake kako bi postigla usklađenost sa vještačkom inteligencijom identifikovanjem zabranjenih sistema, njihovim uklanjanjem iz poslovanja i održavanjem odgovarajuće dokumentacije. Holandski DPA a Holandsko tijelo za digitalnu infrastrukturu će provoditi ove zahtjeve uz značajne kazne za kršenje.
Identifikacija zabranjene umjetne inteligencije unutar operacija
Potrebno je da sprovedete temeljite procjene rizika u cijeloj organizaciji kako biste locirali sisteme umjetne inteligencije koji bi mogli kršiti nova pravila. To znači ispitivanje bilo koje tehnologije koja koristi tehnike manipulacije, iskorištava ranjivosti, implementira socijalno bodovanje ili vrši biometrijske identifikacije u stvarnom vremenu u javnim prostorima.
Započnite kreiranjem inventara svih AI sistema koji se trenutno koriste. Dokumentujte šta svaki sistem radi, kako obrađuje podatke i na koga utiče.
Obratite posebnu pažnju na sisteme koji komuniciraju s kupcima, zaposlenima ili javnošću. Vaše procjene rizika trebaju procijeniti da li bi neki sistem mogao ugroziti osnovna prava.
Ovo uključuje provjeru da li sistemi umjetne inteligencije donose odluke o ljudima na osnovu ponašanja, ličnih karakteristika ili društvenih veza. Sistemi koji prate ili profiliraju pojedince bez transparentnosti zahtijevaju hitnu reviziju.
Sarađujte sa svojim tehničkim timovima kako biste razumjeli kako svaki AI sistem funkcioniše. Ne možete se oslanjati isključivo na opise dobavljača.
Holandski DPA je jasno stavio do znanja da ste odgovorni za usklađenost bez obzira na to da li ste izgradili sistem ili ga kupili od treće strane.
Postepeno ukidanje ili uklanjanje zabranjenih sistema umjetne inteligencije
Morate odmah prestati koristiti zabranjene prakse umjetne inteligencije. Zakon ne dozvoljava period odgode za zabranjene sisteme.
Ako vaša procjena rizika utvrdi zabranjenu praksu, morate je odmah deaktivirati. Napravite plan uklanjanja koji se odnosi i na tehničke i na operativne utjecaje.
Neki sistemi mogu biti ugrađeni u veće platforme ili povezani s više procesa. Morat ćete osigurati da uklanjanje zabranjenih elemenata ne poremeti osnovne poslovne funkcije.
Prije gašenja sistema, odredite kako ćete rješavati zadatke koje je prethodno obavljao. To može značiti povratak na ručne procese, implementaciju drugačije tehnologije ili potpuno redizajniranje radnih procesa.
Dokumentujte svaki korak procesa uklanjanja. Zabilježite kada ste otkrili zabranjenu praksu, koje ste radnje poduzeli i kada je sistem potpuno deaktiviran.
Regulatori će očekivati jasne dokaze da ste odmah djelovali nakon što ste utvrdili kršenje.
Evidencija i dokumentacija
Morate održavati tehničku dokumentaciju koja dokazuje usklađenost s pravilima zabrane. To uključuje zapise o vašim procjenama rizika, odlukama o sistemima umjetne inteligencije i svim promjenama koje ste napravili kako biste postigli usklađenost.
Vaša dokumentacija treba da obuhvati:
- Inventari sistema s opisima svake AI aplikacije
- Izvještaji o procjeni rizika prikazivanje vaše analize potencijalnih kršenja
- Zapisi o uklanjanju detaljno opisivanje kada i kako ste deaktivirali zabranjene sisteme
- Procjene utjecaja na temeljna prava za sve granične slučajeve
Čuvajte ove zapise najmanje pet godina. Holandski organ za zaštitu podataka ih može zatražiti tokom inspekcija ili istraga.
Nedostajuća ili nepotpuna dokumentacija može rezultirati kaznama do 7,500,000 eura ili 1% godišnjeg globalnog prometa. Vaša tehnička dokumentacija mora biti dovoljno detaljna da regulatori mogu razumjeti šta vaši AI sistemi rade i zašto su u skladu sa zakonom.
Generički opisi ili marketinški materijali ne ispunjavaju ovaj zahtjev. Uključite tehničke specifikacije, tokove podataka i procese donošenja odluka.
Ažurirajte svoju dokumentaciju kad god modificirate AI sisteme ili implementirate nove. Potrebni su vam kontinuirani procesi kako biste osigurali da budući sistemi ne uvode zabranjene prakse.
Zahtjevi za pismenost u oblasti umjetne inteligencije i obuka osoblja
Od 2. februara 2025. godine, holandska preduzeća koja pružaju ili implementiraju sisteme umjetne inteligencije moraju osigurati da njihovo osoblje posjeduje odgovarajuću pismenost u oblasti umjetne inteligencije. Ova obaveza se primjenjuje bez obzira na to da li koristite sisteme umjetne inteligencije visokog ili niskog rizika.
Dokumentovani programi obuke moraju biti prilagođeni ulogama i tehničkom iskustvu vaših zaposlenika.
Objašnjenje obaveze pismenosti u oblasti vještačke inteligencije
Član 4. Zakona EU o umjetnoj inteligenciji nameće zakonski uslov na sve pružatelje i implementatore umjetne inteligencije kako bi se osigurala dovoljna pismenost u oblasti umjetne inteligencije među njihovim osobljem. Morate poduzeti mjere kako biste osigurali da osoblje i izvođači radova koji se bave sistemima umjetne inteligencije razumiju tehnologiju s kojom rade.
Obaveza pismenosti u oblasti vještačke inteligencije pokriva sve koji upravljaju, koriste ili donose odluke o sistemima vještačke inteligencije u vaše ime. To uključuje tehničko osoblje koje gradi ili održava sisteme vještačke inteligencije, kao i netehničke zaposlenike koji koriste alate vještačke inteligencije u svom svakodnevnom radu.
Morate prilagoditi obuku o AI pismenosti ulozi svake osobe, tehničkom znanju, iskustvu, obrazovanju i specifičnom kontekstu u kojem koriste AI sisteme. Softverski programer koji implementira AI modele zahtijeva drugačiju obuku od predstavnika korisničke službe koji koristi chatbotove pokretane AI-jem.
Obaveza od vas zahtijeva da uložite „najbolje napore“ kako biste osigurali adekvatan nivo pismenosti. Ne možete jednostavno ponuditi simboličnu obuku i tvrditi da ste u skladu sa propisima.
Razvoj efikasnih programa obuke
Vaš program pismenosti u oblasti vještačke inteligencije trebao bi se baviti specifičnim sistemima vještačke inteligencije koje vaša organizacija koristi, umjesto da pruža generičke informacije. Osoblje treba da razumije kako funkcionišu određeni alati vještačke inteligencije s kojima rade, njihova ograničenja i potencijalne rizike.
Sadržaj obuke treba da obuhvati:
- Osnovni koncepti umjetne inteligencije relevantni za vaše sisteme
- Kako pravilno koristiti AI alate
- Potencijalne pristranosti i greške u AI rezultatima
- Kada je ljudski nadzor neophodan
- Politike i procedure vaše organizacije za vještačku inteligenciju
Morate uzeti u obzir početni nivo znanja svakog zaposlenika. Tehničkom osoblju može biti potrebna napredna obuka o razvoju i testiranju modela, dok općim korisnicima treba praktično vodstvo o tumačenju rezultata umjetne inteligencije i prepoznavanju kada se rezultati čine netačnim.
Obuka se može provoditi u različitim oblicima, uključujući radionice, online kurseve, koučing na radnom mjestu ili eksterne programe. Format je manje važan od osiguravanja da osoblje zaista stekne potrebna znanja i vještine.
Dokumentovanje aktivnosti pismenosti u oblasti vještačke inteligencije
Morate voditi evidenciju o svojim aktivnostima obuke za vještačku pismenost kako biste dokazali usklađenost sa Zakonom EU o vještačkoj inteligenciji. Ova dokumentacija služi kao dokaz da ste ispunili svoje zakonske obaveze.
Vaši zapisi trebaju sadržavati:
- Sadržaj i materijali programa obuke
- Spisak zaposlenih koji su završili obuku
- Datumi i trajanje sesija obuke
- Rezultati procjene (ako je primjenjivo)
- Kako ste odredili odgovarajuće nivoe pismenosti za različite uloge
Dokumentujte svoj proces za identifikaciju potreba za AI pismenošću u vašoj organizaciji. To uključuje kako ste procijenili kojem osoblju je potrebna obuka i koja specifična znanja im trebaju na osnovu njihove interakcije sa AI sistemima.
Vodite evidenciju o tome kako ažurirate obuku kako se vaši AI sistemi mijenjaju ili kako se novi zaposleni pridružuju vašoj organizaciji. AI pismenost nije jednokratni zahtjev, već stalna obaveza koja se mora prilagoditi vašoj promjenjivoj upotrebi AI tehnologije.
Nadzor, provođenje zakona i kazne
Zakon EU o umjetnoj inteligenciji uspostavlja višeslojnu strukturu provođenja zakona sa značajnim finansijske kazne zbog neusklađenosti. Holandska preduzeća suočavaju se s nadzorom i nacionalnih i evropskih vlasti, a kazne dosežu i do 7% svjetskog godišnjeg prometa za zabranjene prakse vještačke inteligencije.
Nadzorni organi Holandije i EU
Holandska Agencija za zaštitu podataka služi kao glavno nacionalno nadzorno tijelo za provođenje Zakona o umjetnoj inteligenciji u Holandiji. Ovo tijelo radi zajedno s drugim određenim holandskim tijelima za nadzor tržišta kako bi pratilo usklađenost s uredbom.
Na evropskom nivou, Evropska komisija nadgleda implementaciju Zakona o umjetnoj inteligenciji u svim državama članicama. Evropski ured za umjetnu inteligenciju, osnovan unutar Komisije, koordinira aktivnosti provođenja zakona i pruža tehničku stručnost.
Evropski odbor za zaštitu podataka podržava dosljednu primjenu Zakona, posebno tamo gdje sistemi umjetne inteligencije uključuju obradu ličnih podataka. Ovi organi sarađuju kako bi osigurali jedinstvenu primjenu širom Evropske unije.
Ako koristite sisteme umjetne inteligencije u više zemalja EU, možete se suočiti s nadzorom nadzornih tijela u svakoj jurisdikciji u kojoj su vaši sistemi implementirani ili imaju učinak.
Sankcije i građanska odgovornost
Kršenje zabranjenih praksi iz Člana 5 povlači za sobom kazne do 35 miliona eura ili 7% vašeg ukupnog godišnjeg prometa širom svijeta, što god je veće. Ove kazne primjenjuju se od 2. februara 2025. godine.
Sud pravde EU (SEU) ima krajnju vlast za tumačenje odredbi Zakona o umjetnoj inteligenciji. Nacionalni sudovi mogu uputiti pitanja SEU-u kada se pojave sporovi o tome šta predstavlja zabranjenu praksu.
Pored administrativnih kazni, možete se suočiti s tužbama za građansku odgovornost od strane pojedinaca ili organizacija koje su oštećene neusklađenim sistemima umjetne inteligencije. Države članice mogu utvrditi dodatne kazne u skladu sa svojim nacionalnim zakonodavstvom.
Smjernice evropskih i nacionalnih tijela
Evropska komisija je objavila smjernice o zabranjenim Prakse umjetne inteligencije 4. februara 2025. Ovi dokumenti objašnjavaju kako će vlasti tumačiti zabrane iz člana 5 i pružaju praktične primjere za usklađenost.
Iako ove smjernice nisu obavezujuće, one nude vrijedan uvid u prioritete u provođenju zakona. Samo Sud pravde EU može dati autoritativna pravna tumačenja.
Holandski nadzorni organi mogu izdati dodatne nacionalne smjernice prilagođene lokalnim poslovnim kontekstima. Trebali biste pratiti ažuriranja i od evropskih i od holandskih tijela kako se budu razvijali pristupi sprovođenju zakona.
Smjernice su dostupne na svim jezicima EU kako bi se podržalo prekogranično razumijevanje.
Često Postavljena Pitanja
Evropski zakon o umjetnoj inteligenciji donosi specifične zahtjeve i ograničenja koja utiču na holandska preduzeća od februara 2025. godine. Ovi propisi zabranjuju određene prakse umjetne inteligencije, zahtijevaju mjere usklađenosti, i utvrditi kazne za prekršaje.
Koji su novi propisi o korištenju umjetne inteligencije u holandskim kompanijama od februara 2025. godine?
Evropski zakon o umjetnoj inteligenciji stupio je na snagu 1. augusta 2024. godine, a prvi set zabrana stupio je na snagu 2. februara 2025. godine. Ovi propisi primjenjuju se na sva holandska preduzeća koja razvijaju, implementiraju ili koriste sisteme umjetne inteligencije unutar Evropske unije.
Zakon zabranjuje manipulativne sisteme umjetne inteligencije koji koriste subliminalne tehnike kako bi uticali na odluke koje ljudi inače ne bi donijeli. Sistemi umjetne inteligencije koji iskorištavaju ranjivosti na osnovu dobi, invaliditeta ili socioekonomskog statusa također su zabranjeni.
Sistemi društvenog bodovanja koji ocjenjuju pojedince na osnovu njihovog društvenog ponašanja ili ličnih karakteristika suočavaju se s potpunom zabranom. Propisi također zabranjuju procjene rizika zasnovane na vještačkoj inteligenciji koje predviđaju zločine isključivo putem profiliranja ili analize osobina ličnosti, a ne činjenica povezanih s kriminalnim aktivnostima.
Biometrijski sistemi kategorizacije koji na osnovu slika lica ili otisaka prstiju utvrđuju rasu, političke stavove, članstvo u sindikatu, vjerska uvjerenja ili seksualnu orijentaciju nisu dozvoljeni. Daljinska biometrijska identifikacija u stvarnom vremenu u javnim prostorima je zabranjena osim u strogo definiranim situacijama sa specifičnim zakonsko ovlaštenje.
Kako holandske smjernice o umjetnoj inteligenciji iz februara 2025. utiču na privatnost podataka i zaštitu potrošača?
Zakon o umjetnoj inteligenciji funkcioniše uz postojeće propise o zaštiti podataka, uključujući GDPR. Holandska agencija za zaštitu podataka pruža smjernice o tome kako sistemi umjetne inteligencije moraju biti u skladu s pravilima o zaštiti podataka, posebno u vezi s automatiziranim donošenjem odluka.
Neciljano preuzimanje slika lica s interneta ili snimaka kamera radi kreiranja ili proširenja baza podataka za prepoznavanje lica je zabranjeno. Ovo ograničenje štiti prava pojedinaca na privatnost i sprječava neovlašteno prikupljanje biometrijskih podataka.
Sistemi umjetne inteligencije moraju poštovati temeljna prava tokom cijelog svog životnog ciklusa. Javne vlasti i subjekti koji pružaju javne usluge moraju provesti procjenu utjecaja na temeljna prava prilikom korištenja visokorizičnih sistema umjetne inteligencije.
Koje aktivnosti zasnovane na vještačkoj inteligenciji holandskim preduzećima više nije dozvoljeno da se bave zbog nedavnih zakonskih promjena?
Vaše preduzeće ne smije koristiti sisteme za prepoznavanje emocija na radnom mjestu ili u obrazovnim ustanovama. Ovi sistemi su zabranjeni bez obzira na navedene prednosti ili slučajeve upotrebe.
Ne možete koristiti sisteme umjetne inteligencije koji manipulišu ljudima putem subliminalnih tehnika ili iskorištavaju njihove ranjivosti. To uključuje sisteme koji ciljaju pojedince na osnovu njihovog invaliditeta, društvenog statusa ili dobi kako bi uticali na njihovo ponašanje.
Biometrijski sistemi kategorizacije koji klasifikuju ljude na osnovu osjetljivih karakteristika su zabranjeni. Ne možete koristiti vještačku inteligenciju da biste zaključili o nečijoj rasi, političkim stavovima, vjerskim uvjerenjima ili seksualnoj orijentaciji na osnovu njihovih biometrijskih podataka.
Sistemi društvenog bodovanja su u potpunosti zabranjeni. Ne možete implementirati vještačku inteligenciju koja procjenjuje ili klasifikuje ljude na osnovu njihovog društvenog ponašanja ili ličnih karakteristika.
Daljinska biometrijska identifikacija u realnom vremenu u javno dostupnim prostorima je zabranjena za komercijalnu upotrebu. Organi za provođenje zakona mogu koristiti takve sisteme samo u usko definiranim okolnostima uz odgovarajuće zakonsko ovlaštenje.
Koje korake holandske korporacije moraju preduzeti kako bi uskladile svoje sisteme vještačke inteligencije sa standardima usklađenosti postavljenim u februaru 2025. godine?
Morate identificirati sve AI sisteme koje vaša organizacija trenutno koristi ili primjenjuje. Ovaj popis treba kategorizirati svaki sistem prema klasifikacijama rizika definiranim u Zakonu o AI.
Pregledajte svoje AI sisteme u odnosu na listu zabranjenih praksi. Ako koristite bilo koje zabranjene sisteme, morate ih odmah postepeno ukinuti kako biste izbjegli regulatorne kazne.
Dokumentujte svrhe, izvore podataka i procese donošenja odluka vaših AI sistema. Ova dokumentacija pomaže u demonstraciji usklađenosti i podržava sve potrebne procjene uticaja.
Za visokorizične sisteme umjetne inteligencije potrebne su dodatne mjere usklađenosti. Javne vlasti moraju registrovati visokorizične sisteme u evropskoj bazi podataka do 2. augusta 2026. godine i provesti procjene utjecaja na temeljna prava.
Obučite svoje osoblje o novim zahtjevima i uspostavite interne procese za kontinuirano praćenje usklađenosti. Vaš program usklađenosti treba da uključuje redovne preglede sistema umjetne inteligencije kako bi se osiguralo da ostanu u okviru regulatornih granica.
Postoje li neke sektorske zabrane u vezi sa vještačkom inteligencijom o kojima bi holandske firme trebale biti svjesne nakon novih propisa?
Organizacije u obrazovnom sektoru suočavaju se sa specifičnim ograničenjima. Ne možete koristiti sisteme za prepoznavanje emocija za praćenje učenika ili procjenu njihovog emocionalnog stanja, bez obzira na namjeravanu obrazovnu korist.
Radna okruženja imaju slična ograničenja. Poslodavci ne mogu primijeniti vještačku inteligenciju za prepoznavanje emocija kako bi pratili emocionalna stanja ili reakcije zaposlenika tokom radnih aktivnosti.
Agencije za provođenje zakona imaju ograničene izuzetke za biometrijske sisteme identifikacije. Ovi izuzeci zahtijevaju strogo zakonsko odobrenje i primjenjuju se samo na specifične situacije kao što su potraga za žrtvama otmice, sprječavanje neposrednih prijetnji ili praćenje osumnjičenih za teška krivična djela.
Javne vlasti koje pružaju javne usluge suočavaju se s dodatnim zahtjevima pored općih zabrana. Morate provesti procjene utjecaja na temeljna prava za sve visokorizične sisteme umjetne inteligencije i registrirati te sisteme u evropskoj bazi podataka.
Koje su kazne za nepoštivanje holandskih ograničenja u vezi sa vještačkom inteligencijom uvedenih u februaru 2025. godine?
Regulatori mogu izreći značajne novčane kazne za nepoštivanje Zakona o umjetnoj inteligenciji. Struktura kazni slijedi višestepeni pristup zasnovan na težini prekršaja.
Korištenje zabranjenih sistema umjetne inteligencije predstavlja najozbiljniju kategoriju kršenja. Vaša organizacija rizikuje značajne finansijske kazne ako nastavite koristiti zabranjene sisteme nakon roka u februaru 2025. godine.
Tačni iznosi kazni zavise od toga da li se vaša organizacija kvalifikuje kao malo i srednje preduzeće ili veća kompanija. Regulatorna tijela uzimaju u obzir faktore kao što su priroda prekršaja, njegovo trajanje i eventualna pričinjena šteta.
Pored finansijskih kazni, nepoštivanje propisa može oštetiti ugled vaše organizacije. Pojedinci oštećeni zabranjenim sistemima vještačke inteligencije mogu tražiti dodatna pravna sredstva putem građanskog postupka.
Holandska Agencija za zaštitu podataka i druga regulatorna tijela imaju ovlaštenja za provođenje zakona. Oni mogu istraživati pritužbe, provoditi revizije i zahtijevati hitan prekid zabranjenih praksi.
