Kategorije rizika
| Rizik | Primjeri | Obveze |
|---|---|---|
| Neprihvatljiv | društveno vrednovanje, prepoznavanje emocija na radnom mjestu, manipulativne tehnike | zabranjeno od 2. veljače 2025. |
| Visok | odabir kandidata za posao, procjena kreditne sposobnosti, pristup obrazovanju, sigurnosne komponente proizvoda | stroge obveze od 2. prosinca 2027., odnosno od 2. kolovoza 2028. za sustave ugrađene u regulirane proizvode |
| Ograničen (transparentnost) | chatbotovi, umjetno stvoren ili izmijenjen sadržaj, uvjerljivi krivotvoreni sadržaj (deepfake) | obveze transparentnosti od 2. kolovoza 2026. |
| Minimalan | filtri neželjene pošte, sustavi preporuka | nema posebnih obveza osim pismenosti u području UI |
Obveze za modele umjetne inteligencije opće namjene primjenjuju se od 2. kolovoza 2025.
Izmjene iz 2026.
Uredbom (EU) 2026/1744, koja je stupila na snagu 27. srpnja 2026., pomaknuti su rokovi za visokorizične sustave: za sustave iz Priloga III. s 2. kolovoza 2026. na 2. prosinca 2027., a za sustave ugrađene u regulirane proizvode iz Priloga I. s 2. kolovoza 2027. na 2. kolovoza 2028.
Preoblikovana je i obveza pismenosti iz članka 4.: dobavljači i subjekti koji uvode sustave umjetne inteligencije moraju poduzimati mjere kojima se podupire razvoj pismenosti u području UI kod zaposlenika i drugih osoba koje se sustavima služe u njihovo ime.
Na koga se odnosi
- dobavljači, koji razvijaju sustav umjetne inteligencije ili ga daju razviti te ga stavljaju na tržište ili u upotrebu pod svojim imenom ili žigom
- subjekti koji uvode sustav, odnosno tvrtke i tijela koja se sustavom umjetne inteligencije služe u svojem radu
- uvoznici i distributeri
Tvrtka koja zaposlenicima omogući rad s alatima opće namjene, primjerice chatbotovima, subjekt je koji uvodi sustav i ima obvezu pismenosti.
Kazne
| Povreda | Najviša kazna |
|---|---|
| Zabranjene prakse | 35 milijuna eura ili 7 % ukupnog godišnjeg prometa na svjetskoj razini |
| Većina drugih obveza | 15 milijuna eura ili 3 % prometa |
| Netočne ili obmanjujuće informacije tijelima | 7,5 milijuna eura ili 1 % prometa |
Primjer
Tvrtka koristi alat umjetne inteligencije za razvrstavanje prijava na natječaj za posao. Takav sustav je visokorizičan, pa tvrtka do 2. prosinca 2027. mora osigurati ljudski nadzor, pratiti rad sustava i obavijestiti kandidate da se sustav koristi. Od 2. veljače 2025. mora poduzimati i mjere za pismenost zaposlenika koji se alatom služe.