Od nedelje, regulatori Evropske unije mogu zabraniti AI sisteme koji se smatraju da predstavljaju "neprihvatljiv rizik" ili štetu. Rok za usklađivanje sa Zakonom o veštačkoj inteligenciji EU, sveobuhvatnim regulativnim okvirom koji je odobrio Evropski parlament prošlog marta, postavljen je za 2. februar. Ovaj zakon, koji je na snazi od 1. avgusta, ima za cilj regulisanje različitih AI aplikacija u potrošačkim i fizičkim okruženjima. Zakon kategorizuje AI u četiri nivoa rizika: 1. Minimalni rizik (npr. filteri za spam) ne podliježe nadzoru; 2. Ograničeni rizik (npr. chatbotovi za korisničku podršku) ima blagu regulatornu kontrolu; 3.

Visok rizik (npr. AI u zdravstvu) podliježe strogim regulacijama; 4. Aplikacije sa neprihvatljivim rizikom, koje su potpuno zabranjene, uključuju: - AI pravo ocenjivanje zasnovano na ponašanju. - AI koja subliminalno manipuliše odlukama. - AI koja koristi ranjivosti, poput starosti ili invaliditeta. - AI koja predviđa zločine na osnovu izgleda. - AI koja izvodi karakteristike poput seksualne orijentacije iz biometrike. - AI koja prikuplja biometrijske podatke na javnim mestima za organe reda. - AI koja procenjuje emocije na radnim mestima i u školama. - AI koja proširuje baze podataka prepoznavanja lica putem sakupljanja slika. Kompanije koje koriste zabranjene AI aplikacije u EU mogu se suočiti sa kaznama do 35 miliona evra (~36 miliona dolara) ili 7% prihoda iz prethodne godine. Međutim, ove kazne neće biti sprovedene do kasnijeg datuma, uz značajan rok u avgustu za jasnoću usklađivanja i primene. Rok od 2. februara je donekle formalan, jer je više od 100 kompanija, uključujući Amazon i Google, potpisalo EU AI Pakt prošlog septembra kako bi dobrovoljno rano usvojile principe Zakona o veštačkoj inteligenciji. Važno je napomenuti da kompanije kao što su Meta i Apple nisu potpisale Pakt, ali se i dalje očekuje da poštuju zabrane. Postoje izuzeci prema Zakonu, koji omogućavaju organima reda da koriste određene sisteme za specifične, neposredne pretnje, uz odgovarajuću dozvolu. Dodatne smernice od strane Evropske komisije se očekuju početkom 2025. godine. Rob Sumroy iz Slaughter and May naglašava važnost razumevanja kako Zakon o veštačkoj inteligenciji deluje u odnosu na druge pravne okvire poput GDPR-a i NIS2, posebno u pogledu preklapanja zahteva za usklađivanje.