Fra søndag kan EU-tilsynsmyndigheder forbyde AI-systemer, der vurderes at udgøre en "uacceptabel risiko" eller skade. Frist for overholdelse af EU's AI-lov, en omfattende reguleringsramme godkendt af Europaparlamentet i sidste marts, er sat til 2. februar. Denne lov, der er trådt i kraft den 1. august, har til formål at regulere forskellige AI-applikationer i forbruger- og fysiske miljøer. Loven kategoriserer AI i fire risikoniveauer: 1. Minimal risiko (f. eks. spamfiltre) har ingen tilsyn; 2. Begrænset risiko (f. eks.

kundeservice-chatbots) har let reguleringsscrutiny; 3. Høj risiko (f. eks. AI i sundhedssektoren) er underlagt strenge reguleringer; 4. Uacceptable risikapplikationer, som er helt forbudte, inkluderer: - AI social scoring baseret på adfærd. - AI, der manipulerer beslutninger subliminalt. - AI, der udnytter sårbarheder, såsom alder eller handicap. - AI, der forudsiger kriminalitet baseret på udseende. - AI, der udleder karakteristika som seksuel orientering fra biometriske data. - AI, der indsamler biometriske data offentligt til retshåndhævelse. - AI, der vurderer følelser i arbejds- og skolemiljøer. - AI, der udvider ansigtsgenkendelsesdatabaser gennem billedscraping. Virksomheder, der bruger forbudte AI-applikationer i EU, kan være udsat for bøder på op til €35 millioner (~$36 millioner) eller 7% af deres omsætning fra det foregående år. Disse bøder vil dog ikke blive håndhævet før på et senere tidspunkt, med en betydelig frist i august for klarhed om overholdelse og håndhævelse. Fristen den 2. februar er noget formel, da over 100 virksomheder, herunder Amazon og Google, underskrev EU AI-pagten sidste september for frivilligt at vedtage AI-lovens principper tidligt. Det er bemærkelsesværdigt, at virksomheder som Meta og Apple ikke underskrev pagten, men stadig forventes at overholde forbuddene. Der er undtagelser under loven, der tillader retshåndhævelse at bruge visse systemer til specifikke, nærliggende trusler, givet passende godkendelse. Yderligere retningslinjer fra Europakommissionen forventes i begyndelsen af 2025. Rob Sumroy fra Slaughter and May understreger vigtigheden af at forstå, hvordan AI-loven interagerer med andre juridiske rammer som GDPR og NIS2, især med hensyn til overlappende overholdelseskrav.