A partir de diumenge, els reguladors de la Unió Europea poden prohibir sistemes d'IA que es considerin que representen un "risc inacceptable" o que causin danys. La data límit de compliment de l'AI Act de la UE, un marc regulador integral aprovat pel Parlament Europeu el març passat, està fixada per al 2 de febrer. Aquest acte, en vigor des de l'1 d'agost, té com a objectiu regular diverses aplicacions d'IA en entorns de consum i físics. L'Acte categoritza l'IA en quatre nivells de risc: 1. Risc mínim (per exemple, filtres de correu brossa) no rep supervisió; 2. Risc limitat (per exemple, chatbots de servei al client) té una supervisió reguladora lleugera; 3.

Risc alt (per exemple, l'IA en la salut) està subjecta a una regulació rigorosa; 4. Les aplicacions de risc inacceptable, que estan totalment prohibides, inclouen: - Classificació social per IA basada en el comportament. - IA que manipula decisions subliminalment. - IA que explota vulnerabilitats, com l'edat o la discapacitat. - IA que prediu crims basant-se en l'aparença. - IA que inferix característiques com l'orientació sexual a partir de la biometria. - IA que recull dades biomètriques en públic per a aplicacions de la llei. - IA que avalua emocions en entorns laborals i escolars. - IA que amplia bases de dades de reconeixement facial mitjançant la captura d'imatges. Les empreses que utilitzin aplicacions d'IA prohibits a la UE poden enfrontar multes de fins a 35 milions d'euros (~36 milions de dòlars) o el 7% dels ingressos de l'any anterior. Tanmateix, aquestes multes no s'aplicaran fins a una data posterior, amb un termini significatiu a l'agost per a la claredat en el compliment i l'aplicació. El termini del 2 de febrer és en certa manera formal, ja que més de 100 empreses, incloent Amazon i Google, van signar el Pacte d'IA de la UE el setembre passat per assumir voluntàriament els principis de l'AI Act des de bon començament. Cal destacar que empreses com Meta i Apple no van signar el Pacte, però se les espera que també compleixin amb les prohibicions. Hi ha excepcions dins de l'Acte, que permeten a les forces de l'ordre utilitzar certs sistemes per amenaces imminents i específiques, sempre que s'obtingui l'autorització adequada. Es preveuen directrius addicionals de la Comissió Europea a principis del 2025. Rob Sumroy de Slaughter and May destaca la importància d'entendre com l'AI Act interactua amb altres marcs legals com el GDPR i el NIS2, especialment pel que fa a requisits de compliment superposats.