Brief news summary

Californien arbejder aktivt på at regulere kunstig intelligens (AI) for at imødegå forskellige bekymringer såsom privatlivets fred, forudindtagethed, ikke-samtykkende pornografi og katastrofale begivenheder. Dog er forsigtighed nødvendigt for at undgå hastigt implementerede reguleringer, der kan have utilsigtede konsekvenser. Et foreslået regulativ sigter mod at forhindre AI-diskrimination i ansættelse ved at indføre tilsyn, gennemgange af forudindtagethed og offentliggørelse af træningsdatasæt. Forudindtaget datasæt kan føre til forudindtagne resultater produceret af neurale netværk. Detektering og håndtering af diskrimination indebærer identifikation af forudindtaget datasæt og analyse af resultater for specifikke grupper. Dog er det vigtigt at overveje konsekvenserne for sundhedspleje-AI, når datasæt justeres for at sikre retfærdighed. Det er afgørende at skelne mellem problematiske og ikke-problematiske forudindtagelser, da nogle regulerende forslag undlader at gøre det. For eksempel er deepfakes, der er AI-genererede eksplicitte billeder, der fejlagtigt præsenteres som ægte, målrettet til regulering gennem forbud mod deres skabelse og distribution. Dog rejser håndhævelse af disse regler bekymringer om ytringsfrihed og opsporing af deepfake-skabere. For effektivt at tackle problemet med deepfakes bør Californien overveje kompleksiteten af AI-misbrug ved udformningen af lovgivningen. Samarbejde mellem udviklere, retshåndhævende myndigheder og open-source softwareværter er afgørende. Desuden kan regulering alene ikke være tilstrækkelig på grund af tilgængeligheden af open-source AI. Yderligere bestræbelser skal gøres for effektivt at håndtere skadelige AI-praksisser.