De gouverneur van Californië, Gavin Newsom, heeft zondag een controversiële wet op het gebied van kunstmatige intelligentie (AI) gevetood nadat de technologiesector zorgen had geuit. Ze argumenteerden dat de wetgeving AI-bedrijven uit de staat kon verdrijven en innovatie kon verstikken. Newsom merkte op dat hij advies had ingewonnen bij toonaangevende experts in Generatieve AI om Californië te helpen bij het ontwikkelen van 'werkbare vangrails' die zijn gericht op het creëren van 'een empirische, op wetenschap gebaseerde trajectanalyse. ' Hij gaf ook opdracht aan staatsinstanties om hun evaluaties van risico's die verband houden met mogelijke catastrofale gebeurtenissen gerelateerd aan AI-gebruik uit te breiden. Generatieve AI heeft zowel opwinding als angst opgewekt, omdat het tekst, afbeeldingen en video's kan produceren als reactie op open vragen. Er zijn zorgen geuit over de mogelijkheid dat het sommige banen overbodig maakt, verkiezingen verstoort en aanzienlijke risico's voor de menselijke veiligheid met zich meebrengt. De auteur van het wetsvoorstel, de Democratische staatsenator Scott Wiener, betoogde dat de wetgeving essentieel was om het publiek te beschermen voordat AI-ontwikkelingen onhandelbaar of oncontroleerbaar worden. Aangezien de AI-industrie snel groeit in Californië, spraken sommige leiders hun bezorgdheid uit over de toekomst van deze bedrijven als het wetsvoorstel zou worden aangenomen. Wiener verklaarde dat het veto Californië minder veilig maakt, wat impliceert dat 'bedrijven die ongelooflijk krachtige technologie willen ontwikkelen, geen handhaafbare beperkingen hebben. ' Hij merkte verder op dat 'vrijwillige toezeggingen van de industrie vaak niet afdwingbaar zijn en de publieke sector niet significant ten goede komen. ' 'We kunnen niet wachten tot een grote ramp toeslaat voordat we maatregelen nemen om het publiek te beschermen, ' verklaarde Newsom, maar hij was het er niet mee eens dat een oplossing moest worden nagestreefd zonder een empirische trajectanalyse van AI-systemen en hun capaciteiten. Vooruitkijkend vermeldde Newsom dat hij van plan is om in de volgende zitting samen te werken met de wetgevende macht aan AI-regelgeving. Dit komt te midden van vastgelopen wetgevende inspanningen in het Congres om beveiligingsmaatregelen te implementeren, terwijl de regering-Biden doorgaat met regelgevende voorstellen voor AI-toezicht. Newsom verklaarde dat 'een uitsluitend Californische aanpak inderdaad gerechtvaardigd kan zijn, vooral in de afwezigheid van federale actie van het Congres. ' The Chamber of Progress, een coalitie die de technologiesector vertegenwoordigt, juichte Newsom's veto toe en benadrukte dat 'de Californische tech-economie altijd heeft gedijen op concurrentie en openheid. ' De voorgestelde wetgeving zou veiligheidstesten hebben vereist voor veel geavanceerde AI-modellen die meer dan $ 100 miljoen kosten om te ontwikkelen of aanzienlijke rekenkracht vereisen.

Daarnaast zouden AI-softwareontwikkelaars in de staat methoden moeten bieden om de AI-modellen uit te schakelen, effectief een kill switch implementerend. Het wetsvoorstel was gericht op het oprichten van een staatsinstelling die toezicht houdt op de ontwikkeling van 'Frontier Models' die de capaciteiten van de meest geavanceerde bestaande modellen overtreffen. Tegenstand tegen het wetsvoorstel kwam van een breed spectrum van groepen, waaronder technologiegiganten zoals Alphabet's Google, Microsoft-ondersteund OpenAI en Meta Platforms, die allemaal generatieve AI-modellen ontwikkelen. Enkele Democraten in het Congres, waaronder vertegenwoordiger Nancy Pelosi, uitten ook hun tegenstand. Voorstanders waren echter onder meer Tesla CEO Elon Musk, die een AI-bedrijf genaamd xAI leidt. Daarnaast suggereerde Amazon-ondersteund Anthropic dat de voordelen van het wetsvoorstel waarschijnlijk opwegen tegen de kosten, hoewel het sommige aspecten nog steeds zorgwekkend of onduidelijk vond. Afzonderlijk ondertekende Newsom wetgeving die een beoordeling verplicht van de potentiële bedreigingen veroorzaakt door Generatieve AI voor de kritieke infrastructuur van Californië. De staat evalueert momenteel risico's die verband houden met energie-infrastructuur en heeft al energiepartijen betrokken, met plannen om soortgelijke beoordelingen uit te voeren voor waterinfrastructuurproviders in het komende jaar, gevolgd door de communicatiesector.