Kaliforniya Valisi Gavin Newsom, Pazar günü teknoloji endüstrisinin endişelerini dile getirmesi üzerine tartışmalı bir yapay zeka güvenlik tasarısını veto etti ve yasaların yapay zeka şirketlerini eyaletten çıkarabileceğini ve yenilikleri bozabileceğini savundu. Newsom, Kaliforniya'ya 'ampirik, bilim temelli bir yörünge analizi' oluşturmayı amaçlayan 'uygulanabilir koruma önlemleri' geliştirmede yardımcı olmak için Generatif AI alanında önde gelen uzmanlardan yardım istediğini belirtti. Ayrıca eyalet ajanslarına, AI kullanımına bağlı potansiyel felaket olaylarıyla ilgili risklerin değerlendirmelerini genişletmeleri talimatını verdi. Generatif AI, açık uçlu istemlere yanıt olarak metin, görüntü ve video üretebildiği için hem heyecan hem de endişe yaratmıştır. Bazı işlerin sona ermesine, seçimlerin bozulmasına ve insan güvenliğine yönelik önemli riskler oluşturabileceği konusunda endişeler dile getirilmiştir. Tasarıyı yazan Demokratik Eyalet Senatörü Scott Wiener, yasa tasarısının AI ilerlemeleri yönetilemez hale gelmeden veya kontrol edilemez hale gelmeden önce halkı korumak için zorunlu olduğunu savundu. AI endüstrisi Kaliforniya'da hızla genişlediği için, bazı liderler yasa tasarısı yürürlüğe girerse bu şirketlerin geleceği hakkında endişelerini dile getirdi. Wiener, vetonun Kaliforniya'yı daha az güvenli hale getirdiğini, dolayısıyla 'inanılmaz derecede güçlü teknoloji geliştirmek isteyen şirketlerin karşı karşıya kalacağı uygulanabilir kısıtlamalar olmadığını' belirtti. Ayrıca, 'endüstriden gelen gönüllü taahhütlerin genellikle uygulanabilirlikten yoksun olduğunu ve halk için önemli ölçüde fayda sağlamadığını' söyledi. Bir büyük felaketin meydana gelmesini bekleyemeyiz' diyen Newsom, halkı korumak için harekete geçmeden önce, AI sistemleri ve yeteneklerinin ampirik yörünge analizi olmadan bir çözüm arayışına dair endişelerini dile getirdi. İleriye dönük olarak, Newsom, gelecek oturumda yasama organıyla birlikte AI düzenlemeleri üzerinde çalışmayı planladığını belirtti. Bu, Kongre'deki yasama çabalarının durmuş olduğu ve Biden yönetiminin AI denetimi için düzenleyici önerileri ileriye taşıdığı bir dönemde geliyor. Newsom, 'Sadece Kaliforniya'ya yönelik bir yaklaşım, özellikle Kongre'den federal eylem olmaması durumunda gerçekten gerekebilir. ' dedi. Teknoloji endüstrisini temsil eden bir koalisyon olan İlerleme Odası, Newsom'un vetosunu övdü ve 'Kaliforniya teknoloji ekonomisi her zaman rekabet ve açıklık üzerinde gelişmiştir. ' diye vurguladı. Önerilen yasa tasarısı, gelişmiş AI modelleri için güvenlik testleri gerektirecekti ve bunların geliştirilmesi 100 milyon dolardan fazla maliyetli veya önemli hesaplama kaynakları gerektiriyordu.

Ayrıca, eyaletteki AI yazılım geliştiricilerinin, AI modellerini devre dışı bırakma yöntemleri sunmaları gerekecekti, yani etkili bir şekilde bir kapatma anahtarı uygulayacaklardı. Tasarı, mevcut en gelişmiş modellerin yeteneklerini aşan 'Öncü Modeller'in geliştirilmesini denetleyecek bir eyalet kurumu kurmayı amaçlıyordu. Tasarıya karşı olanlar, generatif AI modelleri geliştiren Alphabet'in Google, Microsoft destekli OpenAI ve Meta Platforms gibi teknoloji devleri de dahil olmak üzere geniş bir yelpazeyi kapsıyordu. Temsilci Nancy Pelosi de dahil olmak üzere Kongre'deki bazı Demokratlar da karşı çıktılar. Ancak, Tesla CEO'su Elon Musk, xAI adında bir yapay zeka şirketini yöneten ve destekledi. Ayrıca, Amazon destekli Anthropic, yasa tasarısının faydalarının muhtemelen maliyetlerinden fazla olduğunu söyledi, ancak bazı yönlerinin hala endişe verici veya belirsiz olduğunu belirtti. Ayrı olarak, Newsom, Kaliforniya'nın kritik altyapısına yönelik olası tehditlerin değerlendirilmelerini zorunlu kılan yasaları imzaladı. Eyalet şu anda enerji altyapısıyla ilgili riskleri değerlendiriyor ve enerji sektör sağlayıcılarıyla zaten anlaşmalar yapmış durumda, önümüzdeki yıl ise su altyapısı sağlayıcıları için benzer değerlendirmeler yapmayı ve ardından iletişim sektörüne geçmeyi planlıyor.