Amerika genelindeki eyalet başsavcılarından oluşan bir koalisyon, önde gelen yapay zeka laboratuvarlarına, özellikle Microsoft, OpenAI ve Google’a resmi bir uyarıda bulunarak büyük dil modelleri (LLM'ler) ile ilgili önemli sorunları ele almalarını istedi. İnsanlara benzer metinleri anlamada ve üretmede gelişmiş yetenekleriyle tanınan bu yapay zeka sistemleri bazen “dalgın çıktıların” veya yapay zeka halüsinasyonlarının — yanlış, yanıltıcı veya tamamen uydurma yanıtların — üretimiyle sorun yaratıyor. Bu hatalar, gerçeğe dayanan yanlış veya zararlı bilgilerin yayılma riskini artırıyor. Başsavcılar, bu yanlışlıkların yasal ve etik tehlikelerine dikkat çekiyor ve yanıltıcı çıktıların düzenlemeleri ihlal edebileceği ve ilgili şirketler için olası yasal sonuçlara yol açabileceğine vurgu yapıyor. Bu uyarı, yapay zekanın kamuya açık şekilde kullanıldığı durumlarda şeffaflık, güvenilirlik ve hesap verebilirliğin arttırılmasına yönelik gözetimin güçlendiği yapay zeka yönetiminde önemli bir dönüm noktası. Microsoft, OpenAI ve Google’ın LLM’leri, birçok yaygın kullanılan uygulamayı besliyor ve halüsinasyonları sınırlama ile denetim mekanizmalarını geliştirme çağrılarını hızlandırıyor; bu da tüketicileri, işletmeleri ve doğru yapay zeka bilgisine bağımlı sektörleri korumayı amaçlıyor. Ayrıca, bu müdahale, yapay zekanın kamu güvenini zayıflatma, yanlış anlatıları büyütme ve kötü niyetli şekilde istismar edilme potansiyeli gibi daha geniş toplumsal endişeleri de yansıtıyor. Yasal otoriteler, yapay zekanın geliştirilmesini düzenleyici standartlara uygun hale getirmek ve kamu çıkarlarını gözetmek amacıyla adımlar atıyor.

Bu bağlamda, yapay zeka topluluğunun, yenilik ve sorumluluk arasında denge kurmak, şeffaflık, doğruluk ve kullanıcı güvenliğini temel alan etik bir yapay zeka kullanımını sağlamak için düzenleyicilerle iş birliği yapması bekleniyor. Yapay zeka şirketleri, halüsinasyonları kabul etmiş ve eğitim yöntemleri ile insan denetimi gibi gelişmeler sağlamış olsa da, artan yasal denetimin, zararlı veya yasal olmayan sonuçları önlemek için daha güçlü çabaların gerektiğini gösteriyor. Bu durum, yapay zekanın hızlı gelişen teknolojilerinin toplum üzerindeki yaygın etkisini düzenlemek ve teknoloji geliştiriciler, politika belirleyiciler ve yasal kurumlar arasında etkili iş birliği sağlamak için önemli bir hatırlatıcı oluyor. Müşteri hizmetleri, içerik üretimi ve karar destek alanları gibi alanlarda yapay zekanın giderek daha fazla kullanılmasıyla, dalgın çıktıların çözümüne yönelik yaklaşımlar daha acil hale geliyor. Çözümler muhtemelen teknolojik iyileştirmeleri, daha fazla şeffaflığı, açık kullanım politikalarını ve daha güçlü denetim çerçevelerini içerecek. Sonuç olarak, ABD eyalet başsavcılarının en üst düzey yapay zeka laboratuvarlarına yaptığı bu yeni uyarı, yapay zeka yönetiminde kritik bir adım olup, halüsinasyonları azaltmaya yönelik somut adımlar atılmasını talep ediyor ve yasa uygulama çerçevesinin sorumlu yapay zeka gelişiminde giderek artan rolüne dikkat çekiyor. Bu an, tüm paydaşların etik yapay zeka geliştirmeye yeniden yönelemesi ve bu güçlü araçların toplumun güvenilir ve güvenli şekilde hizmet etmesini sağlaması için bir fırsat sunuyor.