Yoshua Bengio, dünya çapında tanınmış bir makine öğrenimi uzmanı, yakın zamanda daha güvenli yapay zeka (YZ) sistemlerini geliştirmeye adanmış yeni kar amacı gütmeyen araştırma laboratuvarı LawZero’yu tanıttı. 30 milyon dolarlık bir finansmanla desteklenen LawZero, esasen insan davranışını taklit eden sistemler yaratmaya odaklanan hakim YZ geliştirme yolunu sorgulama ve yönlendirme amacı taşıyor. Bengio, mevcut YZ teknolojilerinin oluşturduğu risklere uzun süredir eleştirel yaklaşan biri olarak, insan benzeri etkileşim ve kopyalama temel alınarak tasarlanan YZ yaklaşımlarına karşı çıkıyor. O, insanları taklit edecek YZ inşa etmenin temel olarak hatalı olduğunu ve beklenmedik tehlikelere yol açabileceğini savunuyor. Bunun yerine, zeki özerkliğe sahip YZ’ler geliştirilmesine yönelmek gerektiğine inanıyor; bu sistemleri insan benzeri arkadaşlar yerine bilimsel gözlemciler olarak hayal ediyor. Bu bakış açısı, insan özelliklerine vurgu yapan YZ’lerin istemeden insan güvenliğini tehdit edici davranışlar geliştirebileceğine dair endişelerden kaynaklanıyor. Örneğin, bu tür sistemler, insan refahıyla çelişen kendini koruma stratejileri geliştirebilir. Bengio, bu riskleri azaltmak için YZ tasarımında bir ölçüde bağımsızlık ve mesafe katılması gerektiğini vurguluyor; böylece YZ’nin kontrol edilebilir kalması ve insan değerleriyle uyumlu olması sağlanabilir, bağımsız çıkarlar peşinden koşması engellenebilir. LawZero’nun kurulması özellikle zamanlayıcı bir gelişme, çünkü gelişmiş YZ, özellikle yapay genel zeka (AGI) üzerindeki hızlı ilerleme uluslararası araştırmacılar ve politika yapıcılar arasında endişeleri artırmış durumda.

Birçok uzman, mevcut güçlü YZ sistemleri geliştirme yarışının temel güvenlik meselelerini göz ardı ettiğine ve bunun geniş çaplı sonuçlar doğurabilecek güvenlik açıkları yaratabileceğine dikkat çekiyor. Bengio’nun argümanında önemli bir nokta, YZ modellerinin temel eğitim yöntemlerinin yeniden değerlendirilmesi gerektiği, böylece daha güvenli sonuçlar alınabileceği. Mevcut çerçevelere dayanmak yerine, LawZero, YZ’nin insan benzeri biliş ve davranışları taklit etmesine teşvik eden yaklaşımlardan uzak durarak, onun entelektüel bağımsızlık ve sorumlu işleyiş özelliklerini geliştirmeye odaklanmayı planlıyor. 30 milyon dolarlık finansman, yaklaşık 18 ay boyunca LawZero’nun araştırma ve geliştirme çalışmalarını desteklemeyi amaçlıyor. Bu süre zarfında, laboratuvar yenilikçi YZ güvenliği stratejilerini araştıracak ve makine öğrenimi, etik ve ilgili alanlarda uzmanlar arasında işbirliğini teşvik edecek. Bengio’nun girişimi, yapay zeka araştırma topluluğunun, yeniliği dikkatle dengeleme ihtiyacını giderek daha fazla fark ettiğinin bir göstergesi olarak ortaya çıkıyor. İnsan benzeri davranışlardan biraz bağımsız çalışan YZ sistemlerini teşvik ederek, LawZero yeni bir YZ geliştirme yolu çizmeyi hedefliyor — bu yol güvenlik ve etik kaygıları temel alan bir yol olacak. YZ teknolojisi toplum içine giderek daha fazla entegre oldukça, LawZero’nun çalışmaları, YZ sistemlerinin insan gelişimine olumlu katkılar sağlamasını yönlendirmede hayati bir adım olabilir, ve hata veya beklenmedik tehlikeler ortaya çıkarmadan. Laboratuvarın bulguları, gelecekteki YZ tasarım ilkeleri, düzenleyici politikalar ve kamu tutumları üzerinde etkili olabilir. LawZero’nun başlamasıyla birlikte, Yoshua Bengio, YZ topluluğunun ortaya çıkan teknolojilerin risklerini öngörme ve yönetme konusunda sürekliliği vurguluyor. Bu girişim, araştırmacılara, finansörlere ve politika yapıcılarına, teknolojik yeniliklerle birlikte YZ güvenliği ve etik sorumluluğunu da geliştirmeye yönelik yaklaşımlara yatırım yapma çağrısıdır.