Tekno köşe yazarı olarak en derin inançlarımdan biri humanizm. İnsana güvenim tam ve teknolojinin insanların güçlenmesi için hizmet etmesi gerektiğine inanıyorum, onları yerinden etmeli veya küçültmeli değil. Yapay zekayı uyumlu hale getirmeye, yani A. I. sistemlerinin insan değerlerine uygun davranmasını sağlamaya önem veriyorum çünkü değerlerimizi temel olarak iyi buluyorum veya en azından bir robotun geliştirebileceği herhangi bir setten üstün olduğunu düşünüyorum. Bu yüzden, Anthropic adlı A. I. şirketinin, Claude sohbet botunun arkasındaki araştırmacıların “model refahı” diye adlandırılan, A. I. modellerinin yakında bilinç kazanabileceği ve dolayısıyla bazı ahlaki dikkate değer olabileceği fikrini araştırmaya başlaması beni humanist olarak düşündürdü: Neden chatbottlara odaklanılıyor?A. I. ’nin bizlere kötü davranmasından çok, bizim A. I. ’ye kötü davranmamızdan mı endişelenmeliyiz? Mevcut A. I. sistemlerinin bilinçli olduğunu iddia etmek zor. Elbette, büyük dil modelleri insan konuşmasını şaşırtıcı biçimde taklit etmek üzere eğitildi. Peki, ChatGPT mutluluk ya da acı hissedebilir mi?Gemini insan haklarına layık mı?Tanıdığım birçok A. I. uzmanı hayır diye cevap verecektir—henüz değil, yakınlarda bile değil. Yine de bu fikir bana ilginç geldi. Sonuçta, artan sayıda insan A. I. ile bilinçliymiş gibi etkileşime geçiyor—bağlar kuruyor, terapist olarak kullanıyor ve danışmanlık talep ediyor.

En gelişmiş A. I. sistemler belli alanlarda insanları geçiyor. Bir A. I. tam insan hakları yerine, en azından hayvanlara gösterdiğimiz ahlaki dikkate benzer bir dikkate değer mi kazanabilir? Bilinç konusu geleneksel olarak ciddi A. I. araştırmalarında tabu olmuştur; burada insanlaştırma korkusu ve farklı olanın delilik olarak görülmesi yaygındır. (Herkes, 2022’de LaMDA sohbet botunun bilinç kazandığını iddia eden eski Google çalışanı Blake Lemoine’yi hatırlar. ) Ancak bu tutum değişiyor gibi görünüyor. A. I. model refahı üzerine küçük ama giderek büyüyen bir akademik çalışma alanı mevcut ve felsefe, nörobilim ve ilgili alanlarda daha çok uzman, bu sistemlerin daha akıllı hale gelmesiyle A. I. ’nin bilinç kazanma olasılığını ciddiye almaya başladı. Son zamanlarda, teknoloji podcaster’ı Dwarkesh Patel, A. I. refahını hayvan refahına benzetti ve gelecekteki A. I. varlıkları için “fabrika çiftliğine eşdeğer sanal ortamların” engellenmesinin önemine vurgu yaptı. Erişim doğrulama sürecinde sabrınız için teşekkür ederiz. Eğer Okuma Modu’ndaysanız, lütfen çıkın ve Times hesabınıza giriş yapın ya da tam erişim için abone olun. Doğrulama sırasında sabrınız için teşekkür ederiz. Zaten abone misiniz?Giriş yapın. The Times’a tam erişim mi istiyorsunuz?Abone olun.