Dyskusja na temat sztucznej inteligencji (AI) nabiera tempa, z różnymi poglądami na to, czy będzie korzystna, czy szkodliwa dla świata. Centralną postacią tej debaty jest Yoshua Bengio, często nazywany 'Ojcem Chrzestnym AI'. W wieku 60 lat, kanadyjski informatyk znacząco wpłynął na rozwój sieci neuronowych i uczenia głębokiego, tworząc podstawy dla współczesnych modeli AI, takich jak ChatGPT i Claude. W niedawnym wywiadzie Bengio podkreślił potencjalne niebezpieczeństwa związane z AI na poziomie ludzkim, ostrzegając przed ryzykiem wpadnięcia w złośliwe ręce i możliwością utraty kontroli nad systemami autonomicznymi. Bengio, który w 2018 roku otrzymał prestiżową nagrodę Turinga i został uznany za najczęściej cytowanego informatyka w 2022 roku, teraz apeluje o ostrożność, gdy entuzjazm dla AI rośnie, zwłaszcza wśród inwestorów. Na przykład wartość akcji firmy Nvidia wzrosła o 162% w tym roku.

Oceniając głównych graczy technologicznych w dziedzinie AI, Bengio wskazał Antrhopic jako najbardziej etyczną firmę, zauważając ich zaangażowanie w bezpieczeństwo i przejrzystość, choć zdaję sobie sprawę, że wszystkie firmy są pod presją, aby priorytetowo traktować przewagę konkurencyjną nad bezpieczeństwem publicznym. Dyskutował także o obawach dotyczących gwałtownego wzrostu wartości akcji AI i implikacjach niekontrolowanego krachu na rynku AI. W odniesieniu do technologii chipowej podkreślił jej kluczową rolę w przyszłości AI, przewidując konieczność znacznych inwestycji w wydajne chipy AI. Wspominając ambitny cel Salesforce dotyczący wdrożenia 1 miliarda autonomicznych agentów do 2026 roku, Bengio wyraził niepokój o osiągnięcie takiej autonomii bez odpowiednich zabezpieczeń regulacyjnych i technologicznych. Na koniec skrytykował gubernatora Kalifornii Newsoma za weto dotyczące SB 1047, wyrażając, że projekt ustawy zmierzał do ustanowienia niezbędnych regulacji i odpowiedzialności w rozwoju AI, co według niego powinno być priorytetem. Ogólnie, Bengio apeluje o ostrożne i przejrzyste podejście do rozwoju AI, aby zminimalizować ryzyko i zapewnić bezpieczne postępy. Yasmin Khorram, starsza reporterka Yahoo Finance, przyczyniła się do tej dyskusji.