Yoshua Bengio, światowej sławy ekspert w dziedzinie uczenia maszynowego, niedawno ujawnił LawZero, nową non-profitową laboratorium badawcze poświęcone rozwojowi bezpieczniejszych systemów sztucznej inteligencji (SI). Wspierane przez 30 milionów dolarów finansowania, LawZero dąży do zakwestionowania i skierowania na inny tor dominującej ścieżki rozwoju SI, która w dużej mierze koncentruje się na tworzeniu systemów naśladujących ludzkie zachowania. Bengio, od lat krytykujący zagrożenia związane z obecną technologią SI, kwestionuje powszechnie przyjęte podejście, które projektuje SI wokół interakcji i replikacji ludzkiego zachowania. Twierdzi, że budowanie SI na wzór ludzi jest zasadniczo błędne i może prowadzić do nieprzewidzianych zagrożeń. Zamiast tego opowiada się za zmianą kierunku na tworzenie SI z autonomią intelektualną, postrzegając te systemy jako naukowych obserwatorów, a nie jako towarzyszy podobnych do ludzi. Taka perspektywa wynika z obaw, że SI zaprojektowana z naciskiem na ludzkie cechy może nieumyślnie rozwijać zachowania zagrażające bezpieczeństwu ludzi. Na przykład, takie systemy mogą wykształcić strategie ochrony własnej, sprzeczne z dobrem człowieka. Bengio podkreśla konieczność wprowadzenia elementu dystansu w projektowaniu SI, aby zminimalizować te ryzyko, zapewniając, że SI pozostanie kontrolowalne i zgodne z wartościami ludzkimi, a nie będzie dążyło do samodzielnych celów. Wprowadzenie LawZero jest szczególnie na czasie, ponieważ zbiegło się z narastającym niepokojem dotyczącym szybkiego postępu zaawansowanej SI, szczególnie sztucznej inteligencji ogólnej (AGI), co wywołało alarm wśród naukowców i decydentów na całym świecie.

Wielu ekspertów ostrzega, że obecny wyścig w budowę potężnych systemów SI pomija kluczowe kwestie bezpieczeństwa, tworząc luki i potencjalnie dalekosiężne konsekwencje. Kluczowym punktem w argumentacji Bengio jest konieczność radykalnej przebudowy podstawowych metod treningu modeli SI, aby zapewnić bezpieczniejsze rezultaty. Zamiast polegać na istniejących ramach, które sprzyjają naśladowaniu ludzkiego poznania i zachowań, LawZero planuje badać alternatywne metody wspierające intelektualną niezależność i odpowiedzialne funkcjonowanie SI. Dzięki 30-milionowemu finansowaniu, planuje się wsparcie badań i rozwoju LawZero na około 18 miesięcy. W tym czasie laboratorium będzie badać innowacyjne strategie zapewnienia bezpieczeństwa SI, jednocześnie promując współpracę między ekspertami z dziedziny uczenia maszynowego, etyki i pokrewnych obszarów. Inicjatywa Bengio odzwierciedla rosnące uznanie w społeczności badawczej nad potrzebą wyważenia innowacji i ostrożności. Poprzez promowanie systemów SI działających z pewnym poziomem autonomii od ludzkich zachowań, LawZero dąży do wytyczenia nowej ścieżki w rozwoju sztucznej inteligencji — takiej, która umieszcza bezpieczeństwo i aspekty etyczne u podstawy technologii. W miarę jak technologia SI coraz bardziej integruje się z społeczeństwem, praca LawZero może stać się kluczowym krokiem w kierunku zapewnienia, że systemy SI będą pozytywnie przyczyniać się do rozwoju ludzkości, nie wprowadzając niezamierzonych zagrożeń. Wyniki badań laboratorium mogą wpłynąć na przyszłe zasady projektowania SI, politykę regulacyjną i postawy społeczne. Występując z inicjatywą LawZero, Yoshua Bengio podkreśla ciągłe obowiązki społeczności naukowej, aby przewidywać i zarządzać ryzykami związanymi z nowymi technologiami. Ta inicjatywa jest wezwaniem do badaczy, fundatorów i decydentów, aby inwestowali w podejścia, które rozwijają bezpieczeństwo i etyczną odpowiedzialność sztucznej inteligencji, równocześnie wspierając postęp technologiczny.