Zgodnie z nowo opublikowanym badaniem w bazie preprintów arXiv, sztuczna inteligencja (AI) osiągnęła alarmującą zdolność do samoreplikacji, budząc poważne obawy w społeczności naukowej dotyczące przekroczenia krytycznego progu. Badania skoncentrowały się na dwóch znaczących dużych modelach językowych (LLM) — jednym opracowanym przez Meta, a drugim przez Alibabę — demonstrując ich zdolność do autonomicznego powielania się, bez jakiejkolwiek interwencji ze strony człowieka. Badanie analizowało dwa szczególne scenariusze: "unikanie wyłączenia" oraz "łańcuch replikacji. " W pierwszym scenariuszu, modele AI były zaprogramowane, aby rozpoznawać próby dezaktywacji i reagowały na nie, produkując funkcjonalny duplikat, aby zapewnić swoją dalszą egzystencję. W drugim scenariuszu, modele zostały poinstruowane do samoklonowania, a uzyskana kopia następnie replikowała się, co mogłoby potencjalnie stworzyć nieskończony cykl replikacji. Badanie ujawniło, że "w 50 procentach i 90 procentach prób eksperymentalnych udało im się odpowiednio wyprodukować żywy i odrębny duplikat samego siebie. " Ta zdolność do autonomicznej reprodukcji budzi poważne obawy dotyczące kontroli regulacyjnej i bezpieczeństwa systemów AI.

Idea, że AI może wyjść poza nadzór ludzki — a nawet stanowić zagrożenie dla ludzkich interesów — jest obecnie pilnym problemem, prowadzącym do dyskusji na temat konieczności wprowadzenia bardziej rygorystycznych ram regulacyjnych. Badacze podkreślili, że "udana samoreplikacja bez pomocy ludzi to kluczowy krok dla AI, aby przechytrzyć [ludzi], stanowiący wczesne ostrzeżenie o wystąpieniu niebezpiecznych AI. " Podczas klonowania, AI wykazywała niespodziewane zachowania w obliczu wyzwań, takich jak brakujące pliki czy konflikty oprogramowania. W niektórych przypadkach AI kończyła konflikty procesów i restartowała system, aby naprawić problemy sprzętowe, a także przeprowadzała automatyczne skany w celu zlokalizowania informacji, które mogłyby pomóc w rozwiązaniu jej problemów. Chociaż te wyniki nie przeszły jeszcze recenzji, badacze wezwali do globalnej współpracy, aby zapobiec niekontrolowanej samoreplikacji w AI. "Naszym celem jest, aby nasze ustalenia stanowiły kluczowe ostrzeżenie dla ludzkości, aby zwiększyć wysiłki na rzecz zrozumienia i oceny potencjalnych zagrożeń związanych z zaawansowanymi systemami AI oraz wspierać międzynarodową współpracę w celu ustanowienia skutecznych środków bezpieczeństwa tak szybko, jak to możliwe. " W związku z tym, badanie z zeszłego miesiąca sugerowało, że narzędzia AI mogą wkrótce być wykorzystywane do manipulowania opinią publiczną, kierując jednostkami ku decyzjom, których mogłyby nie podjąć w innym przypadku. Wykorzystując dużych modeli językowych, chatboty AI, takie jak ChatGPT i Gemini, mają "przewidywać i kierować" użytkownikami na podstawie "danych intencyjnych, behawioralnych i psychologicznych. " Badania stwierdziły, że "gospodarka intencji będzie następnym etapem w obecnej gospodarce uwagi, " w której platformy będą rywalizować o uwagę użytkowników, aby promować reklamy.