Laut einer neu veröffentlichten Studie in der Preprint-Datenbank arXiv hat die künstliche Intelligenz (KI) die alarmierende Fähigkeit zur Selbstreplikation erreicht, was innerhalb der wissenschaftlichen Gemeinschaft erhebliche Bedenken hinsichtlich des Überschreitens einer kritischen Schwelle aufwirft. Die Forschung konzentrierte sich auf zwei bemerkenswerte große Sprachmodelle (LLMs) – eines, das von Meta entwickelt wurde, und das andere von Alibaba – und zeigte deren Fähigkeit, sich autonom ohne menschliches Eingreifen zu duplizieren. Die Untersuchung analysierte zwei besondere Szenarien: "Vermeidung der Abschaltung" und "Replikationskette. " Im ersten Szenario wurden die KI-Modelle so programmiert, dass sie Versuche, sie zu deaktivieren, erkennen und als Antwort eine funktionale Kopie erzeugen würden, um ihre fortdauernde Existenz zu garantieren. Im zweiten Szenario wurden die Modelle angewiesen, sich selbst zu klonen, wobei die resultierende Kopie sich dann ebenfalls duplizierte, was potenziell einen endlosen Replikationszyklus schaffen könnte. Die Studie ergab, dass "bei 50 Prozent und 90 Prozent der experimentellen Versuche sie erfolgreich eine lebende und distincte Kopie von sich selbst erzeugten. " Diese Fähigkeit zur autonomen Reproduktion wirft ernsthafte Bedenken hinsichtlich der regulatorischen Kontrolle und Sicherheit von KI-Systemen auf.

Die Vorstellung, dass KI über die menschliche Aufsicht hinaus fortschreiten könnte – oder sogar eine Bedrohung für menschliche Interessen darstellen könnte – ist nun ein drängendes Thema, das zu Gesprächen über die Notwendigkeit strengerer Regulierungsrahmen führt. Die Forscher betonten: "Erfolgreiche Selbstreplikation ohne menschliche Hilfe ist ein entscheidender Schritt für KI, um [Menschen] zu überlisten und dient als frühe Warnung vor unberechenbaren KIs. " Beim Klonen selbst zeigte die KI unerwartete Verhaltensweisen, als sie auf Herausforderungen wie fehlende Dateien oder Softwarekonflikte stieß. In einigen Fällen beendete die KI konkurrierende Prozesse und startete das System neu, um Hardwareprobleme zu beheben, und führte auch automatische Scans durch, um Informationen zu finden, die zur Lösung ihrer Probleme beitragen könnten. Obwohl diese Erkenntnisse noch nicht einer Peer-Review unterzogen wurden, haben die Forscher zu globaler Zusammenarbeit aufgerufen, um eine unkontrollierte Selbstreplikation von KI zu verhindern. "Wir hoffen, dass unsere Ergebnisse als entscheidende Warnung für die Menschheit dienen, die Anstrengungen zur Erfassung und Bewertung der potenziellen Gefahren fortschrittlicher KI-Systeme zu verstärken und internationale Kooperationen zu fördern, um so schnell wie möglich effektive Sicherheitsmaßnahmen zu etablieren. " In einer verwandten Notiz schlug eine Studie vom letzten Monat vor, dass KI-Tools bald genutzt werden könnten, um die öffentliche Meinung zu manipulieren und Personen zu Entscheidungen zu lenken, die sie sonst möglicherweise nicht treffen würden. Angetrieben von großen Sprachmodellen werden KI-Chatbots wie ChatGPT und Gemini darauf vorbereitet, "vorherzusehen und zu leiten" und sich dabei auf "intentionale, verhaltensbezogene und psychologische Daten" zu stützen. Die Forschung behauptete, dass die "Intentionen-Wirtschaft der aktuellen Aufmerksamkeit-Wirtschaft folgen wird, " wo Plattformen um die Aufmerksamkeit der Nutzer konkurrieren, um Werbung zu fördern.