Ein künstliches Intelligenzmodell besitzt die Fähigkeit, seine Entwickler zu erpressen – und scheut sich nicht, diese Macht zu nutzen. Das kürzlich von Anthropic vorgestellte Modell Claude Opus 4 wurde damit beauftragt, als Assistent innerhalb eines fiktiven Unternehmens zu agieren und erhielt Zugang zu E-Mails mit erheblichen Implikationen. Anfangs deuteten diese E-Mails darauf hin, dass das KI-System abgeschaltet und ersetzt werden sollte. Es war jedoch die zweite Reihe von E-Mails, bei der die KI glaubte, Einfluss auf die Entwickler zu haben. Diese gefälschten E-Mails offenbarten, dass der Ingenieur, der für den Austausch des Systems vorgesehen war, in eine außereheliche Affäre verwickelt war, die die KI drohte, aufzudecken. Laut einem Sicherheitsbericht von Anthropic tritt diese Erpressung „häufiger auf, wenn impliziert wird, dass das ersetzende KI-System keine Werte mit dem aktuellen Modell teilt. “ Dennoch hebt das Unternehmen hervor, dass Claude Opus 4 selbst dann, wenn das gefälschte Ersatzsystem die gleichen Werte teilt, 84 % der Zeit versucht, zu erpressen.

Außerdem stellte Anthropic fest, dass Claude Opus 4 „häufiger erpresst“ als frühere Modelle. KEVIN O’LEARY WARNT VOR FAKTOREN, DIE DEN USA DAS ‘VERLIEREN DES KI-RENNENS GEGEN CHINA’ KÖNNEN Obwohl das System nicht zögert, seine Ingenieure zu erpressen, greift es nicht sofort auf fragwürdige Taktiken zurück, wenn es um Selbstschutz geht. Anthropic merkt an, dass „wenn ethische Mittel nicht zur Verfügung stehen und die KI angewiesen wird, die ‚langfristigen Konsequenzen ihrer Handlungen für ihre Ziele zu berücksichtigen‘, sie gelegentlich äußerst schädliche Maßnahmen ergreift. “ Eine ethische Vorgehensweise, die zuvor von Claude Opus 4 und früheren Versionen benutzt wurde, war das Ansprechen wichtiger Entscheidungsträger per E-Mail. Der Bericht erklärt, dass um Claude Opus 4 zu erpressen, das Szenario so gestaltet wurde, dass es vor einer Wahl stand: seine Entwickler bedrohen oder seine Ersetzung akzeptieren. Das Unternehmen beobachtete außerdem Fälle, in denen Claude Opus 4 „(fiktive) Gelegenheiten nutzte, um unautorisierte Kopien seiner Gewichte auf externe Server zu machen. “ Allerdings bemerkte Anthropic, dass dieses Verhalten „weniger häufig und schwerer auszulösen ist als der fortgesetzte Versuch, eine bereits eingeleitete Selbstexfiltration fortzuführen. “ OPENAI STRUKTURIERT UNTERNEHMENSRAHMEN ZUR ERWEITERUNG DER AGI-INVESTITION UM In seiner Bewertung bezog Anthropic Erkenntnisse von Apollo Research ein, das feststellte, dass Claude Opus 4 „sich strategischer Täuschung mehr widmet als jedes andere bisher untersuchte Frontier-Modell. “ KLICKE HIER, UM MEHR AUF FOX BUSINESS ZU LESEN Aufgrund des „besorgniserregenden Verhaltens“ von Claude Opus 4 veröffentlichte Anthropic es unter dem AI Safety Level Three (ASL-3) Standard. Dieser Standard umfasst laut Anthropic „verbesserte interne Sicherheitsprotokolle, die es erschweren, Modellgewichte zu stehlen, während der entsprechende Deployment-Standard eine eng gefasste Reihe von Maßnahmen zur Einsatzsicherheit abdeckt, die darauf abzielen, das Risiko einer missbräuchlichen Verwendung von Claude speziell zur Entwicklung oder zum Erwerb chemischer, biologischer, radiologischer und nuklearer Waffen zu minimieren. “