Da sich die US-Präsidentschaftswahlen nähern, ruft das KI-Unternehmen Anthropic zur proaktiven Regulierung der künstlichen Intelligenz auf, um neue Risiken anzugehen. Am Donnerstag veröffentlichte das auf Sicherheit fokussierte Unternehmen Richtlinien für Regierungen, die angesichts alarmierender Daten, die bedeutende Fortschritte in der KI, insbesondere im Bereich Codierung und Cybersicherheit, hervorheben, für „gezielte Regulierung“ plädieren. In einem Blogbeitrag von Anthropic wurde dargelegt, wie sich KI-Modelle insbesondere in ihren Codierfähigkeiten erheblich verbessert haben und ihre Erfolgsquote bei der Problemlösung innerhalb eines Jahres von 1, 96 % auf 49 % gestiegen ist. Sie betonten, dass aktuelle Modelle bereits bei verschiedenen Cyberdelikten unterstützen können und zukünftige Modelle voraussichtlich noch leistungsfähiger sein werden. Außerdem haben KI-Systeme in letzter Zeit einen Anstieg des wissenschaftlichen Verständnisses um 18 % gezeigt, wobei die Leistungsniveaus denen menschlicher Experten nahekommen. Die früheren Prognosen des Unternehmens bezüglich dringlicher Cyber- und CBRN-Risiken (chemische, biologische, radiologische und nukleare) haben sich schneller als erwartet materialisiert. Anthropic argumentiert, dass gut gestaltete Vorschriften gleichzeitig Fortschritte ermöglichen und Risiken mindern können, und rät von schlecht konzipierten, reaktiven Regeln ab, die Innovation behindern könnten. Anthropic schlägt vor, seine Responsible Scaling Policy (RSP) als Rahmen für Regierungen zur Regulierung von KI zu verwenden.

Dieses Rahmenwerk betont das proportionale Risikomanagement und erfordert die Umsetzung von Sicherheitsmaßnahmen auf Basis der Fähigkeiten der Modelle. Zu den wichtigsten Aspekten einer effektiven Regulierung gehören Transparenz, Anreize für Sicherheit und ein unkomplizierter Ansatz, der unnötige Belastungen für KI-Unternehmen vermeidet. Das Unternehmen schlägt vor, dass Regulierungsbehörden von KI-Firmen verlangen sollten, RSP-ähnliche Richtlinien und Risikobewertungen zu veröffentlichen und Methoden zur Überprüfung der Einhaltung einzuführen. Darüber hinaus ermutigen sie Regierungen, anpassungsfähig zu bleiben und herausragende Sicherheitspraktiken zu belohnen sowie Klarheit in der Gesetzgebung anzustreben. Anthropic betonte auch die Bedeutung von RSPs innerhalb von KI-Unternehmen zur präemptiven Risikoanalyse und plädierte für einen gut strukturierten organisatorischen Fokus auf Sicherheit und Schutz. Sie riefen zu einer Zusammenarbeit unter Politikern, der KI-Branche, Sicherheitsbefürwortern und Gesetzgebern im nächsten Jahr auf, um einen effektiven regulatorischen Rahmen zu schaffen, idealerweise auf Bundesebene, obwohl aufgrund der Dringlichkeit auch staatliches Handeln erforderlich sein könnte.