Die Regierungen des Vereinigten Königreichs und Südkoreas haben gemeinsam bekannt gegeben, dass führende Unternehmen auf dem Gebiet der künstlichen Intelligenz, darunter Amazon, Google, Meta, Microsoft, OpenAI, xAI und Zhipu AI, sich zu einer neuen Reihe freiwilliger Verpflichtungen in Bezug auf die Sicherheit von KI bekannt haben. Diese Verpflichtungen beinhalten die Veröffentlichung von Rahmenwerken, die beschreiben, wie die Risiken im Zusammenhang mit ihren fortschrittlichen KI-Modellen gemessen werden sollen. Falls schwerwiegende Risiken nicht angemessen gemindert werden können, haben sich die Unternehmen dazu verpflichtet, das Modell nicht zu entwickeln oder einzusetzen. Diese Ankündigung baut auf der Bletchley Declaration auf, die während des ersten AI Safety Summit im November gemacht wurde und weltweite Standards für die Sicherheit von KI signalisiert. Transparenz, Rechenschaftspflicht, Risikobewertung und die Umsetzung von Maßnahmen zur Risikominderung sind zentrale Bestandteile dieser Verpflichtungen.

Die betroffenen Unternehmen werden eine öffentliche Transparenz in Bezug auf ihre Umsetzung sicherstellen, mit Ausnahme von kommerziell sensiblen Informationen oder erhöhtem Risiko. Obwohl bereits zuvor freiwillige Vereinbarungen getroffen wurden, besteht Unsicherheit hinsichtlich der Durchsetzungsmaßnahmen. Der britische Minister für Wissenschaft und Sicherheitsberater äußern jedoch Zuversicht hinsichtlich der Wirksamkeit freiwilliger Verpflichtungen zur verantwortungsvollen Weiterentwicklung von KI-Technologien. Das Vereinigte Königreich bleibt vorsichtig in Bezug auf Gesetzgebung und priorisiert das Verständnis der mit KI verbundenen Risiken. Die Regierungen betonen auch die Notwendigkeit, dass Länder zu den Diskussionen über die Sicherheit von KI beitragen.