Die weltweit größten KI-Unternehmen und Regierungen kooperieren, um Bedenken hinsichtlich der ungehinderten Entwicklung von KI und potenzieller Risiken anzugehen. Sechzehn einflussreiche KI-Unternehmen, darunter Microsoft und OpenAI, sowie 10 Länder und die EU trafen sich kürzlich in Seoul, um Leitlinien für eine verantwortungsvolle KI-Entwicklung festzulegen. Ein bedeutendes Ergebnis war die Vereinbarung der teilnehmenden KI-Unternehmen, einen "Notausschalter" einzuführen, der die Entwicklung fortschrittlicher KI-Modelle stoppt, wenn sie bestimmte Risikoschwellen überschreiten. Die Wirksamkeit dieser Richtlinie ist jedoch aufgrund des fehlenden rechtlichen Gewichts und konkreter Risikoschwellen in der Vereinbarung unsicher. Nicht anwesende KI-Unternehmen und Konkurrenten sind nicht an diese Verpflichtung gebunden. Angesichts der Risiken im Zusammenhang mit fortgeschrittener KI erkennen Unternehmen wie OpenAI die Notwendigkeit an, potenziellen Missbrauch und Störungen entgegenzuwirken.

Der globale Regelungsrahmen für KI ist fragmentiert und besitzt keine gesetzgeberische Autorität, sondern beruht größtenteils auf unverbindlichen Vereinbarungen. Während einzelne Regierungen wie die USA, die EU und China Maßnahmen zur KI-Sicherheit ergriffen haben, waren die Bemühungen um umfassende globale Vorschriften begrenzt. In Abwesenheit eines einheitlichen Ansatzes gründen KI-Unternehmen ihre eigenen Organisationen, um sich für KI-Politik einzusetzen. Allerdings sind formelle politische Vorschläge noch nicht vorgelegt worden. Einige Regierungen, wie die USA und bestimmte Bundesstaaten, haben konkrete Maßnahmen ergriffen, um Sicherheitstestergebnisse zu verlangen und algorithmische Diskriminierung in der KI zu verbieten. Zukünftige Gipfeltreffen, einschließlich einem in Frankreich, zielen darauf ab, die Entwicklung formaler Definitionen und Risikomessgrößen voranzutreiben, die eine regulatorische Maßnahme erforderlich machen würden und damit den Fortschritt im globalen KI-Regulierungsprozess anzeigen.