Gaithersburg, Maryland—Vandaag kondigde het National Institute of Standards and Technology (NIST) van het Amerikaanse ministerie van Handel samenwerkingsverbanden aan met Anthropic en OpenAI, waarmee hun gezamenlijke inspanningen op het gebied van AI-veiligheidsonderzoek, testen en evaluatie worden geformaliseerd. Onder het Memorandum of Understanding zal het Amerikaanse AI Safety Institute vroegtijdige toegang krijgen tot belangrijke nieuwe modellen van beide bedrijven, waardoor gezamenlijk onderzoek mogelijk wordt naar het beoordelen van capaciteiten en het aanpakken van veiligheidsrisico's die samenhangen met AI. De overeenkomsten faciliteren ook het delen van inzichten over mogelijke veiligheidsverbeteringen aan de modellen van Anthropic en OpenAI, in samenwerking met het Britse AI Safety Institute. Volgens Elizabeth Kelly, directeur van het Amerikaanse AI Safety Institute, markeren deze overeenkomsten een belangrijke mijlpaal in het bevorderen van de wetenschap van AI-veiligheid en het promoten van verantwoordelijke innovatie. Het doel is om de ontwikkeling en het beheer van AI te ondersteunen met een focus op veiligheid. De evaluaties die door deze samenwerkingsverbanden worden uitgevoerd, dragen bij aan de rijke geschiedenis van NIST op het gebied van technologische vooruitgang, normen en meetwetenschap.

Door het bevorderen van diepe samenwerking en verkennend onderzoek, wil NIST de verschillende risico's aanpakken die samenhangen met geavanceerde AI-systemen. Bovendien zijn deze evaluaties afgestemd op het AI-executive order van de regering-Biden-Harris en de verplichtingen van toonaangevende AI-modelontwikkelaars om de veilige, beveiligde en betrouwbare ontwikkeling en gebruik van AI te waarborgen. Over het U. S. AI Safety Institute: