Naarmate de Amerikaanse presidentsverkiezingen dichterbij komen, roept het AI-bedrijf Anthropic op tot proactieve regulering van kunstmatige intelligentie om opkomende risico's aan te pakken. Op donderdag publiceerde het op veiligheid gerichte bedrijf richtlijnen voor overheden waarin wordt gepleit voor "gerichte regulering" in het licht van alarmerende gegevens die aanzienlijke vooruitgang in AI benadrukken, met name op het gebied van codering en cyberbeveiliging. In een blogpost schetste Anthropic hoe AI-modellen aanzienlijk zijn verbeterd in hun codemogelijkheden, waardoor hun probleemplossingssucces van 1, 96% naar 49% is gestegen in de loop van een jaar. Ze benadrukten dat huidige modellen al kunnen helpen bij verschillende cyberdelicten, en dat toekomstige modellen naar verwachting nog bekwamer zullen zijn. Bovendien hebben AI-systemen onlangs een stijging van 18% in wetenschappelijk begrip vertoond, met prestatieniveaus die bijna die van menselijke experts benaderen. De eerdere voorspellingen van het bedrijf over dringende cyber- en CBRN (chemische, biologische, radiologische en nucleaire) risico's zijn sneller dan verwacht uitgekomen. Anthropic stelt dat goed ontworpen regelgeving vooruitgang en risicobeperking tegelijkertijd kan mogelijk maken en waarschuwt tegen slecht geconstrueerde, reactieve regels die innovatie kunnen belemmeren. Anthropic stelt voor om zijn Responsible Scaling Policy (RSP) te gebruiken als een kader voor overheden om AI te reguleren.

Dit kader benadrukt proportioneel risicobeheer, waarbij veiligheidsmaatregelen moeten worden geïmplementeerd op basis van de capaciteiten van modellen. Belangrijke aspecten van effectieve regelgeving zijn transparantie, prikkels voor beveiliging en een eenvoudige benadering die onnodige last voor AI-bedrijven vermijdt. Het bedrijf suggereert dat regelgevende instanties AI-bedrijven moeten verplichten RSP-achtige beleidslijnen en risico-evaluaties te publiceren, terwijl methoden om naleving te verifiëren moeten worden vastgesteld. Bovendien moedigen ze overheden aan flexibel te blijven in het belonen van superieure beveiligingspraktijken en te streven naar duidelijkheid in wetgeving. Anthropic legde ook de nadruk op het belang van RSP's binnen AI-bedrijven om risico's proactief aan te pakken, pleitend voor een goed gestructureerde organisatorische focus op veiligheid en beveiliging. Ze riepen op tot samenwerking tussen beleidsmakers, de AI-sector, veiligheidsexperts en wetgevers in het komende jaar om een effectief regelgevingskader te creëren, idealiter op federaal niveau, hoewel staatsactie noodzakelijk kan zijn vanwege de urgentie.