Ettersom det amerikanske presidentvalget nærmer seg, oppfordrer AI-selskapet Anthropic til proaktiv regulering av kunstig intelligens for å adressere nye risikoer. Torsdag lanserte det sikkerhetsfokuserte selskapet retningslinjer for regjeringer som anbefaler 'målrettet regulering' i lys av alarmerende data som fremhever betydelige fremskritt innen AI, spesielt innen koding og cybersikkerhet. Anthropics blogginnlegg beskrev hvordan AI-modeller merkbart har forbedret seg i sine kodeferdigheter, og økt sin suksess innen problemløsning fra 1, 96% til 49% i løpet av ett år. De understreket at nåværende modeller allerede kan bistå i ulike cyberforbrytelser, og at fremtidige modeller forventes å være enda mer kapable. I tillegg har AI-systemer vist en 18% økning i vitenskapelig forståelse nylig, med prestasjonsnivåer nær de til menneskelige eksperter. Selskapets tidligere spådommer om pressende cyber- og CBRN (kjemiske, biologiske, radiologiske og nukleære) risikoer har materialisert seg raskere enn forventet. Anthropic hevder at godt utformede reguleringer kan muliggjøre fremgang og redusere risikoer samtidig, og advarer mot dårlig konstruerte, reaktive regler som kan stanse innovasjonen. Anthropic foreslår å bruke sin Responsible Scaling Policy (RSP) som et rammeverk for regjeringer for å regulere AI.

Denne rammen legger vekt på proporsjonal risikostyring, og krever gjennomføring av sikkerhetstiltak basert på modellenes evner. Viktige aspekter ved effektiv regulering inkluderer åpenhet, incentiver for sikkerhet, og en enkel tilnærming som unngår unødvendige byrder på AI-selskaper. Selskapet foreslår at reguleringsorganer bør kreve at AI-selskaper publiserer RSP-lignende retningslinjer og risikovurderinger, samtidig som de etablerer metoder for å verifisere samsvar. Videre oppfordrer de regjeringer til å forbli tilpasningsdyktige ved å belønne overlegen sikkerhetspraksis og å strebe etter klarhet i lovgivningen. Anthropic understreket også viktigheten av RSP-er innen AI-selskaper for å adressere risikoer på forhånd, og oppfordrer til en godt strukturert organisatorisk fokus på sikkerhet og trygghet. De kalte for samarbeid mellom beslutningstakere, AI-sektoren, sikkerhetsforkjempere og lovgivere det neste året for å skape et effektivt reguleringsrammeverk, ideelt sett på føderalt nivå, selv om det kan være nødvendig med statlige tiltak på grunn av hastverket.