Þegar bandarísku forsetakosningarnar nálgast, kallar gervigreindarfyrirtækið Anthropic á frumkvæði um framkvæmd reglugerða á gervigreind til að taka á nýjum áhættum. Á fimmtudaginn gaf fyrirtækið, sem leggur áherslu á öryggi, út leiðbeiningar fyrir stjórnvöld þar sem þau mæla fyrir um „markvissar reglur“ í ljósi ógnvekjandi gagna sem sýna verulegar framfarir í gervigreind, sérstaklega á sviði forritunar og netöryggis. Í bloggfærslu Anthropic var lýst hvernig gervigreindarlíkön hafa bætt verulega forritunargetu sína, þar sem árangur í lausnum hefur aukist úr 1, 96% í 49% á einu ári. Þeir lögðu áherslu á að núverandi módel geta þegar aðstoðað við ýmis netviðskiptabrot og komandi módel búast við að vera enn hæfari. Að auki hafa gervigreindarkerfi nýverið sýnt 18% aukningu í vísindalegri skilningi, með frammistöðustig sem nálgast mannfræði sérfræðinga. Fyrri spár fyrirtækisins um brýnan net- og CBRN (efna-, líffræðileg, geislavirk og kjarnorku) áhættu hafa raungerst hraðar en búist var við. Anthropic heldur því fram að vel hannaðar reglur geti samtímis gert kleift að gera framfarir og draga úr áhættu, róta gegn illa uppbyggðum viðbragðsreglum sem gætu kæft nýjungar. Anthropic leggur til að nota ábyrga stækkunarreglu sína (RSP) sem ramma fyrir stjórnvöld til að setja reglur um gervigreind.

Þessi rammi leggur áherslu á hlutfall áhættustjórnunar og krefst þess að öryggisráðstafanir séu framkvæmdar byggðar á hæfni líkana. Helstu þættir árangursríkra reglna innihalda gagnsæi, hvata fyrir öryggi og einfalda nálgun sem forðast óþarfa byrðar á gervigreindarfyrirtæki. Fyrirtækið leggur til að eftirlitsyfirvöld krefjist þess að gervigreindarfyrirtæki birti stefnur og áhættu mat sem líkjast RSP, á meðan þau setji aðferðir til að sannreyna samræmi. Ennfremur hvetja þau stjórnvöld til að viðhalda aðlögunarhæfni við verðlaun fyrir betri öryggisvenjur og að leggja áherslu á skýrleika í löggjöf. Anthropic lagði einnig áherslu á mikilvægi RSP innan gervigreindarfyrirtækja til að fyrirbyggjandi ráðstafanir á áhættu, mæli með vel uppbyggðri skipulagslegri áherslu á öryggi. Þeir kölluðu eftir samstarfi milli stefnumótenda, gervigreindargeirans, öryggissinna og löggjafanna á næsta ári til að búa til árangursríkan reglugerðarramma, helst á alríkisstigi, þó að aðgerð ríkjanna gæti verið nauðsynleg vegna áríðandi eðlis málsins.