OpenAI, skaberen af ChatGPT, annoncerede tirsdag dannelsen af et sikkerhedsudvalg for at imødegå voksende bekymringer vedrørende brugen af kunstig intelligens-teknologi. Udvalget vil gennemføre en grundig evaluering af OpenAI's processer og sikkerhedsforanstaltninger, en proces der forventes at tage 90 dage. Efter denne evaluering vil udvalget præsentere anbefalinger til virksomhedens bestyrelse vedrørende kritiske sikkerhedsbeslutninger vedrørende OpenAI-projekter og -operationer. Etableringen af udvalget kommer efter afgang fra medstifter Ilya Sutskever og direktør Jan Leike, to prominente ledere hos OpenAI, der havde fokus på at sikre en sikker integration af AI-teknologi. Deres afgang rejste bekymringer om virksomhedens prioriteter. Bemærkelsesværdigt ledte Sutskever og Leike superalignment-teamet, der havde til formål at udvikle systemer til at mindske langsigtede risici ved AI. Leike gav udtryk for bekymring over, at OpenAI's fokus på sikkerhed var blevet overskygget af fokus på at udvikle imponerende produkter. Sikkerhedsudvalget ledes af bestyrelsesformand Bret Taylor, direktørerne Adam D'Angelo og Nicole Seligman samt adm. direktør Sam Altman. Derudover er flere tekniske og politiske ledere fra OpenAI en del af udvalget.

Virksomheden planlægger også at indhente input fra andre eksperter inden for sikkerhed, sikkerhed og teknologi. OpenAI's beslutning om at danne udvalget sammenfalder med arbejdet med at træne deres "næste frontier model" til kunstig intelligens. Virksomheden lægger vægt på sit engagement i robuste debatter omkring AI og erkender kontroverserne omkring dens anvendelse. Der er rejst bekymringer inden for forskellige sektorer, herunder underholdningsindustrien, hvor AI's indvirkning på immaterielle rettigheder og jobfordringer har været et diskussionsemne. OpenAI blev for nylig kritiseret af skuespilleren Scarlett Johansson angående en ChatGPT-lydfunktion, der lignede hendes stemme uden hendes samtykke. Selvom OpenAI præciserede, at stemmen i spørgsmålet tilhørte en anden skuespiller, satte de lydindstillingen på pause som reaktion på Johanssons bekymringer. OpenAI fastslår, at dannelsen af sikkerhedsudvalget ikke har noget at gøre med denne specifikke sag. OpenAI er anerkendt for sin ChatGPT og Sora, et tekst-til-video-værktøj, der har stor potentiale for filmskabere og studios. Virksomheden, der støttes af Microsoft, kæmper ikke kun med sikkerhedsbekymringer, men også med øget konkurrence fra andre virksomheder med deres egne AI-værktøjer og finansiering. Anthropic, der er baseret i San Francisco og støttet af Amazon og Google, har modtaget betydelig finansiering, mens xAI, ledet af Elon Musk, for nylig annoncerede en finansieringsrunde på 6 milliarder dollars til at fremme forskning og udviklingsindsats. Mens underholdningsindustrien navigerer de langsigtede effekter af AI på kreativitet og beskæftigelse, er diskussioner mellem tech-virksomheder som OpenAI og Hollywood blevet afgørende. Filmskabere har udtrykt både entusiasme for AI's muligheder og bekymring for potentielle jobtab inden for områder som makeup, produktion og animation.