OpenAI, et førende kunstig intelligensfirma, stod over for pres for at fremskynde sikkerhedstest af sin nye teknologi, GPT-4 Omni, ifølge anonyme kilder. Testen blev gennemført for at sikre, at AI-systemet ikke ville forårsage skade eller muliggøre ondsindede aktiviteter. Imidlertid følte OpenAI's sikkerhedsteam sig presset for at nå den fastsatte lancering i maj, hvilket potentielt kompromitterede grundigheden af testprocessen. Hændelsen belyser bekymringer om OpenAI's prioritering af kommercielle interesser over offentlig sikkerhed og rejser spørgsmål om regeringens afhængighed af selvregulering af tech-virksomheder. Kritikere hævder, at det er risikabelt at lade virksomheder etablere deres sikkerhedsstandarder, da der ikke er pålidelige forsikringer om, at interne politikker overholdes strengt. Hændelsen påvirkede også virksomhedens kultur, der har ændret sig fra dens oprindelige altruistiske non-profit-rødder.

Det er stadig afgørende for lovgivere at etablere nye love for at beskytte offentligheden mod AI-risici, som præsident Biden har understreget. OpenAI var et af flere virksomheder, der frivilligt forpligtede sig over for Det Hvide Hus for at sikre ansvarlig brug af AI. Hændelsen opstod på trods af OpenAI's beredskabsinitiativ, der sigter mod at vurdere og begrænse katastrofale risici ved avancerede AI-systemer. Lindsey Held, talsperson for OpenAI, præciserede, at virksomheden ikke gik på kompromis med sikkerhedsprotokoller, men erkendte lanceringens stressende karakter. Repræsentanten nævnte, at virksomheden genovervejer sin tilgang og har truffet skridt for at opfylde de sikkerhedsforpligtelser, der er indgået over for Det Hvide Hus.