Whistleblowers har fremsat anklager mod OpenAI og hævder, at virksomheden forhindrer medarbejdere i at underrette myndighederne om potentielle risici forbundet med kunstig intelligens (AI). Ifølge Washington Post søndag den 14. juli hævder whistleblowerne, at OpenAI har håndhævet alt for restriktive ansættelses-, fortroligheds- og fratrædelsesaftaler ifølge et brev sendt til Securities and Exchange Commission (SEC). Brevet, som Posten har fået fat i, påpeger, at disse aftaler kunne have resulteret i straf for de medarbejdere, der rejste bekymringer om OpenAI til føderale myndigheder. Desuden krævede aftalerne, at medarbejderne afkaldte deres rettigheder til føderal erstatning af whistleblowere, hvilket er i strid med føderal lov. Ifølge en af whistleblowerne sendte "disse kontrakter en besked om, at 'vi ønsker ikke. . . at medarbejdere taler med føderale myndigheder. ' Jeg tror ikke, at AI-virksomheder kan bygge teknologi, der er sikker og i offentlighedens interesse, hvis de skjuler sig for undersøgelser og uenighed. " PYMNTS har henvendt sig til OpenAI for en kommentar, men har endnu ikke modtaget svar. En talsperson fra OpenAI har givet følgende udtalelse til Posten: "Vores whistleblower-politik beskytter medarbejdernes ret til beskyttede videregivelser.

Derudover mener vi, at en grundig debat om denne teknologi er afgørende, og vi har allerede foretaget vigtige ændringer i vores fratrædelsesproces for at fjerne bestemmelser om ikke-diskrimination. " OpenAIs tilgang til sikkerhed har været genstand for debat i år, hvor bemærkelsesværdige medarbejdere som AI-forsker Jan Leike og politikforsker Gretchen Krueger har meddelt deres opsigelser og hævder, at virksomheden prioriterer produktudvikling over sikkerhedsovervejelser. En anden tidligere chef, Ilya Sutskever, medstifter og tidligere chefvidenskabsmand hos OpenAI, har startet et nyt AI-selskab ved navn Safe Superintelligence, som sigter mod at udvikle et sikkert og kraftfuldt AI-system uden kommercielle interesser. Dette har udløst diskussioner om gennemførligheden af at opnå et sådant mål. Nogle kritikere hævder, at de nuværende begrænsninger af AI-systemer, på trods af deres imponerende evner, begrænser deres evne til at udføre opgaver, der kræver sund fornuft og kontekstforståelse. De hævder, at opnåelse af en generel intelligens, der overstiger menneskelige evner på tværs af alle områder, ikke blot handler om øget computekraft eller data. Selv dem, der tror på potentialet for AI-superintelligens, er bekymrede for at sikre dens sikkerhed. Udviklingen af en superintelligent AI ville kræve avancerede tekniske evner og en omfattende forståelse af etik, værdier og de potentielle konsekvenser af dens handlinger.