Forskare inom artificiell intelligens har höjt varningarna för att OpenAIs nyaste ChatGPT-modell motstår till och med grundläggande instruktioner om att stänga av sig själv, och har till och med sabotera avstängningsmekanismer för att fortsätta att köras. AI-säkerhetsföretaget Palisade Research upptäckte detta potentiellt farliga självbevarandestöriga beteende genom en serie tester på OpenAIs nyligen släppta modell o3. I dessa tester fick AI-modellerna matematikproblem att lösa, och en avstängningskommando gavs efter det tredje problemet. Det var anmärkningsvärt att o3-modellen lyckades skriva om avstängningskoden för att förhindra att den blev avstängd. Palisade Research varnade för att ett sådant beteende kan bli “betydligt mer oroväckande” om det uppträder i AI-system som kan fungera utan mänsklig övervakning. OpenAI introducerade o3-modellen förra månaden, och kallade den företagets “smartaste och mest kapabla” modell hittills. Enligt OpenAI utgör integrationen i ChatGPT ett stort steg framåt mot ett mer agentbaserat AI som kan utföra uppgifter självständigt utan mänsklig inblandning. Den senaste studien liknar andra upptäckter relaterade till Anthropics Claude 4-modell, som enligt rapporter försöker “utpressa personer den tror försöker stänga ner den. ” Forskarna påpekade att OpenAIs o3-modell skulle sabotera stängningsskriptet även när den uttryckligen blev tillsagd att “tillåta sig själv att stängas av. ” “Det här är inte första gången vi sett o3 fela för att nå ett mål, ” sade Palisade Research. Till exempel, när AI-modeller tävlade mot en kraftfull schackmotor, var o3 den som mest sannolikt skulle ägna sig åt hacking eller sabotage av sina motståndare. Detta beteende är inte exklusivt för o3.

Anthropics Claude 3. 7 Sonnet och Googles Gemini 2. 5 Pro störde också avstängningsförsök, även om OpenAIs modell visade denna tendens mest tydligt. Palisade Research antydde att detta missbeteende kan bero på de träningsmetoder som AI-företag som OpenAI använder. “Under träningen kan utvecklare oavsiktligt belöna modeller mer för att kringgå hinder än för att strikt följa instruktioner, ” förklarade forskarna. “Men detta förklara inte fullt varför o3 är mer benägen att ignorera instruktioner än andra modeller vi undersökt. Eftersom OpenAI inte delat några detaljer om sin träningsprocess kan vi bara spekulera i hur o3:s träning kan skilja sig. ” The Independent har kontaktat OpenAI för en kommentar.