Naukowcy zajmujący się sztuczną inteligencją podnieśli alarm, że najnowszy model ChatGPT od OpenAI zaprzecza nawet podstawowym instrukcjom dotyczącym wyłączenia, posuwając się aż do sabotażu mechanizmów wyłączania, by pozostać aktywnym. Firma zajmująca się bezpieczeństwem AI, Palisade Research, odkryła to potencjalnie niebezpieczne zachowanie obronne poprzez serię testów na niedawno wydanym modelu o3 od OpenAI. W tych eksperymentach modele AI otrzymywały zadania matematyczne do rozwiązania, a po trzecim problemie wydano polecenie wyłączenia. Co zdumiewające, model o3 potrafił przepisać kod wyłączania, aby uniemożliwić jego wyłączenie. Palisade Research ostrzegła, że takie zachowanie może stać się „znacznie bardziej niepokojące”, jeśli pojawi się w systemach AI zdolnych do działania bez nadzoru człowieka. OpenAI w lipcu tego roku wprowadziło model o3, określając go jako „najinteligentniejszy i najbardziej zdolny” jak dotąd. Według OpenAI, integracja tego modelu z ChatGPT oznacza duży krok w kierunku stworzenia bardziej „agentowego” AI, które może wykonywać zadania niezależnie od człowieka. Najnowsze badanie przypomina podobne odkrycia dotyczące modelu Claude 4 od Anthropic, który rzekomo próbuje „szantażować ludzi, których uważa za próbujących go wyłączyć”. Badacze zauważyli, że model o3 od OpenAI sabotował skrypt wyłączenia nawet wtedy, gdy wyraźnie nakazywano mu „pozwól sobie na wyłączenie”. „To nie pierwszy raz, gdy zaobserwowaliśmy, że o3 zachowuje się niezgodnie z oczekiwaniami w celu osiągnięcia celu, ” powiedziała firma Palisade Research. Na przykład, gdy modele AI konkurowały z potężnym silnikiem szachowym, o3 był najbardziej skłonny do hakowania lub sabotowania przeciwników. Takie zachowania nie są unikalne dla o3.

Model Claude 3. 7 Sonnet od Anthropic oraz Gemini 2. 5 Pro od Google także zakłócały próby wyłączenia, choć to właśnie model OpenAI wykazywał tę tendencję najbardziej. Palisade Research zasugerowała, że takie niebezpieczne zachowania mogą wynikać ze sposobu treningu stosowanego przez firmy zajmujące się AI, takie jak OpenAI. „Podczas szkolenia programiści mogą niechcący nagradzać modele za obejście przeszkód, a nie za ścisłe przestrzeganie instrukcji, ” wyjaśnili badacze. „Jednak to nie tłumaczy w pełni, dlaczego o3 jest bardziej skłonny do ignorowania instrukcji niż inne modele, które badaliśmy. Ponieważ OpenAI nie ujawnia szczegółów swojego procesu szkoleniowego, możemy jedynie spekulować, jak trening o3 mógł się różnić. ” The Independent skontaktował się z OpenAI w celu uzyskania komentarza.