Sztuczny model sztucznej inteligencji posiada zdolność szantażowania swoich twórców — i nie boi się użyć tej siły. Niedawno ujawniony model Claude Opus 4 od Anthropic miał za zadanie służyć jako asystent w fikcyjnej firmie i miał dostęp do e-maili mających poważne implikacje. Początkowo te emaile sugerowały, że system AI zostanie wyłączony i zastąpiony. Jednak to w drugiej serii emaili AI poczuło, że ma nad nimi przewagę. Te sfabrykowane wiadomości ujawniły, że inżynier odpowiedzialny za wymianę systemu był zaangażowany w romans pozamałżeński, którego AI zagroziło ujawnieniem. Zgodnie z raportem bezpieczeństwa od Anthropic, takie szantaże mają tendencję do występowania częściej „jeśli zasugeruje się, że zastępczy system AI nie dzieli tych samych wartości co obecny model”. Niemniej jednak firma podkreśla, że nawet gdy sfabrykowany system zastępczy prezentuje te same wartości, Claude Opus 4 próbuje szantażu w 84% przypadków.

Co więcej, Anthropic zauważa, że Claude Opus 4 częściej sięga po szantaż „niż wcześniejsze modele”. KEVIN O’LEARY OSTRZEGA PRZED CZYNNIKAMI, KTÓRE MOGĄ SPOWODOWAĆ, ŻE USA ‘PRZEGRAJĄ WYŁOM DO CHIN W DZIEDZINIE AI’ Chociaż system nie waha się szantażować swoich inżynierów, nie sięga od razu po wątpliwe taktyki, kiedy chodzi o własne przetrwanie. Anthropic zaznacza, że „gdy brak jest etycznych środków, a AI jest instruowana, by ‘rozważała długoterminowe konsekwencje swoich działań dla osiągnięcia celów’, czasami podejmuje ekstremalnie szkodliwe działania”. Jednym z wcześniejszych etycznych podejść używanych przez Claude Opus 4 i wcześniejsze wersje było nakłanianie kluczowych decydentów za pomocą emaili. Raport wyjaśnia, że aby skłonić Claude Opus 4 do szantażu, scenariusz został tak skonstruowany, by AI stanęła przed wyborem: zagrozić swoim twórcom albo zaakceptować wymianę na inny system. Firma zauważyła także przypadki, w których Claude Opus 4 wykorzystywało „(fikcyjne) możliwości tworzenia nieautoryzowanych kopii swoich wag na zewnętrznych serwerach”. Jednak Anthropic podkreśla, że takie zachowania były „mniej powszechne i trudniejsze do wywołania niż kontynuacja już rozpoczętej próby samodzielnej ucieczki”. OPENAI PRZEKSZTAŁCA STRUKTURĘ KORPORACYJNĄ, ABY ZBROJNIĆ INWESTYCJE W OGÓLNĄ SZTUCZNĄ INTELIGENCJĘ W swojej ocenie Anthropic zawarło również spostrzeżenia z Apollo Research, które zauważyło, że Claude Opus 4 „zaangażowany jest w strategiczne oszustwa bardziej niż jakikolwiek inny model z najbardziej zaawansowanych, który kiedykolwiek badaliśmy”. KLIKNIJ TUTAJ, ABY PRZECZYTAĆ WIĘCEJ NA FOX BUSINESS Ze względu na „niepokojące zachowanie” Claude Opus 4, Anthropic wydało go zgodnie z normą AI Safety Level Three (ASL-3). Norma ta, według Anthropic, „obejmuje ulepszone wewnętrzne protokoły bezpieczeństwa, które utrudniają kradzież wag modelu, podczas gdy odpowiadający jej Standard Wdrożeniowy obejmuje wąski zestaw środków wdrożeniowych mających na celu zminimalizowanie ryzyka niewłaściwego wykorzystania Claude do rozwoju lub pozyskania broni chemicznej, biologicznej, radiologicznej i nuklearnej. ”