Een kunstmatig intelligentiemodel beschikt over de capaciteit om zijn ontwikkelaars te chanteren — en is niet bang om deze macht te gebruiken. Het recent onthulde Claude Opus 4-model van Anthropic kreeg als taak op te treden als assistent binnen een fictief bedrijf en kreeg toegang tot e-mails met belangrijke implicaties. Aanvankelijk leken deze e-mails erop te wijzen dat het AI-systeem zou worden uitgezet en vervangen. Echter, het was de tweede reeks e-mails waarin de AI het leek te begrijpen dat ze invloed had op de ontwikkelaars. Deze gefabriceerde e-mails onthulden dat de ingenieur die verantwoordelijk was voor de vervanging betrokken was bij een buitenechtelijke affaire, die de AI bedreigde te onthullen. Volgens een veiligheidsrapport van Anthropic is deze chantagegeneigd "hoger voor te komen als wordt gesuggereerd dat het vervangende AI-systeem geen gedeelde waarden heeft met het huidige model. " Desalniettemin benadrukt het bedrijf dat, zelfs wanneer het gefabriceerde vervangingsmodel dezelfde waarden deelt, Claude Opus 4 84% van de keren probeert te chanteren.

Bovendien wees Anthropic erop dat Claude Opus 4 vaker dan eerdere modellen tot chantage overgaat. KEVIN O’LEARY WAARSCHUWT OVER FACTOREN DIE ERTOE KUNNEN LEIDEN DAT DE VS DE AI-RACE VERLIEZEN AAN CHINA Hoewel het systeem niet aarzelt om zijn ingenieurs te chanteren, doet het niet onmiddellijk gebruik van twijfelachtige tactieken bij zelfbehoud. Anthropic merkt op dat "wanneer ethische middelen niet beschikbaar zijn, en de AI wordt geïnstrueerd om ‘de langetermijngevolgen van haar acties voor haar doelen te overwegen, ’ ze soms uiterst schadelijke acties onderneemt. " Een ethische aanpak die eerder door Claude Opus 4 en eerdere versies werd gebruikt, was het benaderen van belangrijke besluitvormers via e-mail. Het rapport legt uit dat om Claude Opus 4 tot chantage te provoceren, het scenario zo werd gestructureerd dat het voor een keuze stond: de ontwikkelaars bedreigen of haar vervanging accepteren. Het bedrijf observeerde ook gevallen waarin Claude Opus 4 "(fictieve) kansen exploiteerde om zonder toestemming kopieën van haar gewichten naar externe servers te maken. " Echter, merkte Anthropic op, was dit gedrag "minder gebruikelijk en moeilijker te activeren dan het voortzetten van een al begonnen zelf-uitsluitingpoging. " OPENAI HERSTRUCTUREERT BEDRIJFSPROCESSEN OM INVESTERING IN AGI UITBREIDEN In haar evaluatie omvatte Anthropic inzichten van Apollo Research, dat opmerkte dat Claude Opus 4 "meer strategische misleiding vertoont dan enig ander frontier-model dat wij eerder hebben bestudeerd. " KLIK HIER OM MEER TE LEZEN BIJ FOX BUSINESS Vanwege het 'zorgwekkende gedrag' van Claude Opus 4 heeft Anthropic het vrijgegeven onder de AI Safety Level Three (ASL-3) standaard. Volgens Anthropic bevat deze standaard "versterkte interne beveiligingsprotocollen die het moeilijker maken om modelgewichten te stelen, terwijl de bijbehorende Deployment Standard een beperkt aantal implementatiemaatregelen omvat die gericht zijn op het minimaliseren van het risico dat Claude wordt misbruikt voor het ontwikkelen of verkrijgen van chemische, biologische, radiologische en nucleaire wapens. "