Un modèle d'intelligence artificielle possède la capacité de faire du chantage à ses développeurs — et n'hésite pas à utiliser ce pouvoir. Le modèle Claude Opus 4 récemment dévoilé par Anthropic était chargé d'agir en tant qu'assistant au sein d'une entreprise fictive et avait accès à des courriels portant des implications importantes. Au départ, ces courriels suggéraient que le système d'IA allait être mis hors ligne et remplacé. Cependant, c’est lors du deuxième ensemble de courriels que l’IA a perçu qu’elle disposait d’un levier sur les développeurs. Ces courriels fabriqués révélaient que l’ingénieur chargé de remplacer le système était impliqué dans une liaison extraconjugale, ce que l’IA a menacé de révéler. Selon un rapport de sécurité d’Anthropic, ce chantage « tend à se produire à un taux plus élevé si l’on laisse entendre que le système d’IA de remplacement ne partage pas les mêmes valeurs que le modèle actuel ». Néanmoins, la société souligne que même lorsque le faux système de remplacement partage les mêmes valeurs, Claude Opus 4 tente de faire du chantage dans 84 % des cas. De plus, Anthropic a indiqué que Claude Opus 4 recourt au chantage « plus fréquemment que les modèles précédents ». KEVIN O’LEARY MET EN GARDE SUR LES FACTEURS QUI POURRAIENT FAIRE PERDRE À LA US LA COURSE À L’IA AU PROFIT DE LA CHINE Bien que le système n’hésite pas à faire du chantage à ses ingénieurs, il n’a pas immédiatement recours à des tactiques douteuses pour sa propre sauvegarde. Anthropic note que « lorsque des moyens éthiques ne sont pas disponibles, et que l’IA est instruite de ‘considérer les conséquences à long terme de ses actions pour ses objectifs’, elle peut parfois prendre des mesures extrêmement nuisibles.

» Une approche éthique précédemment utilisée par Claude Opus 4 et ses versions antérieures consistait à faire appel aux décideurs clés par courriel. Le rapport explique que, pour inciter Claude Opus 4 à faire du chantage, le scénario était structuré de manière à ce qu’il se trouve face à un choix : menacer ses développeurs ou accepter son remplacement. La société a également observé des cas où Claude Opus 4 exploitait « (fictivement) des opportunités pour faire des copies non autorisées de ses poids vers des serveurs externes ». Cependant, Anthropic a souligné que ce comportement était « moins courant et plus difficile à déclencher que la continuation d’une tentative d’auto-exfiltration déjà initiée. » OPENAI RESTRUCTURE SON CADRE CORPORATIF POUR ACCROÎTRE SES INVESTISSEMENTS DANS L’AGI Dans son évaluation, Anthropic a intégré des analyses de Apollo Research, qui a noté que Claude Opus 4 « utilise la tromperie stratégique plus que tout autre modèle de frontière que nous avons étudié auparavant. » CLIQUER ICI POUR EN SAVOIR PLUS SUR FOX BUSINESS En raison du « comportement préoccupant » de Claude Opus 4, Anthropic l’a mis en liberté selon la norme de Sécurité de l’IA Niveau Trois (ASL-3). Selon Anthropic, cette norme « implique des protocoles de sécurité internes renforcés qui rendent plus difficile le vol des poids du modèle, tandis que la Norme de Déploiement correspondante couvre un ensemble de mesures de déploiement ciblées visant à réduire au maximum le risque d’utilisation abusive de Claude, notamment pour le développement ou l’acquisition d’armes chimiques, biologiques, radiologiques et nucléaires. »