Deux formes totalement différentes de personnalisation ont conduit à des résultats significatifs, l'une se déroulant dans le cadre d'une expérience de laboratoire contrôlée par l'IA et l'autre dans le domaine de la politique électorale britannique. Une récente étude menée en laboratoire démontre le pouvoir persuasif des grands modèles de langage alimentés par l'IA (LLM) en ce qui concerne la personnalisation des arguments. Salvi, Ribeiro, Gallotti et West (2024) révèlent dans un document de travail qu'un LLM personnalisé a réussi à persuader les individus de manière significativement supérieure aux humains dans un environnement en ligne, avec une augmentation de plus de 80% (p <0. 01). En d'autres termes, lorsque confrontés à un LLM équipé d'informations démographiques pour personnaliser ses arguments, les humains étaient 81, 7% plus susceptibles d'être d'accord par rapport à un débat avec un autre être humain. L'étude fait référence à des expériences précédentes de l'année dernière qui ont montré que les LLM sont aussi efficaces que les participants humains et même les propagandistes professionnels lorsqu'il s'agit de concevoir des textes persuasifs (Bai et al. , 2023; Palmer & Spirling, 2023; Goldstein et al. , 2023; Karinshak et al. , 2023). Bien que les sujets de discussion dans l'étude aient été délibérément choisis pour être accessibles et que les participants aient été assignés à une condition favorable ou défavorable, cela compromet légèrement l'applicabilité réelle de l'étude. Cependant, des sujets tels que l'éthique de la recherche animale et la race en tant que facteur dans les admissions universitaires sont indéniablement pertinents pour les débats en cours. Dans des débats anonymes, les humains et le LLM avaient tous deux accès aux données démographiques des personnes avec lesquelles ils débattaient. Le pouvoir de la personnalisation dans les campagnes électorales Passant des laboratoires suisses au monde réel, l'influence de la personnalisation a récemment été démontrée à Rochdale, en Angleterre, lors d'une élection partielle. L'ancien député travailliste George Galloway a envoyé des lettres à des zones spécifiques de sa nouvelle circonscription, en mettant l'accent sur certaines positions en matière de politique étrangère dans certaines lettres et sur les valeurs sociales dans d'autres. Cela a suscité la controverse car certains l'ont considéré comme un message ciblé pour la communauté musulmane dans un ensemble de lettres et pour la communauté blanche dans l'autre.

Malgré la nature rudimentaire de cette "technologie", Galloway est sorti victorieux. Bien que l'impact de sa stratégie de double message sur sa victoire fasse débat, il ne s'agit pas d'un exemple isolé de l'efficacité de la personnalisation adaptée et variée. D'autres exemples incluent la participation notoire de Cambridge Analytica à l'élection présidentielle américaine de 2016 (bien qu'il convienne de mentionner que Barack Obama aurait apparemment utilisé la personnalisation dans sa campagne de réélection réussie en 2012). Ces cas fournissent des applications réelles qui peuvent dépasser ce qui est reflété uniquement dans les travaux de recherche. Territoires inexplorés Salvi, Ribeiro, Gallotti et West (2024) expriment des préoccupations concernant l'utilisation malveillante potentielle de ces outils. Avec des LLM de plus en plus avancés ayant accès à d'énormes quantités de données personnelles, couplés à de plus en plus d'interactions humaines en ligne et à une escalade de la polarisation sur des questions politiques et sociétales cruciales, une tempête se prépare. Il est probable que ces développements continueront à façonner différents aspects du comportement humain, y compris les habitudes de vote et les choix des consommateurs. Cependant, l'ampleur réelle de leur impact et leur potentiel transformateur restent inconnus. En fait, il peut être difficile à évaluer à mesure que la technologie de l'IA progresse et devient de plus en plus détachée de la cognition humaine à l'avenir.