Twee volledig verschillende vormen van personalisatie hebben geleid tot significante resultaten, waarbij de ene plaatsvond in een gecontroleerd AI-gestuurd laboratoriumexperiment en de andere in het domein van de Britse verkiezingspolitiek. Een recente studie uitgevoerd in een laboratoriumomgeving toont de overtuigingskracht van op AI gebaseerde grote taalmodellen (LLMs) aan als het gaat om het personaliseren van argumenten. Salvi, Ribeiro, Gallotti en West (2024) onthullen in een werkdocument dat een gepersonaliseerd LLM individuen aanzienlijk meer kon overtuigen dan mensen in een online omgeving, met een toename van meer dan 80% (p<0, 01). Met andere woorden, wanneer mensen werden geconfronteerd met een LLM dat was uitgerust met demografische gegevens om zijn argumenten te personaliseren, waren ze 81, 7% meer geneigd het eens te zijn in vergelijking met een debat met een andere persoon. De studie verwijst naar eerdere experimenten van het afgelopen jaar die hebben aangetoond dat LLM's even effectief zijn als menselijke deelnemers en zelfs professionele propagandisten als het gaat om het creëren van overtuigende tekst (Bai et al. , 2023; Palmer & Spirling, 2023; Goldstein et al. , 2023; Karinshak et al. , 2023). Hoewel de besproken onderwerpen in de studie bewust gekozen waren om toegankelijk te zijn en deelnemers aan een pro- of tegenconditie waren toegewezen, compromitteert dit de real-world toepasbaarheid van de studie enigszins. Desalniettemin zijn onderwerpen zoals ethiek van dierproeven en ras als factor in universitaire toelatingen ongetwijfeld relevant voor voortdurende debatten. In anonieme debatten hadden zowel mensen als het LLM toegang tot demografische gegevens over de personen waarmee ze in debat gingen. De Kracht van Personalisatie in Verkiezingscampagnes Verhuizend van Zwitserse laboratoria naar de echte wereld, werd de invloed van personalisatie recentelijk aangetoond in Rochdale, Engeland tijdens een tussentijdse verkiezing. Voormalig Labour-parlementslid George Galloway stuurde brieven naar specifieke gebieden van zijn nieuwe kiesdistrict, waarbij hij zich in sommige brieven richtte op bepaalde buitenlandse beleidsstandpunten en in andere op sociale waarden. Dit leidde tot controverse, aangezien sommigen dit als gerichte berichtgeving zagen voor de moslimgemeenschap in de ene set brieven en voor de witte gemeenschap in de andere.

Ondanks de rudimentaire aard van deze "technologie", kwam Galloway als winnaar uit de bus. Hoewel de impact van zijn dubbele communicatiestrategie op zijn overwinning ter discussie staat, is dit geen geïsoleerd voorbeeld van de effectiviteit van op maat gemaakte en gevarieerde berichtgeving. Andere gevallen zijn onder meer de beruchte betrokkenheid van Cambridge Analytica bij de Amerikaanse presidentsverkiezingen van 2016 (hoewel vermeld moet worden dat Barack Obama naar verluidt personalisatie gebruikte in zijn succesvolle herverkiezingscampagne in 2012). Deze gevallen bieden real-world toepassingen die mogelijk verder gaan dan wat alleen in onderzoekspapers wordt weerspiegeld. Onontgonnen Gebieden Salvi, Ribeiro, Gallotti en West (2024) uiten bezorgdheid over het potentieel kwaadaardige gebruik van deze tools. Met steeds geavanceerdere LLM's die toegang hebben tot enorme hoeveelheden persoonlijke gegevens, in combinatie met meer menselijke interacties die online plaatsvinden en een toename van polarisatie over cruciale politieke en maatschappelijke kwesties, is er een storm op komst. Het is waarschijnlijk dat deze ontwikkelingen verschillende aspecten van menselijk gedrag zullen blijven vormgeven, waaronder stemgedrag en consumentenkeuzes. De volledige omvang van hun impact en transformerend potentieel blijft echter onbekend. Sterker nog, het kan moeilijk zijn om te beoordelen naarmate AI-technologie zich ontwikkelt en steeds verder verwijderd raakt van menselijke cognitie in de toekomst.