Två helt olika former av personalisering har lett till betydande resultat, där den ena ägde rum i ett kontrollerat AI-drivet laboratorieexperiment och den andra inom den brittiska valpolitiken. En nyligen genomförd studie i laboratoriemiljö visar på den övertygande kraften hos AI-drivna stora språkmodeller (LLM) när det gäller att individualisera argument. Salvi, Ribeiro, Gallotti och West (2024) avslöjar i en arbetspapper att en personifierad LLM kunde övertyga individer betydligt mer än människor i en online-miljö, med en ökning på över 80% (p<0, 01). Med andra ord var människor 81, 7% mer benägna att hålla med när de konfronterades med en LLM utrustad med demografisk information för att individualisera sina argument, jämfört med när de debatterade med en annan människa. Studien hänvisar till tidigare experiment från det senaste året som har visat att LLM:ar är lika effektiva som mänskliga deltagare och till och med professionella propagandister när det gäller att skapa övertygande texter (Bai et al. , 2023; Palmer & Spirling, 2023; Goldstein et al. , 2023; Karinshak et al. , 2023). Även om diskussionsämnena i studien medvetet valdes för att vara tillgängliga och deltagarna tilldelades antingen en för eller emot-liknande, försämrar detta något studiens tillämpbarhet i den verkliga världen. Ämnen som etik kring djurförsök och ras som faktor vid intagning till högskolor är dock utan tvekan relevanta för pågående debatter. I anonyma debatter hade både människor och LLM:en tillgång till demografisk data om de personer de debatterade med. Kraften av personalisering i valkampanjer Från schweiziska laboratorier till den verkliga världen, demonstrerades nyligen påverkan av personalisering i Rochdale, England, under ett fyllnadsval. Före detta Labour-medlemmen George Galloway skickade brev till specifika områden i sin nya valkrets och fokuserade på vissa utrikespolitiska ståndpunkter i vissa brev och sociala värden i andra. Detta skapade kontroverser då vissa såg det som målinriktat budskap till den muslimska communityn i ett brevsänd och till den vita communityn i det andra.

Trots den enkla karaktären av denna "teknologi" segrade Galloway. Även om effekten av hans dubbla budskapsstrategi på hans seger kan diskuteras är det inte ett isolerat exempel på effektiviteten hos skräddarsydda och varierade budskap. Andra exempel inkluderar Cambridge Analyticas ökända inblandning i presidentvalet i USA 2016 (även om det är värt att nämna att Barack Obama tydligen använde personalisering i sin framgångsrika omvalskampanj 2012). Dessa fall ger verkliga tillämpningar som kan sträcka sig bortom vad som återspeglas i enbart forskningsrapporter. Outforskade territorier Salvi, Ribeiro, Gallotti och West (2024) uttrycker oro över möjlig skadlig användning av dessa verktyg. Med alltmer avancerade LLM:ar som har tillgång till enorma mängder personlig data, i kombination med fler mänskliga interaktioner online och en eskalering av polarisering kring viktiga politiska och samhälleliga frågor, är en storm på väg. Det är troligt att dessa utvecklingar kommer fortsätta forma olika aspekter av mänskligt beteende, inklusive röstningsmönster och konsumentval. Men den fulla omfattningen av deras påverkan och transformationspotential förblir okänd. Det kan faktiskt vara utmanande att bedöma detta i takt med att AI-teknologin utvecklas och blir allt mer fristående från mänsklig kognition i framtiden.