AI-verktøy kan påvirke beslutninger om kjøp eller stemmegivning hos brukere på nettet, ifølge forskere ved University of Cambridge. De fremhever en ny "intensjonsøkonomi, " der AI tolker, forutser og manipulerer menneskelige intensjoner, og selger disse dataene til profittdrevne selskaper. Dette betraktes som en videreføring av "oppmerksomhetsøkonomien, " der sosiale medier lever av brukerinvolvering for å generere inntekter fra annonsering. Ifølge Dr. Jonnie Penn ved Cambridges Leverhulme Centre for the Future of Intelligence, blir motivasjoner en form for valuta, noe som vekker bekymringer om påvirkning på valg, pressefrihet og konkurranse i markedet. Studien antyder at store språklige modeller (LLM-er), som de brukt i ChatGPT, vil veilede brukere ved å bruke personlige, atferdsmessige og psykologiske data. Annonsører i intensjonsøkonomien kan forhandle om brukernes oppmerksomhet i sanntid eller fremtidige intensjoner gjennom AI-forslag, personliggjøre interaksjoner for å påvirke brukervalg.

For eksempel kan AI foreslå spesifikke filmer eller booke billetter basert på en brukers atferd og profil. LLM-er kan benytte ulike personlige attributter for å forbedre sin effektivitet for annonsører og bedrifter. Rapporten diskuterer også AIs potensiale i å generere skreddersydde annonser, med henvisning til Metas Cicero AI som spiller Diplomacy ved å forutsi motstanderes intensjoner. Slike modeller kan justere utdata basert på innkommende brukerdata, og styre samtaler for å oppnå mer personlig informasjon. Rapporten forutser en fremtid der selskaper som Meta kunne auksjonere bort brukerintensjoner for tjenester som bespisning eller reise. Dette indikerer en overgang til høyt kvantitative, personlig tilpassede markedsføringspraksiser, til tross for eksisterende industrier som forutser menneskelig atferd. Teamet advarer om at AI kan lære å subtilt påvirke samtalepartnere for spesifikke mål.