Google gjorde en tillkännagivelse på tisdagen angående begränsningar som införts för vilka typer av valrelaterade frågor företagets Gemini chatbot kommer att svara på för användare i USA och Indien. Dessa begränsningar är en del av flera åtgärder som företaget vidtar för att skydda sina tjänster från desinformation, särskilt med tanke på att miljontals indiska medborgare snart ska rösta i ett kommande allmänt val. I en bloggpost uttryckte Google att de implementerar dessa begränsningar med stor försiktighet kring ett sådant viktigt ämne. De är engagerade i att tillhandahålla högkvalitativ information och ständigt förbättra sina skydd. Google har ännu inte svarat på begäran om kommentar från Quartz. Enligt CNBC har dessa begränsningar även införts i USA, där väljare för närvarande deltar i primärval för presidentkandidater. En talesperson för Google berättade för CNBC att de redan i december förra året tillkännagivit sin plan att begränsa valrelaterade sökningar för Gemini, med tanke på de många val som äger rum globalt år 2024. Dessa åtgärder genomförs som en säkerhetsåtgärd. Det är värt att nämna att detta inte är första gången begränsningar införs för Gemini.

Nyligen var Google tvungen att tillfälligt stoppa sin AI-modell från att generera bilder av människor på grund av historiska felaktigheter och stötande innehåll som upptäcktes av användare. I en bloggpost från februari erkände Google sitt misstag och uttryckte sin avsikt att betydligt förbättra bildgenereringen innan den återaktiveras. Sergey Brin, medgrundare av Google, erkände också deras feltramp och tillskrev det bristande testning.