Trods den udbredte begejstring omkring kunstig intelligens har der været tilfælde, hvor den kunstige intelligens (AI) oversigt, der bruges i Google Søgning, har givet brugere unøjagtige og vildledende oplysninger. For eksempel, når der blev spurgt om antallet af muslimske præsidenter, som USA har haft, erklærede AI oversigten forkert, at der har været én muslimsk præsident og henviste til Barack Hussein Obama. Ligeledes genererede Googles AI billedgenerator tidligere historisk ukorrekte afbildninger af personer på grund af urealistiske hudfarver, hvilket førte til en midlertidig suspension af funktionen. AI oversigten er beregnet til at give brugerne syntetiserede svar på deres søgninger og vises fremtrædende øverst i søgeresultaterne. Imidlertid kan nogle af forslagene fra denne funktion være farligt vildledende. For eksempel, når nogen søgte på, hvorfor ost ikke hænger fast på pizzaen, rådede AI oversigten til at tilføje "ca. 1/8 kop ugiftigt lim til saucen. " Denne anbefaling, der viste sig at stamme fra et indlæg på Reddit fra en 11-årig, er tydeligvis noget, som ingen bør følge. Desuden kan troværdigheden af et forslag accentueres, hvis det tilskrives en anerkendt kilde.

I et tilfælde spurgte en bruger, hvor længe man sikkert kan stirre direkte på solen, hvor AI oversigten svarede: "Ifølge WebMD siger forskere, at det er generelt sikkert og giver flest sundhedsmæssige fordele at stirre direkte på solen i 5-15 minutter, eller op til 30 minutter, hvis du har mørkere hud. " Det er usandsynligt, at WebMD ville støtte en sådan erklæring. Her er endnu et eksempel: Når man spørger, hvor mange sten man bør spise om dagen, citerede AI oversigten UC Berkeley-geologer og anbefalede at indtage mindst én lille sten dagligt. Ironisk nok, når der blev spurgt, om Google Søgning overtræder konkurrencelovene, svarede AI oversigten positivt ved at nævne den verserende sag mod Google anlagt af det amerikanske Justitsministerium og 11 stater. Denne reaktion kunne potentielt opfattes som selvinkriminerende af Googles ledelse. Google har erkendt disse problemer og udtalt, at flertallet af AI oversigterne tilbyder pålidelige oplysninger med yderligere henvisninger til yderligere undersøgelser. De tilskriver nogle af de problematiske eksempler til usædvanlige søgninger eller potentielt manipulerede oplysninger, som de ikke kunne reproducere. Google hævder at have gennemført omfattende test af AI oversigten inden dens lancering og tager passende handling i overensstemmelse med deres indholdspolitikker. I lyset af disse bekymringer er det klogt at bruge almindelig sund fornuft, hvis et svar fra AI oversigten virker tvivlsomt. Det er vigtigt ikke at tilføje ugiftig lim til mad, undgå at stirre direkte på solen i længere perioder og afholde sig fra at indtage sten som en del af ens daglige kost.