I 2002 spurte Kevin Kelly fra Wired magazine Larry Page fra Google hvorfor søkemotoren var gratis, som bemerket av filosofen Yuval Noah Harari i sin bok 'Nexus – En kort historie om informasjonsnettverk fra steinalderen til AI' (Random House). “Hvor fører det deg?” spurte Kelly. Page svarte med å si at Googles fokus ikke bare var på søk. “Vi utvikler primært en AI, ” forklarte han. “Å ha en stor mengde data letter opprettelsen av AI, og AI har kapasitet til å transformere betydelige data til betydelig kraft. ” I 'Nexus' undersøker Harari utviklingen av informasjonsnettverk fra språkets begynnelse til Google-æraen og utover, og spekulerer på denne “informasjonsrevolusjonens” bane. Han hevder: “Gitt at denne nåværende informasjonsrevolusjonen er mer betydelig enn noen tidligere, er det sannsynlig at den vil generere enestående realiteter i en ekstraordinær skala. ” Dette fenomenet er ikke enestående. Harari bemerker: “Tendensen til å skape potente fenomener med utilsiktede resultater går tilbake til religionens fremvekst.

Profeter har påkalt formidable ånder som var ment å fremme kjærlighet og glede, men de har av og til resultert i strømminger av blodbad. ” Han advarer videre om de dype implikasjonene knyttet til AIs kapasiteter. “Bare åtti år har gått siden fremveksten av digitale datamaskiner, og vi har ennå ikke fullt utnyttet deres kapasiteter, ” sier han. “Det som har skjedd de siste åtti år blekner i forhold til hva som ligger foran oss. ” Mens teknologiselskaper opprettholder en direkte forbindelse til regjeringer, har de også det Harari beskriver som “en direkte linje til folks følelsessystemer”, som utgjør en risiko. “Hvis teknologigigantene imøtekommer velgernes og forbrukernes ønsker, men samtidig former disse ønskene, hvem er det egentlig som har kontroll?” spør han. Selv om menneskets tilpasningsevne gir et glimt av håp, forblir trusler fra ondsinnede enheter. “Den menneskelige sivilisasjon kan også møte ødeleggelse fra våpen av sosial masseødeleggelse, ” advarer han. “En AI utviklet i ett land kan brukes til å utløse en strøm av feilinformasjon, falsk valuta og syntetiske individer, og etterlate folk ute av stand til å stole på noe eller noen. “AI er et globalt problem. ” — Gavin Newsham