En 2002, Kevin Kelly du magazine Wired a demandé à Larry Page de Google pourquoi le moteur de recherche était gratuit, comme l'a noté le philosophe Yuval Noah Harari dans son livre 'Nexus - Une brève histoire des réseaux d'information de l'âge de pierre à l'IA' (Random House). « Où cela vous mène-t-il ?» a demandé Kelly. Page a répondu en déclarant que l'objectif de Google n'était pas uniquement la recherche. « Nous développons principalement une IA », a-t-il expliqué. « Disposer d'une grande quantité de données facilite la création d'IA, et l'IA a la capacité de transformer des données substantielles en un pouvoir significatif. » Dans 'Nexus', Harari examine l'évolution des réseaux d'information depuis l'invention du langage jusqu'à l'ère de Google et au-delà, en spéculant sur la trajectoire de cette « révolution de l'information ». Il affirme : « Étant donné que cette révolution de l'information actuelle est plus significative que toutes les précédentes, il est probable qu'elle génère des réalités sans précédent à une échelle extraordinaire. » Ce phénomène n'est pas sans précédent. Harari note : « La propension à créer des phénomènes puissants avec des résultats inattendus remonte à l'avènement de la religion.

Les prophètes ont invoqué des esprits formidables destinés à favoriser l'amour et la joie, mais ils ont parfois entraîné des torrents de sang. » Il met également en garde contre les implications profondes liées aux capacités de l'IA. « Cela ne fait que quatre-vingts ans que les ordinateurs numériques sont apparus, et nous n'avons pas encore pleinement exploité leurs capacités », déclare-t-il. « Ce qui s'est passé au cours des quatre-vingts dernières années pâlit en comparaison de ce qui nous attend. » Alors que les entreprises technologiques maintiennent une connexion directe avec les gouvernements, elles détiennent également ce que Harari décrit comme « une ligne directe vers les systèmes émotionnels des gens », ce qui pose un risque. « Si les géants de la tech répondent aux désirs des électeurs et des consommateurs tout en façonnant simultanément ces désirs, qui contrôle vraiment ?» interroge-t-il. Bien que l'adaptabilité de l'humanité offre une lueur d'espoir, les menaces des entités malveillantes persistent. « La civilisation humaine pourrait également faire face à une destruction par des armes de destruction massive sociale », avertit-il. « Une IA conçue dans un pays pourrait être utilisée pour déclencher un torrent de désinformation, de monnaie contrefaite et de personnes synthétiques, laissant les gens incapables de faire confiance à quoi que ce soit ou à qui que ce soit. « L'IA est une question mondiale. » — Gavin Newsham