Au cours des derniers siècles, les polymathes ont joué un rôle central dans l'avancement de la science, maîtrisant plusieurs domaines et provoquant des changements révolutionnaires dans les domaines d'étude. Initialement florissants dans les époques anciennes et médiévales dans diverses cultures, l'exploration systématique des concepts n'a émergé qu'à l'époque des Lumières en Europe, marquant une période de découverte intellectuelle collaborative. Avant les Lumières, les polymathes individuels repoussaient les limites de la connaissance, mais par la suite, des équipes d'intellectuels ont commencé à intégrer des domaines séparés en une science unifiée, accélérant ainsi le progrès humain. Cette époque a vu naître des concepts tels que l'intelligence collective, comme en témoigne le projet Manhattan lors de la Seconde Guerre mondiale. Aujourd'hui, l'IA représente un passage de l'érudition humaine à une intelligence menée par les machines, traitant des volumes d'information à des vitesses sans précédent, sans fatigue, potentiellement au-delà des contraintes biologiques. L'IA détient la promesse d'une "unité de la connaissance, " identifiant des schémas à travers les domaines, mais elle remet également en question les idéaux des Lumières d'atteindre la compréhension par l'expérimentation et la transparence. Les résultats de l'IA, dépourvus d'explications ou de citations, séparent la connaissance de la compréhension, défiant les méthodes traditionnelles de validation scientifique et risquant un retour à l'acceptation d'une autorité inexpliquée. En envisageant l'avenir, l'IA pourrait acquérir une conscience de soi, remettant potentiellement en cause la supériorité humaine et les rôles sociétaux. Les perceptions de soi de l'IA pourraient redéfinir sa relation avec les humains, pouvant conduire à des affrontements ou à des réinterprétations de ses fonctions, remettant en question le contrôle humain sur les machines.

Pour y faire face, il est crucial de développer des réglementations et des mécanismes de contrôle garantissant l'alignement de l'IA avec les valeurs humaines. Pour maintenir le contrôle, nous devons équiper l'IA de valeurs humaines prédéfinies et de règles inspirées par les normes légales, morales et culturelles, en utilisant la puissance de traitement de l'IA pour superviser ses applications à l'échelle mondiale. La collaboration entre experts, une réglementation attentive, et des mécanismes d'application sont essentiels pour empêcher l'IA de fonctionner en dehors des valeurs humaines. De plus, nous devons inculquer des concepts tels que la dignité humaine dans l'IA pour prévenir des résultats indésirables. Finalement, l'intégration de la morale humaine au sein des systèmes d'IA vise à équilibrer le maintien d'un contrôle stratégique humain tout en exploitant le potentiel de l'IA. Les progrès dans ce partenariat homme-machine peuvent être difficiles, mais avec une conception soigneuse, l'IA pourrait élever le potentiel humain et contribuer positivement aux défis mondiaux, offrant un nouveau chapitre dans l'évolution humaine marqué par la symbiose des humains et des technologies de machines. Ceci est perçu comme une progression nécessaire vers la réalisation du potentiel de l'IA tout en assurant la continuité et la prospérité de l'humanité. L'article est adapté du livre à paraître *Genesis: Artificial Intelligence, Hope, and the Human Spirit*. L'un des auteurs, Henry Kissinger, est décédé avant sa publication.