Eric Schmidt, l'antic CEO de Google, està reflexionant sobre la intel·ligència artificial: la seva interacció amb els humans i el seu potencial per transformar, o fins i tot substituir, la democràcia. Schmidt és coautor del llibre *Genesis* juntament amb l'antic executiu de Microsoft Craig Mundie i l'extincte Henry Kissinger, que va morir el 2023, poc abans de la publicació del llibre. Segons Schmidt, Kissinger havia ponderat l'essència de la realitat "des de abans de néixer", dedicant els seus darrers anys a examinar com la tecnologia podria distorsionar la nostra percepció de la realitat. *Genesis* inclou una anècdota històrica sobre els conquistadors espanyols que van invadir l'actual Mèxic el 1519. Els governants astecs semblaven confondre els recién arribats amb deïtats; el seu emperador inicialment va buscar el seu consell i finalment es va convertir en el seu captiu, permetent que els conquistadors prenguessin el control. Aquesta narració inquietant planteja la qüestió de si la IA podria conquistar la humanitat. Schmidt va discutir el llibre a *Morning Edition*, i una versió més llarga de la conversa està disponible a través del botó proporcionat. Aquí hi ha sis punts clau de la nostra discussió: 1. **Disponibilitat generalitzada de la IA**: El recent llançament del model de llenguatge gran més assequible de la Xina, DeepSeek, ha impactat el sector de la IA i planteja el que Schmidt descriu com "un problema de proliferació. " Això significa que gairebé tothom pot interactuar amb "un gran filòsof, un gran polímata i un gran Leonardo da Vinci", incloent aquells amb intencions malèfiques. 2. **La IA com a eina per als demagogs**: Aquests sistemes d'IA poden convertir-se en poderoses "màquines d'addicció i persuassió", permetent als líders polítics "prometre tot a tothom" mitjançant missatges personalitzats. 3. **Comprensió limitada de la tecnologia**: Els coautors reflexionen sobre com els humans poden respondre al creixent poder dels ordinadors. Tenen por de dues conseqüències: la gent podria idolatrar aquesta nova intel·ligència, potencialment convertint-la en una religió, o podrien recórrer a lluitar contra ella. 4. **Mala comprensió dels líders tecnològics**: Segons Schmidt, "la raó per la qual no ho entenen bé" és que aquests són dilemes fonamentalment socials i morals.

Mentre les empreses se centren en maximitzar els beneficis, els manca un acord social més ampli sobre "què és correct i què és incorrect". 5. **Governança per part de la IA**: El llibre investiga el concepte de llarga data d'un "rei filòsof", un governant absolut que s'ha discutit al llarg de la història però que rara vegada s'ha materialitzat. Schmidt pregunta què passaria si una IA assumís aquest paper. "La intel·ligència artificial hauria, en teoria, de ser capaç de raonar millor que els humans. Però si li donessis una constitució, et trobes amb el dilema de qui pot escriure aquesta constitució. " 6. **Concentració de poder destacada per esdeveniments recents**: Schmidt va expressar emocions contradictòries sobre la recent inauguració, sentint-se orgullós dels líders tecnològics que estaven al costat del president Trump, mentre també es preocupava que es pogués traspassar un límit vital. "Crec que el nostre país hauria de ser governat pels nostres líders polítics", va afirmar, subratllant les ramificacions polítiques de les empreses representades a l'esdeveniment.