Eric Schmidt, mantan CEO Google, sedang memikirkan kecerdasan buatan—interaksinya dengan manusia dan potensinya untuk mengubah, atau bahkan menggantikan, demokrasi. Schmidt menulis bersama buku *Genesis* bersama mantan eksekutif Microsoft, Craig Mundie, dan mendiang Henry Kissinger, yang meninggal dunia pada 2023, tak lama sebelum perilisan buku tersebut. Menurut Schmidt, Kissinger telah merenungkan esensi realitas "sejak sebelum kita lahir, " mendedikasikan tahun-tahun terakhirnya untuk memeriksa bagaimana teknologi dapat mendistorsi persepsi kita terhadap realitas. *Genesis* mencakup anekdot sejarah tentang para penakluk Spanyol yang menyerang Meksiko modern pada tahun 1519. Para penguasa Aztec tampaknya salah mengira pendatang baru sebagai dewa; kaisar mereka awalnya meminta nasihat mereka dan akhirnya menjadi tawanan, memungkinkan para penakluk untuk menguasai. Narasi yang mengganggu ini mengangkat pertanyaan apakah AI dapat menaklukkan kemanusiaan. Schmidt membahas buku tersebut di *Morning Edition*, dan versi yang lebih panjang dari percakapan tersebut dapat diakses melalui tombol yang disediakan. Berikut adalah enam poin kunci dari diskusi kami: 1. **Ketersediaan AI yang Meluas**: Peluncuran model bahasa besar yang lebih terjangkau dari China, DeepSeek, baru-baru ini mengejutkan sektor AI dan menimbulkan apa yang disebut Schmidt sebagai "masalah proliferasi. " Ini berarti hampir semua orang bisa berinteraksi dengan "seorang filsuf besar, seorang polymath besar, dan seorang Leonardo da Vinci yang hebat, " termasuk mereka yang berniat jahat. 2. **AI Sebagai Alat untuk Demagog**: Sistem AI ini dapat berubah menjadi "mesin kecanduan dan persuader" yang kuat, memungkinkan pemimpin politik untuk "menjanjikan segalanya kepada semua orang" melalui pesan yang dipersonalisasi. 3. **Pemahaman Terbatas tentang Teknologi**: Para penulis bersama merenungkan bagaimana manusia mungkin merespons kekuatan komputer yang semakin meningkat. Mereka takut akan dua hasil: orang mungkin memuja kecerdasan baru ini, berpotensi mengubahnya menjadi sebuah agama, atau mereka bisa bertempur melawannya. 4. **Kesalahpahaman Pemimpin Teknologi**: Menurut Schmidt, "alasan mereka tidak memahaminya dengan benar" adalah karena ini adalah dilema sosial dan moral yang pada dasarnya.

Sementara perusahaan fokus pada memaksimalkan pendapatan, mereka kekurangan kesepakatan sosial yang lebih luas tentang "apa yang benar dan apa yang salah. " 5. **Pemerintahan oleh AI**: Buku ini menggali konsep lama tentang "raja filsuf, " seorang penguasa mutlak yang dibahas sepanjang sejarah tetapi jarang terwujud. Schmidt bertanya apa yang akan terjadi jika AI mengambil peran itu. "Kecerdasan buatan harusnya, dalam teori, dapat berpikir lebih baik daripada manusia. Tapi jika Anda memberinya konstitusi, Anda menghadapi dilema tentang siapa yang berhak menulis konstitusi itu. " 6. **Konsentrasi Kekuasaan yang Disoroti oleh Peristiwa Terbaru**: Schmidt mengungkapkan perasaan campur aduk tentang pelantikan baru-baru ini, merasa bangga dengan para pemimpin teknologi yang berdiri di samping Presiden Trump sambil juga khawatir bahwa batas yang vital dapat dilalui. "Saya percaya negara kita harus diperintah oleh pemimpin politik kita, " katanya, menekankan konsekuensi politik dari bisnis yang diwakili di acara tersebut.