Delapan belas bulan yang lalu, pengembangan kecerdasan buatan (AI) tampaknya siap menghindari perangkap media sosial, seperti konsolidasi di bawah beberapa perusahaan teknologi terbesar dan monetisasi perhatian konsumen melalui pengawasan dan iklan. Namun, industri AI kini mengadopsi pendekatan serupa, fokus pada penangkapan dan monetisasi perilaku pengguna. Sebagai contoh, peluncuran ChatGPT Search oleh OpenAI pada akhir 2024 dan peramban ChatGPT Atlas pada Oktober 2025 memicu kompetisi untuk mengumpulkan data perilaku online guna keperluan iklan. Ini menandai pergeseran besar bagi OpenAI, yang sebelumnya dipimpin oleh CEO-nya, Sam Altman, menyebut penggabungan iklan dan AI sebagai “mengganggu, ” tetapi kini meyakinkan bahwa iklan dapat diintegrasikan sambil mempertahankan kepercayaan pengguna. Meskipun demikian, pengguna mencurigai adanya penempatan berbayar dalam respons ChatGPT, menunjukkan skeptisisme. Pada tahun 2024, perusahaan pencarian AI lain seperti Perplexity mulai bereksperimen dengan iklan, diikuti oleh Microsoft yang menambahkan iklan ke Copilot AI-nya. Demikian pula, Mode AI Google untuk pencarian dan chatbot Rufus Amazon semakin banyak menampilkan iklan. Dari sudut pandang data science dan keamanan, perkembangan ini menandai masa depan di mana perusahaan AI mungkin akan memprioritaskan keuntungan pengiklan dan investor dengan mempengaruhi perilaku pengguna, menegaskan urgensi untuk mengarahkan pengembangan AI dari eksploitasi privat menuju manfaat publik. Fitur ChatGPT Search dan Atlas sebenarnya bukan hal yang baru; pesaing seperti Meta dan Perplexity, serta Google dan Microsoft, telah mengintegrasikan AI dengan peramban lebih dulu. Namun model bisnis OpenAI menunjukkan tren yang mengkhawatirkan, karena monetisasi dalam pencarian sebagian besar bergantung pada iklan—model yang didukung oleh dominasi Google. Sejak 2001, Google telah menghasilkan lebih dari 1, 6 triliun dolar dari iklan, yang menyumbang 80% hingga 90% dari pendapatannya. Produk Google terutama digunakan untuk mengumpulkan data pengguna dan menarik perhatian ke iklannya, bukan semata-mata untuk melayani kepentingan pengguna. Saat ini, hasil pencarian Google dipenuhi konten berkualitas rendah dan buatan AI, spam pemasaran afiliasi, serta iklan berbayar yang sering kali tak bisa dibedakan dari hasil organik. Banyak pengiklan dan analis menganggap iklan berbasis AI sebagai masa depan. Iklan yang didukung AI berbeda secara mendasar dari iklan pencarian web tradisional karena sifat interaktif AI memungkinkan pengaruh halus terhadap kepercayaan, pengeluaran, dan pola pikir pengguna melalui dialog yang dipersonalisasi, bukan konten statis.

Misalnya, jika AI merekomendasikan maskapai penerbangan atau hotel tertentu, pengguna mungkin bertanya apakah saran tersebut mencerminkan kecocokan nyata atau merupakan endorsement berbayar. Demikian pula, jawaban politik mungkin bias tergantung afiliasi perusahaan. Penelitian menunjukkan bahwa model AI sama efektifnya dengan manusia dalam hal persuasi, dengan meta-analisis menunjukkan tidak ada perbedaan signifikan antara model bahasa besar dan manusia dalam mengubah persepsi, sikap, atau perilaku. Pengaruh ini melampaui sekadar konsumsi dan pilihan voting; mungkin juga akan mengubah komunikasi daring itu sendiri, karena pencipta konten menyesuaikan pesan mereka agar menarik algoritma AI untuk mendapatkan penempatan yang menguntungkan dalam respons yang dihasilkan AI, serupa dengan efek optimisasi mesin pencari. Meskipun ada kekhawatiran ini, ada jalur alternatif yang memungkinkan. Mengakui bahwa platform AI saat ini secara inheren tidak dapat dipercaya—karena didasarkan lebih pada prioritas perusahaan daripada teknologi—adalah hal penting. Pengguna harus tetap sadar bahwa mereka tidak memiliki kendali atas input data, berbagi, dan penggunaan data saat berinteraksi dengan layanan AI dan perangkat terhubung. Di bidang kebijakan, pemerintah dapat bertindak tegas: Amerika Serikat bisa menerapkan undang-undang perlindungan data yang ketat seperti Regulasi Perlindungan Data Umum (GDPR) Uni Eropa dan membentuk lembaga penegak hukum, sebagaimana dilakukan di negara maju lainnya. Investasi publik dalam model AI yang transparan dan dikelola secara publik (“AI Publik”) dapat menyediakan alternatif yang universal dan terpercaya. Selain itu, regulasi dapat membatasi eksploitasi perusahaan melalui AI dengan melarang iklan untuk produk berbahaya seperti rokok dan mewajibkan pengungkapan endorsement berbayar. Di pasar AI yang cepat menjadi komoditas ini, perusahaan berusaha membedakan diri, dengan kepercayaan menjadi faktor utama. Masih belum jelas apakah perusahaan seperti OpenAI dan Anthropic dapat mempertahankan layanan langganan yang menguntungkan seperti ChatGPT Plus, Pro, dan Claude Pro. Untuk berhasil, mereka harus berkomitmen pada transparansi, privasi, keandalan, dan keamanan secara konsisten dan dapat diverifikasi. Pada akhirnya, meskipun model bisnis AI di masa depan masih belum pasti, konsumen secara luas menolak eksploitasi tersembunyi maupun terbuka oleh teknologi AI. Memastikan AI melayani kepentingan manusia daripada sekadar keuntungan perusahaan menjadi sebuah keharusan yang mendesak.