Elon Musk menyatakan bahwa data medis yang diunggah ke chatbot AI Grok di X (dulu Twitter) akan digunakan untuk melatihnya agar bisa menginterpretasi secara lebih efisien. Awal bulan ini, Musk mengunggah ulang sebuah video di mana dia mendorong pengguna untuk mengunggah gambar medis seperti rontgen atau MRI ke Grok untuk diagnosis, dengan klaim bahwa AI ini terkadang mengungguli dokter. Dia mengatakan bahwa pada tahun 2024, unggahan tersebut akan membantu melatih Grok, yang meskipun masih dalam tahap awal, sudah cukup akurat dan diperkirakan akan meningkat secara signifikan. Musk membagikan cerita tentang Grok yang mampu mendiagnosis sebuah kasus yang terlewatkan oleh dokter di Norwegia dan mengungkapkan di podcast “Moonshots with Peter Diamandis” bahwa dia sendiri mengirimkan MRI ke Grok, yang bersama dokter tidak menemukan masalah. Namun, dia tidak mengungkapkan alasan di balik MRI-nya, dan XAI, yang memiliki X, menolak pertanyaan media dengan menyebutnya sebagai “Kebohongan Media Warisan. ” Grok menghadapi persaingan dalam alat kesehatan berbasis AI, terutama dari peluncuran ChatGPT Health dari OpenAI yang baru-baru ini, yang terintegrasi dengan aman dengan catatan medis dan aplikasi kesehatan tanpa menggunakan informasi pribadi untuk pelatihan model. Chatbot AI banyak digunakan untuk pertanyaan medis; OpenAI melaporkan ada 40 juta pengguna yang mencari informasi kesehatan baru-baru ini, dengan lebih dari separuhnya menggunakan untuk memahami gejala. Interpretasi medis Grok beragam. Sementara beberapa pengguna mengklaim bahwa AI ini mampu menganalisis tes darah secara akurat dan mendeteksi kanker payudara, para dokter mencatat adanya kesalahan besar, seperti membedakan tuberkulosis dengan masalah tulang belakang atau salah mengidentifikasi kista payudara jinak sebagai testis. Sebuah studi bulan Mei 2025 yang membandingkan Grok dengan Gemini dari Google dan ChatGPT-4o menemukan bahwa Grok paling efektif dalam mendeteksi patologi dari lebih dari 35. 000 irisan MRI otak, meskipun para ahli menegaskan bahwa AI non-generatif masih lebih unggul dibanding model generatif dalam pencitraan medis.

Dr. Laura Heacock dari NYU menekankan bahwa apakah perusahaan akan menginvestasikan waktu dan sumber daya pada AI pencitraan medis masih menjadi pertanyaan. Para ahli memperingatkan bahwa pendekatan Musk—melatih Grok dengan data medis yang diunggah pengguna dari platform media sosial—memiliki risiko. Ryan Tarzy, CEO Avandra Imaging, menjelaskan bahwa metode ini mempercepat pengembangan tetapi bergantung pada data dari kumpulan yang terbatas dan dipilih sendiri, yang tidak memiliki keragaman dari basis data medis yang aman dan tanpa identitas. Selain itu, data medis yang dibagikan di media sosial tidak dilindungi oleh HIPAA, meningkatkan risiko terungkapnya identitas pasien, terutama karena gambar sering mengandung informasi pribadi yang tertanam. Tarzy memperingatkan bahwa hal ini bisa menyebabkan pelanggaran privasi secara tidak sengaja. Matthew McCoy, profesor etik medis dan kebijakan kesehatan di University of Pennsylvania, menekankan bahwa risiko privasi ini belum sepenuhnya dipahami, karena perlindungan internal X tidak diketahui. Dia pribadi tidak merasa nyaman membagikan data kesehatan secara publik. Pada akhirnya, meskipun janji Grok dalam bidang AI medis sangat menarik, keterbatasan saat ini dalam hal akurasi dan kekhawatiran privasi menunjukkan perlunya kehati-hatian bagi pengguna. Cerita ini awalnya dipublikasikan di Fortune. com pada 20 November 2024.