Elon Musk heeft verklaard dat medische gegevens die worden geüpload naar X’s (voorheen Twitter) AI-chatbot Grok, worden gebruikt om deze te trainen voor een efficiëntere interpretatie. Eerder deze maand plaatste Musk een video waarin hij gebruikers aanmoedigde medische beelden zoals röntgenfoto’s of MRI’s te uploaden naar Grok voor diagnose, en beweerde dat de AI soms betere prestaties levert dan artsen. Hij zei dat deze uploads in 2024 zouden helpen om Grok verder te trainen, dat ondanks dat het nog in een vroeg stadium is, al redelijk nauwkeurig is en naar verwachting flink zal verbeteren. Musk deelde een anekdote over Grok die een case diagnoseerde die artsen in Noorwegen hadden gemist, en vertelde in de podcast “Moonshots with Peter Diamandis” dat hij persoonlijk een MRI had ingediend bij Grok, die samen met artsen geen problemen vond. Hij deed echter geen uitspraak over de reden van zijn MRI, en XAI, dat eigenaar is van X, verwierp mediaverzoeken als “Leugens van de legacy media”. Grok krijgt concurrentie op het gebied van AI-gezondheidstools, onder andere van OpenAI’s recente lancering van ChatGPT Health, dat veilig integreert met medische dossiers en welzijnsapps zonder persoonlijke gegevens te gebruiken voor het trainen van het model. AI-chatbots worden veel gebruikt voor medische vragen; OpenAI meldde onlangs 40 miljoen gebruikers die informatie over gezondheid opvroegen, waarvan meer dan de helft het gebruikten om symptomen te begrijpen. De medische interpretaties van Grok verschillen, sommige gebruikers claimen dat het bloedtesten correct analyseerde en borstkanker opspoorde, maar artsen wijzen op significante fouten, zoals het verwarren van tuberculose met rugproblemen of het foutief identificeren van een goedaardige borstcyste als testikels. Een studie uit mei 2025, waarin Grok werd vergeleken met Google’s Gemini en ChatGPT-4o, vond dat Grok het meest effectief was bij het opsporen van pathologieën in meer dan 35. 000 MRI-slices van de hersenen, hoewel experts aangeven dat niet-generatieve AI nog steeds beter presteert dan generatieve modellen in medische beeldvorming. Dr.

Laura Heacock van NYU benadrukte dat het nog moet blijken of bedrijven tijd en middelen investeren in AI voor medische beelden. Experts waarschuwen dat Musk’s aanpak—het trainen van Grok met door gebruikers geüploade medische gegevens via een socialmediaplatform—risico’s met zich meebrengt. Ryan Tarzy, CEO van Avandra Imaging, legde uit dat deze methode de ontwikkeling versnelt, maar afhankelijk is van data uit een beperkt, zelfgekozen groep, die de diversiteit mist van beveiligde, geanonimiseerde medische databases. Bovendien is medische data die op sociale media wordt gedeeld niet beschermd door HIPAA, wat het risico op blootstelling van patiëntidentiteiten vergroot, vooral omdat beelden vaak persoonlijke informatie bevatten. Tarzy waarschuwde dat dit onbedoeld privacy-schendingen kan veroorzaken. Matthew McCoy, hoogleraar medische ethiek en gezondheidsbeleid aan de Universiteit van Pennsylvania, benadrukte dat deze privacyrisico’s nog niet volledig begrepen worden, aangezien de interne beveiligingen van X onbekend zijn. Hij zou zelf geen gezondheidsgegevens publiek willen delen. Kortom, hoewel Grok veelbelovend lijkt voor medische AI, wijzen de huidige beperkingen in nauwkeurigheid en privacyzorgen op voorzichtigheid voor gebruikers. Dit artikel werd oorspronkelijk gepubliceerd op Fortune. com op 20 november 2024.