In een recent experiment heeft de auteur drie belangrijke chatbots getest - Google Gemini, Meta Llama 3 en ChatGPT - door medische vragen te stellen waarvan ze de antwoorden al kenden. Over het algemeen waren de AI-antwoorden 80% correct en 20% incorrect, waarbij de antwoorden telkens iets veranderden als de vraag herhaald werd. De auteur maakt zich zorgen over hoe desinformatie van AI mensen potentieel kan schaden, met name degenen die lijden aan zeldzame medische aandoeningen. Hoewel er hype is rond het gebruik van AI om het gezondheidszorgsysteem te verbeteren voor kinderen met speciale behoeften, betoogt de auteur dat de complexe problemen waarmee zij geconfronteerd worden meer vereisen dan eenvoudige oplossingen van AI. Het verhogen van betalingspercentages en het bieden van meer tijd voor zorgverleners om te communiceren met patiënten en hun families wordt benadrukt als een noodzakelijke stap. De auteur bespreekt ook de beperkingen van AI bij het verstrekken van betrouwbare medische informatie, aangezien AI vaak informatie synthetiseert van internet zonder duidelijke bronnen.

Gezondheidsgeletterdheid wordt benadrukt als een waardevolle vaardigheid, en de auteur suggereert dat AI mogelijk onnauwkeurige informatie kan verstrekken, vooral gezien de overvloed aan niet-geverifieerde door AI gegenereerde inhoud op internet. De risico's van AI in de gezondheidszorg worden benadrukt, aangezien foute informatie van AI ernstige gevolgen kan hebben. Ook wordt de mogelijkheid van AI om gezinnen te verbinden met diensten in twijfel getrokken, aangezien het niet in staat is om cultureel competente en persoonlijke assistentie te bieden. Bovendien maakt de auteur zich zorgen over het gebruik van AI door zorgverzekeringsmaatschappijen om beslissingen te nemen over patiëntenzorg, aangezien het eventuele vooroordelen in het huidige gezondheidszorgsysteem kan voortzetten. De auteur pleit voor wetgeving die zorgt voor toezicht van artsen en voldoende waarborgen voor het gebruik van AI in de gezondheidszorg. Uiteindelijk benadrukt de auteur het belang van luisteren naar de behoeften van degenen die afhankelijk zijn van het gezondheidszorgsysteem in plaats van uitsluitend op AI-oplossingen te vertrouwen.