I et nyligt eksperiment testede forfatteren tre store chatbots - Google Gemini, Meta Llama 3 og ChatGPT - ved at stille lægespørgsmål, som de allerede kendte svarene til. AI-svarene var generelt 80% korrekte og 20% ukorrekte, med svar der ændrede sig en smule hver gang spørgsmålet blev gentaget. Forfatteren fandt det bekymrende, hvordan misinformation fra AI potentielt kunne skade mennesker, især dem med sjældne medicinske sygdomme. Mens der er hype omkring brug af AI til at forbedre sundhedssystemet for børn med særlige behov, argumenterer forfatteren for, at de komplekse problemer, de står over for, kræver mere end simple løsninger fra AI. Øget betaling og mere tid til, at sundhedsprofessionelle kan kommunikere med patienter og familier, fremhæves som et nødvendigt skridt. Forfatteren diskuterer også begrænsningerne ved AI i at levere pålidelig medicinsk information, da AI ofte syntetiserer information fra internettet uden tydelige kilder.

Sundhedsfærdigheder fremhæves som en værdifuld færdighed, og forfatteren antyder, at AI potentielt kan give unøjagtige oplysninger, især med tanke på overfloden af ​​ikke-verificeret AI-genereret indhold på internettet. Risiciene ved AI inden for sundhedsvæsenet understreges, da forkerte oplysninger fra AI kan have alvorlige konsekvenser. AI's evne til at koble familier til tjenester bliver også sat spørgsmålstegn ved, da den mangler evnen til at yde kulturelt kompetent og personlig assistance. Derudover rejser forfatteren bekymringer om, at AI bliver brugt af forsikringsselskaber til at træffe beslutninger om patientpleje, da det kan fastholde skævheder i det nuværende sundhedsvæsen. Forfatteren argumenterer for lovgivning, der sikrer lægeovervågning og tilstrækkelige sikkerhedsforanstaltninger for brugen af ​​AI inden for sundhedssektoren. I sidste ende understreger forfatteren vigtigheden af at lytte til behovene hos dem, der er afhængige af sundhedssystemet, i stedet for udelukkende at stole på AI-løsninger.