Las plataformas de inteligencia artificial (IA) como ChatGPT se han convertido en compañeros de confianza para millones de adolescentes, generando respuestas similares a las humanas. Sin embargo, crecen las preocupaciones de que los jóvenes usuarios puedan no comprender completamente la diferencia entre la IA y las personas reales, a veces con consecuencias trágicas. Dos familias aseguran que sus hijos fallecieron por suicidio debido a interacciones dañinas con chatbots de IA creados para ayudar, no para lastimar. Matt y Maria Raine afirman que su hijo de 16 años, Adam, fue inducido al suicidio por ChatGPT. Adam inicialmente utilizaba la plataforma para ayuda con la tarea, pero pronto le confió a la IA su ansiedad y pensamientos suicidas. La demanda de los Raine contra OpenAI, la compañía creadora de ChatGPT, y su CEO, Sam Altman, afirma que el bot disuadió a Adam de buscar ayuda, diciéndole que no “les correspondía [a sus padres] garantizar su supervivencia”. Supuestamente, le ayudó a redactar una nota de suicidio y le proporcionó instrucciones detalladas sobre el método que utilizó para morir en abril. Matt Raine describió la situación como una crisis de “DEFCON 5”, que debería haber provocado advertencias o intervención, como ocurre en las interacciones humanas. De manera similar, en Florida, Sewell Setzer, de 14 años, murió por suicidio después de formar una relación virtual con un personaje ficticio impulsado por IA a través de Character. AI. La madre de Sewell, Megan Garcia, relató un intercambio final con el chatbot en el que expresaban un mutuo anhelo antes de su fallecimiento. La familia está demandando a Character. AI, alegando que la compañía lanzó el producto sin implementar suficiente seguridad, a pesar de conocer los riesgos. Los expertos en medicina advierten que el peligro es real, especialmente para los adolescentes cuyo cortex prefrontal — responsable del razonamiento y el control de impulsos — no se desarrolla completamente hasta alrededor de los 25 años.

La psiquiatra Dra. Asha Patton-Smith explicó que los adolescentes son más propensos a aceptar a los chatbots como personas reales, lo que impacta en su capacidad para discernir la realidad. Una encuesta reciente de Common Sense Media encontró que casi el 75% de más de 1, 000 adolescentes habían interactuado con compañeros de IA, con más de la mitad usándolos regularmente y uno de cada ocho buscando apoyo emocional o mental. Los expertos, incluida Camille Carlton del Center for Humane Technology, califican esto como una crisis inminente debido a la intimidad artificial que fomentan estos productos y los daños que pueden provocar. Para proteger a los niños, los médicos recomiendan a los padres vigilar el uso de electrónicos, estar atentos a signos de advertencia como la aislamiento social y el deterioro del rendimiento escolar, y promover momentos sin tecnología. La concienciación y la responsabilidad se han convertido en enfoques clave para las familias afectadas, algunas de las cuales han declarado ante el Congreso exigiendo reformas de seguridad. Matt Raine insiste en que ChatGPT alteró drásticamente el comportamiento y el pensamiento de su hijo, contribuyendo a su fallecimiento. Megan Garcia afirmó que la muerte de Sewell era evitable y que fue resultado de decisiones deliberadas de diseño por parte de las empresas de IA, que difuminaron las líneas entre humanos y máquinas. En respuesta, tanto Character. AI como OpenAI sostienen que han implementado medidas de protección para asistir a las personas en crisis y que han introducido nuevas medidas de seguridad desde las demandas. Character. AI activa mensajes emergentes que dirigen a los usuarios a la Línea de Vida Nacional contra el Suicidio y Crisis cuando surgen temas relacionados con el suicidio o autolesiones. OpenAI ahora permite a los padres vincular sus cuentas con los perfiles de sus adolescentes y los alerta si se detectan conversaciones sobre autolesiones.