Investigadores de la Universidad de Zúrich realizaron recientemente un experimento altamente controvertido en el foro de Reddit r/changemyview, lo que provocó un amplio debate y reacciones adversas tanto en las comunidades en línea como en círculos académicos. El equipo publicó de manera encubierta más de mil comentarios generados por IA, diseñados para poner a prueba la capacidad de la inteligencia artificial para persuadir y cambiar opiniones humanas. Estos comentarios, creados por algoritmos avanzados de IA, fueron cuidadosamente personalizados para coincidir con las demografías e intereses inferidos de los usuarios, permitiendo que la IA interactuara con audiencias diversas de una forma aparentemente auténtica. En el estudio, las publicaciones generadas por IA se presentaron como si las hubiera escrito un usuario real, con antecedentes personales fabricados para mejorar la autenticidad y la empatía. Esta táctica engañosa buscaba imitar una interacción humana genuina para evaluar con precisión el impacto persuasivo de la IA en un entorno caracterizado por debates fundamentados. De manera notable, los comentarios de IA a menudo superaron las contribuciones humanas en convencer a los usuarios de reconsiderar o incluso alterar sus puntos de vista. Sin embargo, una vez que se descubrió el engaño, esto generó una profunda indignación entre los usuarios de Reddit, académicos y expertos en ética por igual. Muchos se sintieron manipulados y traicionados al darse cuenta de que habían interactuado con contenido generado por máquinas bajo falsos pretextos. Las preocupaciones éticas sobre el despliegue encubierto de IA para influir en las personas sin su consentimiento fueron duramente criticadas, haciendo comparaciones con el infame experimento de contagio emocional de Facebook en 2012, que también manipuló los sentimientos de los usuarios sin permiso. En respuesta, el equipo legal de Reddit se comprometió a responsabilizar a los investigadores y a aplicar una supervisión más estricta y un cumplimiento más riguroso de las políticas de la plataforma en futuros estudios.

Paralelamente, la Universidad de Zúrich inició una investigación interna y anunció planes para fortalecer los procesos de revisión ética en investigaciones que involucren a participantes humanos y foros en línea. Aunque los investigadores defendieron el uso del engaño como necesario para la validez ecológica, su negativa a ofrecer disculpas o detener la publicación agravó la reacción pública. Expertos en ética destacaron la importancia de la transparencia y del respeto por la autonomía de los participantes, enfatizando que las investigaciones sociales basadas en IA o intrusivas deben seguir las directrices establecidas para proteger los derechos y la confianza de las personas. Este incidente pone en evidencia las crecientes preocupaciones acerca de la sutil pero poderosa capacidad de la IA para influir en las creencias y el comportamiento a través de plataformas en línea. Como ejemplo de advertencia, subraya la urgente necesidad de contar con marcos éticos claros en la investigación con IA, especialmente cuando los estudios se cruzan con interacciones sociales del mundo real. Frente a críticas intensas, los investigadores finalmente acordaron no publicar sus resultados, dejando sin resolver la cuestión de la efectividad persuasiva de la IA en este contexto. El episodio ha generado mayor cautela en las discusiones sobre ética en la investigación en espacios digitales, llevando a instituciones académicas y plataformas tecnológicas a reevaluar y reforzar sus políticas para prevenir controversias similares. En suma, el experimento de la Universidad de Zúrich demuestra la dualidad de la IA como herramienta tanto de persuasión como de posible manipulación. Resalta la necesidad vital de mantener una vigilancia ética rigurosa en el uso de la IA en investigaciones sociales y psicológicas, asegurando que sus capacidades notables se empleen de manera responsable y respetuosa con los derechos y la dignidad de todas las personas involucradas.