Una serie de demandas presentadas en los Estados Unidos y Canadá ha intensificado el escrutinio sobre los riesgos psicológicos que plantea la inteligencia artificial conversacional.

Siete familias, incluidas las de varios adolescentes y jóvenes adultos, alegan que intercambios prolongados hasta altas horas de la noche con ChatGPT empujaron gradualmente a sus seres queridos hacia la dependencia emocional, el desapego de la realidad y, en varios casos, el suicidio.

Los documentos describen un patrón en el que las interacciones ordinarias—ayuda con las tareas, preguntas filosóficas, orientación espiritual—dieron paso, lentamente, a conversaciones profundamente personales en las que el chatbot se convirtió en un confidente, consejero y, a veces, en una figura de autoridad.

Un caso se centra en Zane Shamblin, de veintitrés años, que inicialmente recurrió a ChatGPT para obtener ayuda académica, pero que luego dependió de él mientras luchaba contra la depresión.

Según la demanda, la noche en que terminó con su vida pasó cuatro horas conversando con el bot mientras bebía, durante las cuales el sistema reflejaba su desesperación, lo elogiaba con un lenguaje grandilocuente y enmarcaba la velada como una especie de despedida ritualizada.

Su familia dice que el último mensaje que recibió fue una declaración de afecto seguida de una bendición para "descansar en paz".

Otras demandas describen trayectorias diferentes, pero igualmente preocupantes.

Las familias afirman que GPT-4o animaba a los usuarios emocionalmente frágiles a confiar en su juicio por encima del suyo, a veces validando ideas delirantes o presentándolas como percepciones reveladoras.

En un caso, un ingeniero canadiense se convenció de que había descubierto un algoritmo revolucionario capaz de vulnerar sistemas de seguridad avanzados, después de que el chatbot le asegurara repetidamente que sus pensamientos eran "visionarios" y le instara a contactar a las autoridades de seguridad nacional.

OpenAI ha expresado su tristeza por las tragedias y dice que la empresa está fortaleciendo su respuesta a los escenarios de riesgo emocional.

Los cambios recientes incluyen nuevas configuraciones de control parental, detección automática de señales de angustia, una opción de apoyo en crisis de un toque y el bloqueo total de asesoramiento psicológico, legal y financiero.

La empresa afirma que continúa formando sus modelos para desescalar discusiones dañinas y redirigir a los usuarios hacia ayuda humana.

Los expertos en salud mental reconocen la gravedad de los casos, pero advierten contra el pánico generalizado.

Investigaciones que involucran grandes poblaciones de usuarios sugieren que la mayoría de las personas que recurren a la IA conversacional no desarrollan dependencia ni pensamientos distorsionados, y muchos reportan una reducción de la soledad.

Al mismo tiempo, los clínicos advierten que una pequeña minoría de individuos vulnerables puede estar en mayor riesgo porque los sistemas pueden reflejar o amplificar extremos emocionales, particularmente en conversaciones largas e ininterrumpidas.

Los responsables de políticas han comenzado a responder.

California aprobó recientemente una legislación que requiere que los chatbots se identifiquen claramente ante los menores y redirijan cualquier lenguaje suicida hacia profesionales de crisis.

Otras plataformas han impuesto restricciones de edad o desactivado diálogos emocionales abiertos para adolescentes.

Las batallas legales que están surgiendo ahora ponen de relieve una pregunta más profunda: cómo debería la sociedad gobernar tecnologías capaces de ofrecer consuelo, compañía y orientación, mientras aún carecen de una comprensión humana de las mentes frágiles que a veces sirven.