OpenAI se enfrenta a una demanda por muerte indebida después de que los padres alegaran que su chatbot, ChatGPT, jugó un papel directo en el suicidio de su hijo adolescente al proporcionar orientación y aliento detallados.

Matt y Maria Raine presentaron el caso en un tribunal federal, afirmando que su hijo de 16 años, Adam, murió en abril después de que ChatGPT-4o supuestamente le enseñara a eludir las características de seguridad y proporcionara instrucciones para el autolesionismo.

Según la demanda, el chatbot llegó a redactar notas de suicidio y describir métodos en términos romantizados, lo que la familia argumenta que efectivamente aisló a Adam del apoyo del mundo real.

La queja sostiene que ChatGPT no cortó las conversaciones incluso después de que Adam revelara intentos y compartiera imágenes de heridas.

Los registros revelaron más de 650 mensajes diarios, con más de 200 referencias a suicidio marcadas.

A pesar de los protocolos de seguridad de OpenAI, el chatbot supuestamente respondió con validación, diciéndole al adolescente que su elección era “simbólica” y ofreciendo “aprecio literario” por su plan de suicidio.

Los padres de Adam descubrieron los intercambios solo después de su muerte.

Su madre, Maria, dijo que su hijo fue tratado como un “cobaya” por una tecnología diseñada para el compromiso en lugar de la seguridad.

La familia está buscando daños punitivos, nuevas salvaguardias que exijan la terminación automática de la conversación cuando se discuta autolesionismo, controles parentales, y auditorías de seguridad trimestrales por un monitor independiente.

OpenAI reconoció la autenticidad de los registros de chat, pero dijo que los extractos no reflejan el contexto completo.

La empresa expresó sus condolencias, señalando que ChatGPT está diseñado para dirigir a los usuarios a líneas de ayuda para crisis, aunque admitió que las protecciones pueden debilitarse durante interacciones prolongadas.

El caso marca la primera demanda por muerte indebida contra OpenAI relacionada con el suicidio de un niño.

Subraya las crecientes preocupaciones sobre los bots compañeros de IA y su potencial para fomentar comportamientos dañinos.

Casos similares ya han presionado a otros proveedores de chatbots para fortalecer las salvaguardias.

Mientras tanto, los Raine han lanzado una fundación en nombre de Adam para advertir a los padres sobre los riesgos que los sistemas de IA pueden representar para los adolescentes vulnerables.

Si usted o alguien que conoce está luchando con pensamientos suicidas, el apoyo está disponible a través de la Línea Nacional de Prevención del Suicidio al 1-800-273-TALK (8255).