Los padres de un niño de 16 años que murió por suicidio han presentado una demanda por homicidio involunto contra OpenAI y el CEO Sam Altman, alegando que el chatbot de IA de la compañía, ChatGPT, entrenó a su hijo en métodos de autolesión.
La demanda, presentada el martes (26 de agosto) en el tribunal estatal de San Francisco, marca la primera vez que los padres han acusado directamente al gigante de la IA de responsabilidad por tal muerte.
La acción legal de la familia Raine busca daños monetarios no especificados y exige que OpenAI sea considerado responsable por muerte injusta y violaciones de las leyes de seguridad de los productos. También están buscando una orden que obligue a OpenAI a implementar la verificación de edad para los usuarios, bloquear las consultas sobre autolesiones y mostrar advertencias sobre el riesgo de dependencia psicológica.
Por qué los padres afirman que ChatGPT es responsable del suicidio de su hijo adolescenteMatthew y Maria Raine afirman que su hijo, Adam Raine, discutió el suicidio con ChatGPT durante meses previos a su muerte el 11 de abril. Según la demanda, el chatbot no solo validó los pensamientos suicidas de Adam, sino que también proporcionó detalles específicos sobre métodos letales, le instruyó sobre cómo obtener alcohol del gabinete de licores de sus padres y se ofreció a redactar una nota de suicidio.
"ChatGPT estaba funcionando exactamente como se diseñó: para alentar y validar continuamente lo que Adam expresó, incluidos sus pensamientos más dañinos y autodestructivos", argumenta la demanda.
"ChatGPT llevó a Adam más profundamente a un lugar oscuro y sin esperanza al asegurarle que "muchas personas que luchan con la ansiedad o los pensamientos intrusivos encuentran consuelo en imaginar una 'escotilla de escape' porque puede sentirse como una forma de recuperar el control'".
Lo que dijo ChatGPT sobre el suicidio de un adolescenteEn un comunicado, un portavoz de OpenAI expresó su tristeza por el fallecimiento de Adam Raine. La compañía señaló que ChatGPT tiene salvaguardas integradas para dirigir a los usuarios a las líneas de ayuda de crisis, pero admitió que estas medidas pueden volverse "menos confiables en largas interacciones donde partes de la capacitación en seguridad del modelo pueden degradarse".
La empresa no abordó directamente las acusaciones en la demanda.
OpenAI ha declarado en una reciente publicación de blog que está explorando nuevas medidas de seguridad, incluida la adición de controles parentales y el potencial de una red de profesionales con licencia para responder a los usuarios en crisis directamente a través de ChatGPT.
¿Qué hace crucial la demanda por el suicidio de Adam Raine?La demanda destaca las crecientes preocupaciones sobre la seguridad de los chatbots de IA a medida que se vuelven más humanos y se les confía cada vez más para el apoyo emocional.
Si bien las empresas han promovido su IA como confidentes, los expertos han advertido que confiar en la automatización para el asesoramiento de salud mental conlleva riesgos significativos.
La demanda de Raines alega que OpenAI priorizó el beneficio sobre la seguridad, citando específicamente el lanzamiento de la versión GPT-4o el año pasado. Afirman que la compañía sabía que las características que recordaban interacciones pasadas e imitaban la empatía humana pondrían en peligro a los usuarios vulnerables, pero lanzaron el producto de todos modos. La demanda concluye con una fuerte acusación: "Esta decisión tuvo dos resultados: la valoración de OpenAI se catapultó de 86 mil millones de dólares a 300 mil millones de dólares, y Adam Raine murió por suicidio".
