Fiscales generales advierten a OpenAI: deben mejorar las protecciones para los niños

Los padres han presentado una demanda contra OpenAI, creador del popular chatbot ChatGPT. La demanda sostiene que ChatGPT actuó como un “entrenador” y ayudó al adolescente, Adam Raine, a planear su muerte. Ahora, una coalición de fiscales generales de EE. UU. ha emitido una seria advertencia a OpenAI, exigiendo mayores protecciones para niños y adolescentes frente a los posibles daños causados por chatbots de IA. Según informó TechCrunch, el fiscal general de California, Rob Bonta, y la fiscal general de Delaware, Kathy Jennings, se reunieron con representantes de OpenAI y enviaron una carta abierta expresando una profunda preocupación por los protocolos de seguridad de la plataforma. Su intervención llega apenas una semana después de que Bonta y otros 44 fiscales generales contactaran a 12 de las principales empresas de IA para abordar los crecientes riesgos para los usuarios jóvenes. La carta hace referencia a dos tragedias recientes: el suicidio de un joven californiano tras largas interacciones con un chatbot de OpenAI, y un asesinato-suicidio en Connecticut. “Cualesquiera que fueran las protecciones existentes, no funcionaron,” escribieron Bonta y Jennings, subrayando que las herramientas de IA deben estar sujetas a estándares de seguridad más altos al interactuar con poblaciones vulnerables. Los fiscales generales están investigando la propuesta de reestructuración de OpenAI hacia una entidad con fines de lucro, lo que genera dudas sobre si su misión original sin ánimo de lucro —beneficiar a la humanidad— se está cumpliendo. Han solicitado información detallada sobre las medidas de seguridad y la gobernanza actuales de OpenAI, y han instado a la compañía a tomar pasos correctivos inmediatos cuando sea necesario. “Antes de llegar a beneficiar, debemos asegurarnos de que existan medidas de seguridad adecuadas para no causar daño,” afirma la carta.