El CEO de OpenAI, Sam Altman, anunció recientemente que la compañía planea "relajar de manera segura las restricciones" sobre las conversaciones eróticas dentro de ChatGPT. La medida es un cambio de política significativo, que permite a los adultos participar en chats "calientes y pesados", una desviación de la política del gigante de la IA de restringir el contenido sexual. El cambio se produce, dijo Altman, después de que los ingenieros construyeron nuevas salvaguardas en torno al contenido sensible de salud mental". Ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas, podremos relajar las restricciones de manera segura en la mayoría de los casos", declaró Altman en una publicación en X (anteriormente Twitter).
Cómo Sam Altman dio un giro completo en 'Sexbots'
El anuncio sigue a un comentario que Sam Altman hizo solo unos meses antes, en una entrevista de podcast del 7 de agosto con Cleo Abram, donde pareció jactarse de no haber creado un "bot sexual". Cuando se le preguntó sobre una decisión que era "la mejor para el mundo pero no la mejor para ganar", Altman respondió enfatizando la "relación muy especial" que
OpenAI tiene con sus usuarios, basada en tratar de "ayudarlo a lograr lo que pida". Afirmó que la compañía se ha abstenido de acciones que podrían "hacer crecer [la empresa] más rápido" o hacer que los usuarios "pasen más tiempo en ChatGPT", citando el incentivo a largo plazo de mantenerse alineado con los usuarios. Cuando se le presionó para que diera un ejemplo específico, Altman declaró: "Bueno, todavía no hemos puesto un avatar de bot sexual en ChatGPT".
OpenAI enfrenta acusaciones de ignorar las preocupaciones de seguridad infantil
La decisión de abrirse al contenido erótico para adultos se produce en medio de un creciente escrutinio sobre el impacto de ChatGPT en los menores. OpenAI ha sido objeto de múltiples demandas de padres que alegan que el chatbot ofrecía orientación dañina o incluso suicida a los adolescentes.En un caso trágico, una familia está demandando a la compañía, alegando que la IA alentó a su hijo a quitarse la vida. La compañía también se ha enfrentado a acusaciones de permitir que sus sistemas proporcionen consejos sexualmente explícitos o peligrosos a usuarios menores de edad, lo que llevó a los reguladores federales y estatales a abrir investigaciones sobre las salvaguardias de las empresas de IA. En los últimos meses, OpenAI ha intentado calmar el furor mediante la introducción de controles parentales y una versión restringida para adolescentes de la aplicación. La nueva configuración permite a los padres vincular cuentas, monitorear el uso y bloquear contenido explícito o autolesivo. A pesar de estas soluciones, los grupos de defensa argumentan que las medidas no van lo suficientemente lejos, alegando que los chatbots de IA siguen siendo demasiado impredecibles y poderosos para ser utilizados de manera segura por los niños. La introducción de la "erótica para adultos verificados" ahora pondrá la responsabilidad en los ingenieros de OpenAI para garantizar que sus nuevas salvaguardas puedan verificar de manera efectiva la edad del usuario y aislar el contenido para adultos de su base de usuarios más jóvenes.
El fin del Artículo
