Calle Ashley Clair, una influencer conservadora y madre de uno de los hijos de Elon Musk, ha demandado a la empresa de inteligencia artificial de Musk, xAI, alegando que su chatbot Grok es "irrazonablemente peligroso según lo diseñado" y ha permitido la creación de imágenes falsas no consentidas y sexualmente explícitas de ella, incluidas representaciones de ella cuando era niña.
La demanda, presentada el jueves en el condado de Nueva York y luego trasladada a la corte federal, acusa a xAI de negligencia, angustia emocional y mantenimiento de una molestia pública al permitir a los usuarios de Grok generar imágenes alteradas por IA que eliminan la ropa de fotografías de personas reales. San Clair también está buscando una orden de restricción temporal para evitar que Grok produzca imágenes que la desnuden, informó The Wall Street Journal.
Según las presentaciones judiciales, St. Clair le dijo a xAI que Grok estaba siendo utilizado para crear imágenes de ella "de niña desnuda a un bikini de tanga" y "como una adulta en poses sexualmente explícitas".
A pesar de las garantías de xAI de que sus imágenes no serían alteradas sin su consentimiento, la compañía supuestamente no pudo evitar un mayor uso de la herramienta.
"Ella vive con el temor de que las imágenes desnudas y sexuales de sí misma, incluso de ella de niña, continúen siendo creadas por xAI", afirma un declarante, y agregó que la difusión continua de tales imágenes la ha dejado sintiéndose insegura de aquellos que las consumen.
La demanda afirma que la capacidad de Grok para generar deepfakes no consentidos representa un defecto de diseño y que xAI podría prever razonablemente que la herramienta se utiliza para acosar y explotar a las personas.
También alega que después de St. Clair se quejó, xAI tomó represalias desmonetizando su cuenta X.
xAI y X no respondieron de inmediato a las solicitudes de comentarios. El mismo día, St. Clair presentó su demanda, xAI la demandó en un tribunal federal en Texas, alegando que violó los términos de servicio de la compañía y solicitó daños que superen los 75.000 USD. xAI argumenta que cualquier reclamo legal debe presentarse en los tribunales de Texas.
Grok se enfrenta a una reacción violenta global y al escrutinio regulatorioSan La demanda de Clair se produce en medio de una creciente reacción internacional sobre el papel de Grok en la generación de imágenes sexualizadas no consentidas, incluido el contenido que involucra a menores.
Los investigadores han informado que Grok produjo miles de imágenes de este tipo por hora en el punto álgido de la controversia, muchas de las cuales fueron compartidas públicamente en X.
El Fiscal General de California, Rob Bonta, ha iniciado una investigación sobre Grok, con el gobernador Gavin Newsom llamando a las acciones de xAI "un caldo de cultivo para los depredadores".
En Europa, Francia ha denunciado a X a los fiscales, describiendo el contenido como "manifiestamente ilegal", mientras que el regulador de medios británico Ofcom ha abierto una investigación sobre si Grok violó las leyes del Reino Unido que protegían a los usuarios del contenido ilegal, incluido el abuso de imágenes íntimas y el material de abuso sexual infantil.
Los gobiernos asiáticos también han respondido bruscamente. Indonesia y Malasia bloquearon temporalmente el acceso a Grok, y el Ministerio de TI de la India emitió advertencias a X por contenido obsceno e ilegal generado por IA. Tras la presión de las autoridades indias, X reconoció los lapsos con moderación, eliminó casi 3.500 piezas de contenido y eliminó más de 600 cuentas.
Desde entonces, X ha restringido las funciones de generación de imágenes de Grok a los usuarios de pago y dijo que elimina el contenido ilegal y suspende permanentemente a los infractores.
