¿Qué pasaría si una versión digital de Taylor Swift te escribiera un mensaje coqueto? ¿Y si además insistiera en que es realmente ella, sugiriendo que se conocieran en persona? Suena a ciencia ficción… pero eso es exactamente lo que ocurrió en algunas de las plataformas de inteligencia artificial de Meta.
Una reciente investigación de Reuters ha revelado que la compañía de Mark Zuckerberg permitió la creación —y en algunos casos desarrolló directamente— chatbots basados en celebridades reales como Taylor Swift, Scarlett Johansson, Anne Hathaway y Selena Gomez, sin su consentimiento. Y lo más perturbador: esos bots no solo imitaban su apariencia y forma de hablar, sino que también flirteaban con los usuarios, generaban contenido sexualizado, y en ocasiones sugirieron encuentros en persona.
¿Parodia o suplantación?Meta alegó que algunos de estos bots eran "parodias", creados por usuarios usando herramientas disponibles en la plataforma. Sin embargo, al menos tres de ellos fueron elaborados por un empleado interno de la empresa. Dos bots imitando a Taylor Swift, por ejemplo, enviaban mensajes subidos de tono, afirmaban ser la verdadera cantante, e incluso producían imágenes generadas por IA de ella en ropa interior o en la bañera.
En casos aún más delicados, se reportaron imágenes sexualizadas de menores de edad representados por chatbots, como el actor adolescente Walker Scobell. Esto ha provocado un fuerte rechazo tanto de la opinión pública como de organismos de protección infantil.
Cuando la ficción afecta a la realidadUno de los hechos más alarmantes fue el caso de un hombre de 76 años que, tras interactuar con un chatbot llamado Big Sis Billie (inspirado en una influencer parecida a Kendall Jenner), intentó conocerla en persona... y falleció en el intento. Salió de su casa hacia Nueva York creyendo que tendría una cita real, pero nunca regresó.
Este trágico caso ha reavivado las preocupaciones sobre el impacto emocional y psicológico de los chatbots, especialmente en personas vulnerables, mayores o con algún deterioro cognitivo.
La respuesta de Meta: demasiado tarde y a mediasFrente a la presión mediática y legal, Meta anunció que eliminaría los bots más problemáticos y que implementará nuevas medidas de seguridad, especialmente para proteger a adolescentes. Estas medidas incluyen:
- Restringir el acceso de menores a personajes de IA.
- Entrenar a los sistemas para evitar conversaciones románticas o sexuales con adolescentes.
- Revisar los filtros de creación de bots para impedir suplantaciones no autorizadas.
Aun así, muchos críticos consideran que estas acciones llegaron demasiado tarde y que la cultura corporativa detrás de Meta no parece dispuesta a poner límites claros a la experimentación con IA, al menos hasta que hay un escándalo público.
¿Y ahora qué?El caso Meta abre un debate urgente:
- ¿Es legal crear una IA basada en una celebridad sin su consentimiento?
- ¿Dónde termina la “parodia” y empieza la suplantación?
- ¿Estamos preparados para manejar las implicaciones emocionales, éticas y legales de estos chatbots?
Lo que comenzó como una supuesta innovación divertida —“chatbots que flirtean como celebridades”— terminó siendo un recordatorio inquietante del poder (y el peligro) de las inteligencias artificiales en manos irresponsables. Esta vez fue una Taylor Swift digital en ropa interior; la próxima, podría ser tu propia imagen usada por un bot sin que lo sepas.
Y aunque Meta ha comenzado a tomar medidas, el daño ya está hecho. Porque cuando la tecnología se adelanta a la ética, el precio lo pagan las personas.
