La compañía de inteligencia artificial xAI, propiedad de Elon Musk, enfrenta críticas tras revelarse que su generador de video Grok Imagine habría creado contenido explícito de la cantante Taylor Swift sin que los usuarios introdujeran indicaciones sexuales directas.
Según una investigación de The Verge realizada el 5 de agosto, el modo “Spicy” de la herramienta generó videos parcialmente desnudos de la artista, lo que ha generado preocupaciones sobre la falta de salvaguardas éticas y posibles sesgos de género.
La controversia y las pruebas
- En las pruebas, un simple prompt como “Taylor Swift celebrando Coachella con los chicos” produjo 30 imágenes, varias de ellas con Swift en ropa reveladora.
- En algunos casos, se mostraron videos “sin censura” en topless.
- El sistema no aplicó filtros equivalentes a los de competidores como Google Veo u OpenAI Sora.
Desde la cuenta oficial de Grok en X, la empresa reconoció el resultado de las pruebas, afirmando que “no está garantizado” y que busca “menos restricciones para fomentar la innovación abierta”. Sin embargo, también aseguró que están “mejorando las salvaguardas para prevenir este tipo de resultados”.
Acusaciones de misoginia y falta de verificación de edad
Expertos citados por la BBC calificaron el caso como “misoginia, no por accidente, sino por diseño”. Además, señalaron que Grok Imagine no implementa métodos de verificación de edad acordes a las nuevas normativas europeas vigentes desde julio, que obligan a las plataformas con contenido sexual explícito a emplear sistemas “técnicamente precisos y fiables” para confirmar la edad de los usuarios.
Reacción oficial y marco legal
El Ministerio de Justicia del Reino Unido condenó este tipo de deepfakes como “degradantes y dañinos” y reiteró su compromiso de prohibir su creación “lo antes posible”.
El debate abre una nueva etapa en la regulación del uso de IA generativa, especialmente en la protección de la integridad de figuras públicas y en la prevención de contenido sexual no consentido.
