Recientemente, Alibaba presentó WanX 2.1, un innovador modelo de inteligencia artificial diseñado para la generación de vÃdeo, que compite con alternativas como Sora de OpenAI o Veo 2 de Google. Sin embargo, apenas 24 horas después de su lanzamiento, la herramienta fue utilizada para la creación y distribución de numerosos vÃdeos pornográficos en internet.
WanX 2.1 es un modelo de código abierto disponible en GitHub. Esto facilitó que usuarios con conocimientos técnicos y aficionados a los contenidos para adultos usaran la herramienta para producir vÃdeos pornográficos.
Según informó 404 Media, en comunidades dedicadas a la creación y difusión de deepfakes pornográficos sin el consentimiento de las personas involucradas, los usuarios estaban «ansiosos» por probar el avanzado modelo de Alibaba.
Varios de estos vÃdeos se compartieron en Civitai, una plataforma donde los usuarios intercambian imágenes y vÃdeos generados con inteligencia artificial, además de comprarlos y venderlos.
Las estadÃsticas de descargas en las páginas de modelos de IA utilizados para estas creaciones muestran que estos modelos han sido descargados cientos de veces por los usuarios.
404 Media reporta que ya existen múltiples vÃdeos para adultos creados con Wan 2.1. A pesar de que Civitai permite el intercambio de modelos de IA, prohÃbe expresamente los contenidos pornográficos no consentidos. No obstante, esto no impide que los usuarios descarguen los modelos y los usen para crear este tipo de contenidos, según señalan en el medio.
El desafÃo radica en el uso de herramientas que permiten generar vÃdeos asombrosos y apropiados, pero que también pueden ser explotadas para fines cuestionables. El recorrido económico de los deepfakes ya ha demostrado ser significativo, y con la evolución de estas tecnologÃas, controlar este tipo de contenidos se vuelve cada vez más complicado.
Deja una respuesta