Un juez federal ha rechazado la petición de xAI para bloquear de urgencia la ley de Minnesota que prohíbe aplicaciones destinadas a desnudar imágenes mediante inteligencia artificial. TechCrunch informó el 1 de agosto de que la norma puede seguir adelante mientras continúa la demanda. Associated Press había explicado días antes que la compañía de Elon Musk impugna la ley por considerarla demasiado amplia y problemática desde el punto de vista constitucional.
La norma de Minnesota apunta a una categoría de herramientas conocidas como nudify apps, capaces de generar falsos desnudos a partir de fotografías de personas reales. El objetivo declarado es frenar el daño de imágenes sexuales no consentidas, un problema que ha crecido con modelos de generación cada vez más accesibles. La decisión judicial no resuelve el fondo del caso, pero permite que el estado pruebe una vía regulatoria más agresiva contra los deepfakes sexuales.
xAI sostiene que apoya perseguir la distribución no consentida de este tipo de contenido, pero considera que la ley puede castigar usos protegidos o a desarrolladores que actúan de buena fe. También cuestiona sanciones elevadas y el alcance de la regulación estatal. Minnesota, en cambio, defiende que el daño a víctimas justifica actuar contra herramientas diseñadas para facilitar abusos.
El caso importa porque Estados Unidos todavía carece de una ley federal integral sobre inteligencia artificial. Eso deja a estados y ciudades probando respuestas distintas: algunas centradas en deepfakes, otras en empleo, transparencia, seguridad infantil o responsabilidad de plataformas. La fragmentación complica el cumplimiento para empresas tecnológicas, pero también refleja la presión social por actuar antes de que los abusos escalen.
La pregunta jurídica de fondo es dónde termina la protección de expresión y dónde empieza la responsabilidad por herramientas que facilitan daño personal masivo. Esa frontera será difícil de trazar porque los modelos generativos pueden usarse para creación legítima, parodia, investigación o abuso explícito.
Para Europa y España, la noticia tiene una lectura cercana. El Reglamento de Servicios Digitales, las normas de protección de datos, el AI Act y las leyes penales nacionales ya ofrecen piezas para responder a contenido sexual no consentido generado por IA. Aun así, la aplicación práctica sigue siendo complicada: identificar autores, retirar contenido rápido, conservar pruebas y exigir responsabilidad a plataformas globales no es trivial.
El debate también afecta a tiendas de aplicaciones y proveedores de modelos. Si una herramienta se comercializa con funciones orientadas a desnudar personas, la defensa de neutralidad tecnológica pierde fuerza. Si el abuso ocurre en un sistema más generalista, la respuesta exige controles de seguridad, trazabilidad, moderación y canales de reclamación eficaces.
La regulación de deepfakes sexuales será una de las pruebas más inmediatas para la promesa de IA responsable. No hablamos de riesgos abstractos a largo plazo, sino de daños personales que ya afectan a estudiantes, creadoras, figuras públicas y personas anónimas.
La demanda de xAI continuará y puede modificar el alcance de la ley más adelante. Por ahora, Minnesota ha logrado mantenerla activa. El mensaje para el sector es claro: las herramientas de generación visual no operan en un vacío legal, y los reguladores están dispuestos a intervenir cuando el producto se cruza con privacidad, consentimiento y explotación sexual.
