xAI ha demandado al estado de Minnesota para bloquear una nueva ley que prohíbe aplicaciones de nudificación con IA, conocidas como nudify apps. La norma, prevista para entrar en vigor en agosto de 2026, busca frenar herramientas que generan imágenes sexuales falsas a partir de fotografías de personas reales.
La compañía de Elon Musk dirige la demanda contra el fiscal general de Minnesota, Keith Ellison. Según las informaciones publicadas por CNBC, FOX 9 y Engadget, xAI argumenta que la ley crea una prohibición basada en el contenido y afecta a derechos de expresión protegidos por la Constitución estadounidense.
El caso expone una tensión que se repetirá en más jurisdicciones: proteger a víctimas de deepfakes sexuales sin crear normas tecnológicas demasiado amplias.
Las aplicaciones de nudificación han generado preocupación porque permiten fabricar imágenes íntimas sin consentimiento con muy poca fricción técnica. El daño puede ser grave incluso si la imagen es falsa: acoso, extorsión, pérdida reputacional y exposición de menores o personas vulnerables. Para legisladores, el incentivo es actuar rápido.
El desafío legal de xAI no significa que la empresa defienda el abuso. La discusión se centra en el alcance de la norma y en si una prohibición de herramientas o contenidos generados con IA puede superar el examen constitucional estadounidense. Ese debate es especialmente complejo porque mezcla software, expresión, privacidad, seguridad y daño personal.
En Europa, la conversación tendría otro marco jurídico, con mayor peso de protección de datos, derechos de imagen y futuras obligaciones ligadas al Reglamento de IA. Aun así, el caso estadounidense será observado por plataformas, desarrolladores y reguladores porque puede fijar criterios sobre cómo escribir leyes contra usos abusivos de IA generativa.
La regulación eficaz necesitará distinguir entre modelos, herramientas, intención de uso y distribución del daño, una separación difícil en productos de consumo masivo.
Para las empresas de IA, el riesgo reputacional es evidente. Aunque un modelo general no haya sido creado para generar deepfakes sexuales, puede ser usado por aplicaciones de terceros si no existen controles suficientes. Eso obliga a reforzar políticas de uso, filtros, trazabilidad, detección de abuso y respuesta ante denuncias.
Para los usuarios, el problema es más inmediato. Las víctimas de imágenes sexuales falsas necesitan retirada rápida, identificación de responsables y vías legales accesibles. Una ley que tarde años en litigarse puede dejar un vacío práctico si las plataformas no cooperan o si las aplicaciones operan desde otras jurisdicciones.
El caso también muestra que la legislación estatal en Estados Unidos avanza a distinta velocidad que la federal. Cuando cada estado crea reglas propias, las empresas tecnológicas enfrentan un mosaico de obligaciones. Eso puede acelerar demandas estratégicas para aclarar límites antes de que normas similares se repliquen.
La demanda de xAI no cerrará el debate sobre deepfakes sexuales, pero puede marcar cómo se redactan las próximas leyes para resistir impugnaciones.
Para compañías españolas que desarrollen IA generativa, la enseñanza es preventiva. No basta con revisar si una función es técnicamente posible. Hay que evaluar usos previsibles, daños, controles y documentación. El coste de ignorar esos escenarios puede acabar en tribunales, sanciones o pérdida de confianza antes de que el producto madure.
