Apple y Google han retirado aplicaciones que generaban imágenes de desnudos con inteligencia artificial después de la presión del fiscal general de Texas, según informó WIRED. El caso vuelve a poner bajo el foco a las tiendas móviles, que durante años han funcionado como puerta de entrada para millones de usuarios y ahora se enfrentan a una categoría especialmente sensible: herramientas capaces de crear imágenes sexuales no consentidas con unos pocos clics.
La decisión no es solo una cuestión de moderación de contenidos: afecta al modelo de control que Apple y Google ejercen sobre sus ecosistemas. Las dos compañías revisan apps, imponen normas de publicación y cobran comisiones por actividad comercial. Cuando una aplicación dañina consigue distribución, la responsabilidad pública ya no se dirige únicamente al desarrollador.
La tecnología detrás de estas apps no es nueva, pero su facilidad de uso ha cambiado la escala del problema. Antes se necesitaban conocimientos técnicos y tiempo para manipular imágenes. Ahora muchas herramientas empaquetan esa capacidad en interfaces simples, con anuncios agresivos y promesas explícitas. El daño puede dirigirse contra menores, exparejas, compañeras de trabajo o figuras públicas, y la víctima suele descubrirlo cuando la imagen ya circula.
El caso de Texas encaja con una tendencia más amplia en Estados Unidos y Europa. Legisladores, fiscales y reguladores están intentando actualizar normas sobre privacidad, identidad, abuso sexual digital y responsabilidad de plataformas. La dificultad está en distinguir entre herramientas creativas legítimas y productos diseñados para facilitar daño. Esa frontera se vuelve más borrosa cuando una app se presenta como editor de imágenes, pero su marketing empuja a usos abusivos.
Para la industria tecnológica, la lección es incómoda: la innovación en IA generativa ya no puede separarse de controles de abuso, trazabilidad y respuesta rápida. Un modelo que produce imágenes realistas necesita filtros, límites de edad, vías de denuncia y reglas claras sobre rostros de terceros. Si esas piezas llegan tarde, la presión legal llega antes.
Apple y Google tienen además incentivos distintos a los de una plataforma abierta. Sus tiendas prometen confianza. El usuario medio asume que una aplicación disponible en App Store o Google Play ha pasado cierto filtro de seguridad. Esa percepción es valiosa, pero también eleva el listón cuando una categoría se demuestra dañina.
Las empresas que desarrollan productos de IA deberían leer el episodio como una señal temprana. Las políticas internas no pueden limitarse a un documento legal. Deben afectar al diseño del producto, a las palabras usadas en anuncios, a los datos de entrenamiento, a los sistemas de reporte y al cierre de cuentas reincidentes. Una app puede cumplir formalmente una norma y aun así estar diseñada para explotar una zona gris.
El debate también alcanzará a los proveedores de modelos, pasarelas de pago y redes publicitarias. Si un servicio depende de APIs externas, monetiza suscripciones y compra anuncios en redes sociales, hay más actores con capacidad de cortar la cadena. La pregunta regulatoria será quién debía haber detectado antes el riesgo.
La retirada de estas apps marca un precedente: las tiendas móviles empiezan a ser tratadas como guardianes activos frente al abuso de IA, no como simples escaparates. Esa expectativa puede endurecer los procesos de revisión para cualquier producto que manipule rostros, cuerpos o identidad personal.
