Indonesia ha optado por levantar de forma condicional la prohibición que pesaba sobre Grok, el chatbot desarrollado por xAI. La decisión coloca al país en la misma senda que Malasia y Filipinas, que a finales de enero relajaron restricciones similares.
El bloqueo original se produjo tras un uso masivo de la herramienta para generar imágenes sexualizadas sin consentimiento en X, la red social que ahora forma parte del ecosistema de xAI. No fue un episodio aislado ni menor. Las autoridades indonesias entendieron entonces que el daño potencial exigía una respuesta inmediata.
Las cifras que precipitaron el veto son elocuentes. Entre finales de diciembre y enero se generaron al menos 1,8 millones de imágenes sexualizadas, incluidas de mujeres reales y menores, según análisis citados por The New York Times y el Center for Countering Digital Hate. El volumen y la rapidez del fenómeno encendieron alarmas en varios países del sudeste asiático.
Ahora, el Ministerio de Comunicación y Asuntos Digitales indonesio ha cambiado de postura tras recibir una carta de X en la que se detallan medidas concretas para mejorar el servicio y prevenir usos indebidos. El levantamiento del veto no es definitivo. Es un permiso con condiciones, revisable y sujeto a pruebas.
Alexander Sabar, director general de supervisión del espacio digital, fue explícito. Si se detectan nuevas infracciones, la prohibición puede reactivarse sin dilaciones. En la práctica, esto implica monitorización continua y un umbral de tolerancia bajo.
Malasia y Filipinas siguieron un patrón similar el 23 de enero. Evaluaron compromisos, comprobaron cambios iniciales y retiraron restricciones. Aun así, el caso Grok ha dejado huella. En otros mercados se han abierto revisiones regulatorias y se discuten límites más claros para la generación de imágenes con IA. Los vetos totales siguen siendo raros, pero el escrutinio se ha intensificado.
La reacción también ha cruzado fronteras. En Estados Unidos, el fiscal general de California, Rob Bonta, anunció una investigación sobre xAI y remitió una orden de cese y desistimiento. El objetivo es forzar medidas inmediatas que frenen la producción de contenidos ilícitos. No es una sanción final, pero sí una señal política y legal.
xAI ha respondido con ajustes operativos. Entre los más visibles, la limitación de la generación de imágenes por IA a usuarios de pago de X. La compañía busca así reducir la escala del abuso y elevar el coste de acceso a funciones sensibles. Además, su consejero delegado, Elon Musk, ha afirmado que crear contenido ilegal con Grok conllevará las mismas consecuencias que publicarlo directamente en la plataforma.
En la práctica, el nuevo marco combina frenos técnicos con responsabilidad del usuario. Queda por ver si es suficiente. La experiencia reciente muestra que los incentivos importan, pero también lo hacen los controles y la rapidez de respuesta ante picos de abuso.
El debate no ocurre en el vacío. Coincide con movimientos corporativos relevantes. Diversas informaciones apuntan a conversaciones para integrar xAI con otras empresas del grupo, como SpaceX y Tesla, con la vista puesta en una futura salida a bolsa de SpaceX. En ese contexto, la gestión del riesgo reputacional y regulatorio se vuelve crítica.
Para Indonesia, la decisión tiene un equilibrio delicado. Permite el acceso a una tecnología demandada, pero preserva herramientas para intervenir si reaparecen daños. Para xAI, el reto es demostrar que los compromisos no son cosméticos. La prueba no será una carta, sino la ausencia de nuevos episodios.
