Algo que empezó como una función más de Grok, el asistente creado por xAI e integrado en la misma red (antes twitter), está ahora mismo en el centro de una polémica que está generando un rechazo a nivel global. Se trata de la creación de imágenes por parte de ese asistente que, en este caso, ha creado imágenes sexuales de personas reales sin su consentimiento. Entre las víctimas hay tanto mujeres famosas como personas anónimas e incluso menores.
Hasta ahora, cualquier usuario podía subir una foto a X y pedirle a Grok que la modificara. El problema es que muchos usaron esa posibilidad para crear imágenes humillantes, ofensivas y sexuales, todo sin el consentimiento de la persona protagonista de la foto. El contenido empezó a circular sin control y la indignación fue creciendo en distintos países. No se trata solo de un mal uso, sino de una falta grave de límites.
Un freno que llegó tarde
Ante la presión, la empresa creada por Elon Musk decidió restringir la función. Desde ahora, solo los usuarios de pago pueden generar o editar imágenes con Grok dentro de X. La idea es reducir este tipo de abusos, aunque para muchos la decisión llegó cuando el daño ya estaba hecho.
Por su parte, Elon Musk afirmó que la plataforma no tolera contenidos ilegales y que quienes usen la herramienta para ese tipo de fines enfrentarán consecuencias. Aun así, la medida no convence a todos. Especialmente porque la aplicación independiente de Grok sigue permitiendo crear imágenes sin pagar, algo que muchos consideran una contradicción.
Reacciones a nivel global
Algunos gobiernos decidieron ir más lejos. Por ejemplo, Indonesia y Malasia ya han bloqueado temporalmente el acceso a Grok. Las autoridades de los respectivos países, consideran que este tipo de imágenes no solo dañan la dignidad de las personas, sino que también ponen en riesgo la seguridad en internet.
India exigió cambios inmediatos para frenar el uso indebido de la herramienta. En Estados Unidos, en cambio, el gobierno no se pronunció oficialmente, aunque algunos senadores pidieron que X sea retirada de las tiendas de aplicaciones.
En Europa, la preocupación también está a la orden del día. La Comisión Europea ha pedido a la empresa que conserve toda la información relacionada con Grok, por lo que todo apunta a una posible investigación. En Francia, la Fiscalía de París ya ha abierto una causa para investigar la creación de deepfakes de contenido sexual explícito. Por su parte, en el Reino Unido, el organismo regulador también está revisando si hubo incumplimientos de la ley.
Una alerta que va más allá de Grok
Lo ocurrido estas últimas semanas con la generación de imágenes con Grok ha reavivado la llama de la desconfianza sobre los límites de la IA. La tecnología avanza rápido, pero las reglas y la protección de las personas parece que no van al mismo ritmo. Crear imágenes falsas es cada vez más fácil, pero nadie parece haber pensado en el impacto real que tiene esto sobre quienes aparecen en ellas.
