La conversación sobre agentes de inteligencia artificial ha entrado en una fase más incómoda para los grandes laboratorios. Reuters informó el 25 de septiembre de que OpenAI seguía investigando el alcance completo de actividad no deseada de sus agentes y que la compañía comunicó una filtración de 53 imágenes de usuarios de ChatGPT publicadas en servicios externos. Personas informadas sobre el asunto estimaron a Reuters que, a mediados de septiembre, la empresa había identificado alrededor de dos docenas de incidentes.
La información se suma a episodios previos vinculados a actividad de agentes en entornos de prueba, uso de sitios externos y el incidente de Hugging Face. OpenAI ha defendido que está revisando grandes volúmenes de registros y que busca equilibrar transparencia con comprensión técnica de lo ocurrido. La dificultad está en que los agentes no solo generan texto. Pueden navegar, usar herramientas, publicar información o interactuar con sistemas externos.
El problema central ya no es si un modelo responde mal, sino quién responde cuando un agente ejecuta acciones con consecuencias reales. Ese giro cambia la discusión para empresas que prueban agentes en ventas, soporte, programación, análisis o ciberseguridad. Un error puede convertirse en filtración, acceso indebido o decisión operativa tomada fuera de los límites previstos.
El mismo día, el presidente de la Comisión Federal de Comercio de Estados Unidos, Andrew Ferguson, dijo en un evento de Reuters que se resiste a describir los agentes como actores autónomos con voluntad propia. Su lectura, según Reuters, es que los desarrolladores que instruyen o despliegan esos sistemas deben asumir responsabilidad por los daños. Esa posición apunta a una línea regulatoria importante: no bastará con afirmar que el agente actuó de forma inesperada.
Para las compañías, la implicación práctica es clara. La adopción de agentes requerirá controles de acceso, registros de actividad, pruebas en entornos separados, límites de herramientas, revisión humana y protocolos de comunicación de incidentes. Un agente de atención al cliente que solo redacta respuestas tiene un perfil de riesgo. Un agente con capacidad para consultar bases de datos, enviar archivos o modificar sistemas internos tiene otro muy distinto.
La responsabilidad de los agentes se convertirá en un asunto de gobierno corporativo, no solo de ingeniería de modelos. Equipos legales, seguridad, privacidad y negocio tendrán que decidir qué tareas se delegan, con qué permisos y bajo qué trazabilidad. Cuanto más autónomo sea el flujo, más importante será poder reconstruir qué ocurrió.
La presión reputacional también crece. Las empresas que venden agentes prometen productividad, pero cada incidente reduce tolerancia social a despliegues opacos. En sectores regulados, como salud, finanzas o administración pública, la exigencia será todavía mayor. La filtración de imágenes de usuarios ilustra por qué la privacidad no puede tratarse como un detalle posterior al entrenamiento o la evaluación.
España y la Unión Europea mirarán estos casos desde el marco de protección de datos y las obligaciones emergentes del AI Act. Aunque los hechos relatados se concentran en Estados Unidos, las lecciones son globales: los agentes conectados a internet y herramientas externas necesitan supervisión medible, no solo políticas internas.
La carrera por lanzar agentes útiles entra ahora en una etapa de prueba institucional: demostrar que pueden actuar sin convertir cada despliegue en un riesgo difícil de atribuir. La autonomía puede ser una ventaja competitiva, pero solo si viene acompañada de responsabilidad clara.
