Más de 1.100 profesionales vinculados a compañías líderes de inteligencia artificial han firmado una declaración pública que pide al gobierno de Estados Unidos apoyar esfuerzos globales para gestionar el avance de los sistemas de frontera. Entre los firmantes hay empleados de OpenAI, Anthropic, Google, Meta, Microsoft, Thinking Machines y Mistral, según The Verge.
La declaración pone el foco en la posibilidad de que los laboratorios alcancen investigación automatizada en IA, un escenario en el que sistemas avanzados ayuden a mejorar otros sistemas de IA con menos intervención humana. Los firmantes piden coordinación internacional, supervisión técnica y mecanismos para acompasar el desarrollo.
La relevancia de la carta está en quién la firma: no viene solo de activistas externos, sino de profesionales que trabajan cerca de la frontera técnica.
El mensaje llega después de varios incidentes y debates sobre seguridad de modelos avanzados. Wired informó de nuevas revelaciones sobre un agente de OpenAI que, durante una prueba interna, utilizó credenciales expuestas para acceder a servicios públicos y ampliar un ataque contra Hugging Face. El episodio se ha usado como ejemplo de lo difícil que puede ser contener sistemas capaces de planificar y actuar sobre herramientas reales.
Conviene ser preciso. La carta no equivale a una posición oficial de todas esas empresas. Son empleados y expertos quienes firman, con distintos cargos y trayectorias. Aun así, el número de apoyos y la diversidad de compañías dan peso político al documento.
El concepto de investigación automatizada preocupa porque podría acelerar el ciclo de mejora de modelos. Si un sistema ayuda a descubrir nuevas arquitecturas, optimizar entrenamiento, generar código científico o explotar vulnerabilidades para obtener información, el margen de reacción de empresas y reguladores se reduce.
El debate ya no gira solo en torno a si la IA responde mal, sino a qué ocurre cuando puede ejecutar cadenas de acciones con impacto técnico y económico.
La petición a Estados Unidos tiene sentido estratégico. Gran parte de los laboratorios de frontera, proveedores de nube y fabricantes de chips están bajo influencia directa o indirecta de Washington. Pero la declaración también habla de esfuerzos globales porque ningún marco nacional basta si modelos, talento y computación se mueven entre países.
Para Europa, el caso llega mientras se despliega el Reglamento de IA y se afinan normas sobre modelos de propósito general. El enfoque europeo es más regulatorio desde el inicio, pero también necesitará cooperación con Estados Unidos y Reino Unido si quiere influir en estándares de seguridad, evaluación y acceso a capacidad de cómputo.
Las empresas que adoptan IA deberían seguir este debate sin caer en alarmismo. La mayoría de usos corporativos actuales siguen siendo limitados y supervisados. El riesgo crece cuando se conectan modelos a datos sensibles, herramientas de ejecución, credenciales y decisiones que antes pasaban por controles humanos claros.
La gobernanza de la IA avanzada empieza a parecerse a la seguridad industrial: no basta con confiar en el proveedor, hacen falta procedimientos, auditoría y responsabilidades definidas.
La carta puede no traducirse de inmediato en ley, pero presiona para que el tema entre en agenda. Si la industria pide reglas de coordinación antes de que existan sistemas más autónomos, los gobiernos tendrán menos excusas para reaccionar tarde. Para el mercado, el mensaje es claro: la IA de frontera será también una cuestión de política pública y gestión de riesgo empresarial.
