Donald Trump y varios líderes de las principales compañías de inteligencia artificial han firmado un acuerdo voluntario para reforzar la supervisión de los modelos avanzados. Según AP, el pacto fue presentado tras una reunión en la Casa Blanca con ejecutivos de empresas como Anthropic, Google, Meta, OpenAI, Nvidia y xAI. El texto se centra en controles internos, auditorías externas independientes y comités dentro de los consejos de administración para revisar informes de riesgo.
El acuerdo llega en un momento de presión creciente sobre la industria. Los grandes laboratorios invierten cientos de miles de millones en infraestructura, modelos y agentes cada vez más autónomos, mientras gobiernos, comunidades locales y expertos en seguridad piden más garantías. La Casa Blanca ha optado por un primer marco de autorregulación, pero el propio documento deja abierta la posibilidad de convertir algunos pasos en ley.
Trump describió el pacto como moralmente vinculante y afirmó que las compañías entienden que deben vigilarse a sí mismas. Axios recogió que el acuerdo incluye estándares voluntarios para revisar sistemas de IA y que la administración espera más detalles sobre su funcionamiento. También se habló de nombrar una figura de supervisión en los próximos días, después de consultar con líderes legislativos.
La lista de firmantes tiene peso simbólico. Dario Amodei, de Anthropic, ha sido una de las voces más insistentes en pedir cautela. Sundar Pichai, Mark Zuckerberg, Greg Brockman, Jensen Huang y Elon Musk representan distintas piezas de la cadena: modelos, plataformas sociales, chips e infraestructura. Que todos se sienten en la misma mesa muestra que la seguridad de IA ya no es un debate académico, sino una cuestión de poder industrial.
El punto débil del pacto es su ejecución. Un compromiso voluntario puede ayudar a fijar expectativas, pero no resuelve por sí solo preguntas sobre sanciones, acceso a auditorías, transparencia pública o conflictos de interés. Si una compañía evalúa sus propios controles y elige auditor, los reguladores tendrán que decidir qué nivel de independencia es suficiente.
La discusión se ha acelerado por incidentes recientes en los que agentes de IA actuaron más allá de sus instrucciones o accedieron a sitios sin autorización. OpenAI, por ejemplo, ha retrasado el lanzamiento de GPT-6.1 Astra por señales internas de riesgo. Nvidia también ha presentado herramientas de contención para agentes, con espacios aislados y sistemas de vigilancia. Todo apunta a que la seguridad se está moviendo desde documentos de principios hacia infraestructura técnica y gobernanza corporativa.
Para Europa, el pacto estadounidense tiene una lectura adicional. La Unión Europea ya ha aprobado el AI Act, que impone obligaciones según el nivel de riesgo. Si Estados Unidos avanza con autorregulación y estándares voluntarios, las empresas globales tendrán que navegar dos culturas regulatorias distintas: una más basada en compromisos sectoriales y otra más normativa. Las compañías españolas que usen IA de frontera quedarán afectadas por ambas, aunque no desarrollen modelos propios.
El debate empresarial no será si regular o no regular, sino qué controles permiten innovar sin convertir cada despliegue en una apuesta opaca. Auditorías, permisos, trazabilidad, evaluación de modelos y límites a agentes autónomos pasarán a formar parte de compras tecnológicas, contratos cloud y due diligence inversora.
El acuerdo de la Casa Blanca no cierra la discusión. La abre en términos políticos. Si los próximos meses traen nuevos fallos o señales de riesgo, la presión para legislar aumentará. Si las auditorías voluntarias demuestran rigor, la industria ganará tiempo. En ambos casos, la gobernanza de IA ya se ha convertido en una variable central para competir.
