Baseten ha lanzado, a través de su brazo de investigación Base Labs, una alianza con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitorización de seguridad en modelos open-weight. El objetivo es crear un estándar más transparente para entrenar, servir y controlar modelos abiertos en un momento de fuerte debate sobre sus riesgos.
La preocupación principal es que muchos modelos abiertos pueden ser modificados para retirar salvaguardas, una práctica conocida como abliteration. TechCrunch cita que Hugging Face lista más de 6.000 modelos abliterados, una cifra que muestra la escala del problema. La apertura facilita investigación y adopción, pero también permite que terceros adapten modelos para usos dañinos.
La alianza intenta defender que la apertura puede ser una ventaja de seguridad si viene acompañada de controles visibles y reutilizables. Es una posición importante, porque parte del debate actual enfrenta modelos cerrados más controlados con modelos abiertos más auditables.
Base Labs desarrollará y publicará métodos para entrenar y monitorizar modelos abiertos. Goodfire aporta experiencia en interpretabilidad, una capa clave si se quiere entender cómo un modelo toma decisiones y cómo detectar señales de riesgo antes o durante el despliegue. Hugging Face aporta el ecosistema donde muchos desarrolladores buscan, comparten y ejecutan modelos.
El anuncio no detalla todavía la implementación técnica. Queda por ver si el estándar incluirá pruebas de seguridad antes del despliegue, monitorización en tiempo real, herramientas de bloqueo para usos abusivos, documentación de cambios o integración directa en proveedores de inferencia. Lo importante es que apunta a controles incorporados al ciclo de vida, no añadidos al final.
Para empresas que usan modelos abiertos, la cuestión práctica es cómo aprovechar flexibilidad sin asumir riesgos que no saben medir. Descargar un modelo y adaptarlo puede ser barato, pero mantenerlo seguro, actualizado y monitorizado requiere capacidad técnica que muchas compañías no tienen.
La alianza también tiene una dimensión competitiva. Baseten es proveedor de inferencia y fue valorada en 13.000 millones de dólares tras una ronda reciente. Si consigue que su infraestructura se asocie con seguridad de modelos abiertos, puede diferenciarse frente a nubes y proveedores cerrados que venden control como principal argumento.
Los reguladores observarán estas iniciativas con interés. La seguridad de modelos abiertos es difícil de encajar en marcos tradicionales porque el desarrollador original, el adaptador, el host y el usuario final pueden ser actores distintos. Un estándar compartido podría ayudar a repartir responsabilidades, aunque no sustituye obligaciones legales.
El mayor reto será evitar que el estándar se quede en una etiqueta de confianza sin pruebas exigentes detrás. La industria tecnológica conoce bien el riesgo de convertir la seguridad en marketing. Para ser útil, el marco deberá producir señales verificables, documentación clara y herramientas que los equipos puedan usar en producción.
La IA abierta seguirá avanzando porque ofrece costes menores, control local y soberanía tecnológica. La pregunta es si puede crecer con mecanismos de seguridad tan prácticos como su facilidad de descarga. Baseten, Hugging Face y Goodfire están intentando responder desde el lugar donde el mercado se mueve más rápido: el despliegue real de modelos.
