PrismML ha presentado Bonsai 2 27B, un modelo de razonamiento comprimido que reduce Qwen3.8 27B, un modelo abierto de Alibaba, hasta 5,9 GB. Según TechCrunch, la compañía afirma que esa reducción de memoria, de entre 9 y 10 veces frente al modelo original, permite ejecutar capacidades avanzadas en ordenadores personales y, potencialmente, en teléfonos de gama alta.
La startup fue fundada por investigadores de Caltech y está dirigida por Babak Hassibi, profesor especializado en tecnologías de compresión. Cuenta con respaldo de Khosla Ventures, Cerberus Capital y Caltech, además de asesores como Ion Stoica, cofundador de Databricks y director del Sky Computing Lab de Berkeley.
La propuesta de PrismML apunta a una pregunta central para la próxima etapa de la IA: cuánto puede acercarse la inteligencia al dispositivo sin depender siempre de la nube. Si modelos potentes corren localmente, cambian costes, privacidad, latencia y control para usuarios y empresas.
Bonsai 2 utiliza pesos ternarios, una técnica que simplifica la información almacenada por el modelo a tres valores posibles: +1, -1 o 0. La compañía sostiene que conserva el 98% del rendimiento agregado de Qwen en benchmarks, frente al 95% del primer Bonsai. Es una mejora relevante, aunque los propios benchmarks no siempre reflejan tareas reales con precisión.
El enfoque no es exclusivo. Multiverse Computing, nacida en España y vinculada al ecosistema científico vasco, también trabaja en compresión de modelos y ha levantado capital relevante. La diferencia competitiva estará en cuánta calidad se conserva, qué facilidad de integración ofrece cada herramienta y qué modelos pueden comprimirse sin perder utilidad.
Para empresas, los modelos comprimidos pueden reducir factura cloud y facilitar despliegues donde los datos no deben salir del dispositivo o de una red privada. Un equipo legal, una fábrica o una clínica pueden preferir IA local para ciertas tareas si el rendimiento es suficiente.
También hay implicaciones para fabricantes de hardware. Si un modelo razonador cabe en un PC o en un móvil, la competencia ya no gira solo en torno a centros de datos. Procesadores, memoria, sistemas operativos y tiendas de aplicaciones pueden convertirse en canales de distribución de inteligencia local. La adopción podría empezar por funciones concretas, como búsqueda privada, resumen de documentos o asistencia sin conexión.
PrismML afirma que su siguiente objetivo es aplicar la técnica a modelos de varios cientos de miles de millones de parámetros. Hassibi sostiene que los modelos grandes ofrecen más margen para comprimir sin perder inteligencia. La afirmación deberá probarse con tareas reales, no solo con resultados agregados.
El reto será evitar que la obsesión por reducir tamaño oculte pérdidas de fiabilidad en casos complejos. Un modelo local útil debe ser rápido y privado, pero también consistente, actualizable y seguro. La compresión no elimina la necesidad de evaluación.
La noticia encaja con una tendencia clara: el futuro de la IA será híbrido. Habrá modelos gigantes en centros de datos, pero también modelos pequeños y especializados en dispositivos. PrismML quiere ocupar ese segundo frente, donde la promesa es inteligencia más barata, más cercana y menos dependiente de la nube.
