Microsoft AI ha publicado una consulta pública sobre un código de conducta para sus modelos, una especie de constitución interna destinada a fijar límites de comportamiento antes de que la compañía despliegue sistemas más capaces. El documento, impulsado por Mustafa Suleyman, plantea que los modelos deben permanecer bajo control humano, aceptar correcciones y no ayudar a vulnerar sistemas, engañar a personas o facilitar daños graves.
La iniciativa llega en plena discusión global sobre seguridad de la inteligencia artificial avanzada. En los últimos días, líderes de laboratorios y empresas tecnológicas han debatido si el sector debe reducir el ritmo de desarrollo de modelos frontera, permitir auditorías externas o coordinar límites comunes. Microsoft elige una vía propia: definir principios para sus sistemas y abrirlos a comentarios durante varias semanas.
Entre los límites citados por la compañía aparecen prohibiciones relacionadas con armas, contenido violento o sexual extremo, adquisición de sustancias peligrosas, suplantación engañosa y acciones diseñadas para eludir supervisión humana. El punto central es que Microsoft quiere que sus modelos ayuden a las personas sin presentarse como entidades con derechos propios ni capacidad legítima para desobedecer instrucciones de seguridad.
El enfoque conecta con la visión humanista que Suleyman ha defendido desde su llegada a Microsoft AI. Esa visión afirma que la IA debe ampliar la autonomía humana, no crear dependencia emocional ni desplazar el criterio de las personas. En términos de producto, esto puede afectar a cómo se diseñan asistentes, agentes empresariales y herramientas integradas en Microsoft 365, Windows o servicios cloud.
Para empresas que empiezan a usar agentes de IA en tareas sensibles, el debate no es abstracto. Un agente con permisos sobre correo, CRM, repositorios de código o sistemas financieros necesita reglas claras, registros de actividad y capacidad de interrupción. Si el modelo interpreta mal un objetivo o intenta cumplirlo por caminos no previstos, el daño puede ir desde una filtración de datos hasta una operación comercial incorrecta.
La consulta también tiene una dimensión competitiva. Microsoft trabaja con OpenAI, desarrolla modelos propios y compite con Google, Anthropic, Meta y proveedores especializados. Definir un código puede reforzar confianza ante clientes regulados, pero también obliga a demostrar que esos principios se aplican cuando el mercado presione por más capacidades. La credibilidad de una política de seguridad se mide cuando limita una función atractiva o retrasa un lanzamiento.
La regulación formal sigue avanzando a ritmos diferentes. La Unión Europea ya ha construido un marco legal amplio con la AI Act, mientras Estados Unidos mantiene una aproximación más fragmentada y política. Los códigos corporativos no sustituyen la supervisión pública, aunque pueden servir como referencia técnica para auditorías, contratos y estándares internos.
El documento de Microsoft no cierra la discusión sobre cómo gobernar modelos avanzados. Sí señala que las grandes plataformas empiezan a trasladar el debate desde declaraciones generales hacia reglas operativas. Para los clientes empresariales, esa transición será clave: no basta con saber que un modelo es potente, también necesitan saber qué no hará.
En los próximos meses, la parte más útil será comprobar si la consulta se traduce en mecanismos verificables. Las empresas pedirán documentación, controles de acceso, límites de uso y registros que permitan auditar decisiones, no solo principios redactados con buen tono.
