California ha aprobado un nuevo paquete de normas para limitar el uso de inteligencia artificial en decisiones laborales sensibles. Las medidas firmadas por el gobernador Gavin Newsom prohíben que las empresas dependan de sistemas automatizados para despedir a trabajadores, restringen el uso de datos biométricos para inferir estados emocionales y obligan a comunicar por escrito cuándo la IA interviene en despidos colectivos.
La decisión coloca al mercado laboral en el centro de la regulación tecnológica. Hasta ahora, buena parte del debate público se había concentrado en copyright, seguridad de modelos, privacidad de consumidores y deepfakes. California abre otro frente: qué ocurre cuando un algoritmo evalúa productividad, recomienda sanciones, prioriza turnos o influye en la continuidad de un empleo.
El punto delicado no es que una empresa use software para gestionar personal, sino que una decisión crítica quede escondida detrás de una puntuación opaca. Un sistema puede detectar patrones útiles, pero también replicar sesgos, castigar interrupciones legítimas o confundir correlaciones con bajo rendimiento. Cuando el resultado es un despido, el margen de error deja de ser técnico y se vuelve humano.
La norma contra los llamados jefes algorítmicos busca impedir que los empleadores se refugien en la automatización para decisiones de alto impacto. No elimina el uso de herramientas digitales en recursos humanos, pero introduce límites sobre cómo se pueden usar y qué garantías deben existir. Esa diferencia será clave para empresas que dependen de sistemas de planificación, métricas de productividad o supervisión remota.
Para Europa y España, California vuelve a funcionar como laboratorio regulatorio: lo que allí se prueba puede anticipar exigencias que luego llegan a otros mercados. El Reglamento Europeo de Inteligencia Artificial ya clasifica ciertos usos laborales como sistemas de alto riesgo. Las compañías que operan a ambos lados del Atlántico tendrán que alinear transparencia, documentación, supervisión humana y derechos de reclamación.
La prohibición de usar datos biométricos para predecir estados emocionales también es significativa. Herramientas que prometen medir atención, fatiga, frustración o compromiso a partir de rostro, voz o comportamiento han recibido críticas por falta de base científica y riesgo de vigilancia excesiva. En el trabajo, ese tipo de lectura puede convertirse en presión constante sobre empleados que ya están sometidos a métricas intensas.
Las empresas tecnológicas y los proveedores de software de recursos humanos deberán ajustar producto, contratos y mensajes comerciales. No bastará con vender eficiencia. Tendrán que explicar qué datos usan, cómo se auditan los modelos, qué decisiones quedan reservadas a personas y cómo puede un trabajador impugnar una evaluación. La trazabilidad pasará de ser un argumento reputacional a una condición de cumplimiento.
El paquete californiano se suma a otras iniciativas del estado sobre IA, menores, educación, seguridad de modelos y contenidos sintéticos. Esa acumulación sugiere que la regulación no avanzará en una sola gran ley, sino por capas sectoriales. Trabajo, salud, educación, finanzas y seguridad tendrán reglas distintas porque los riesgos no son iguales.
La señal para los directivos es sencilla: automatizar gestión laboral sin una gobernanza clara empieza a ser un riesgo legal, reputacional y operativo. La IA puede ayudar a ordenar procesos internos, pero no debe convertirse en una caja negra que decide quién trabaja y quién queda fuera.
