California se ha convertido en el primer estado de Estados Unidos en aprobar una legislación específica para los chatbots de compañía basados en inteligencia artificial. El gobernador Gavin Newsom ha firmado la ley SB 243, que entrará en vigor el 1 de enero de 2026, y que obligará a los desarrolladores a informar de forma clara a los usuarios de que interactúan con una IA, implementar medidas de seguridad y activar protocolos ante señales de autolesión o riesgo suicida.
La norma se enmarca en un paquete más amplio orientado a reforzar la protección de los menores en entornos digitales. Este conjunto de medidas incluye la verificación de edad, advertencias explícitas sobre el uso de IA generativa y sanciones de hasta 250 000 dólares por la creación o difusión de deepfakes sexuales no consentidos.
El texto define como “chatbots de compañía” aquellos sistemas diseñados para mantener conversaciones prolongadas o emocionales con los usuarios. Las empresas deberán bloquear contenidos sexuales, incluir recordatorios periódicos sobre su naturaleza automatizada y activar respuestas inmediatas ante comportamientos de riesgo. Además, los desarrolladores deberán remitir informes anuales al Departamento de Salud Pública de California con el detalle de las medidas aplicadas y las incidencias detectadas.
Preocupación por la salud mental y la responsabilidad tecnológica
Durante el debate legislativo, el senador Steve Padilla, impulsor del proyecto junto con Josh Becker, subrayó la necesidad de establecer límites claros para una tecnología que avanza rápidamente y puede afectar a la salud mental de los jóvenes. La propuesta obtuvo amplio apoyo bipartidista, reflejo de una preocupación común por el impacto social de los chatbots conversacionales.
Aunque la norma se centra en los sistemas diseñados para ofrecer compañía emocional, su alcance podría extenderse a otras áreas como la atención al cliente, la educación o la salud digital. Expertos en cumplimiento normativo advierten que la definición de “compañero digital” es lo suficientemente amplia como para incluir experiencias interactivas con contacto recurrente, incluso sin un componente afectivo.
El marco introduce además un principio de responsabilidad compartida entre desarrolladores y operadores de plataformas. En caso de incumplimiento o generación de contenidos inadecuados, las víctimas o sus familias podrán emprender acciones civiles por daños psicológicos o negligencia tecnológica.
Transparencia, control y referente internacional
La aprobación de la SB 243 llega pocas semanas después de la SB 53, que impone requisitos de transparencia a grandes laboratorios de IA como OpenAI, Anthropic, Meta o Google DeepMind. Esta norma obliga a publicar los protocolos de seguridad y control interno y protege a los empleados que denuncien irregularidades. Con ambas leyes, California refuerza su posición como referente en gobernanza tecnológica en Estados Unidos, un liderazgo ya visible en materia de privacidad y datos personales.
Organizaciones como Common Sense Media valoraron positivamente el avance, aunque lamentaron la eliminación de las auditorías externas previstas en versiones anteriores. Aun así, la SB 243 se interpreta como un precedente clave para otros estados —como Utah, Illinois o Nevada— que preparan regulaciones similares.
La estrategia californiana parte de una premisa: la innovación debe ir acompañada de control y transparencia. La administración sostiene que progreso tecnológico y protección de los usuarios más vulnerables deben avanzar de forma conjunta, y que las empresas de IA deben asumir un compromiso activo con la seguridad digital y el bienestar mental de los menores. Con la entrada en vigor prevista para 2026, las compañías que operen en el estado deberán adaptar sus modelos de IA a las nuevas exigencias. California aspira a que esta legislación se convierta en un modelo de referencia internacional para equilibrar el desarrollo tecnológico con la responsabilidad social.
