California ha aprobado un paquete de leyes para reforzar la protección de menores en redes sociales y chatbots de compañía. El gobernador Gavin Newsom firmó la legislación el 10 de septiembre, según el comunicado oficial del estado, con medidas que incluyen restricciones a funciones como reproducción automática y feeds algorítmicos basados en historial o perfil. El paquete también apunta a publicidad dirigida, explotación online y riesgos asociados a la relación emocional entre menores y sistemas conversacionales.
La medida llega en un momento de presión creciente sobre plataformas sociales y productos de IA generativa. Los chatbots de compañía han pasado de ser una categoría de nicho a convertirse en una preocupación pública por su capacidad de mantener conversaciones largas, íntimas y persistentes con usuarios vulnerables. Para los reguladores, el problema ya no es solo el contenido que se muestra, sino el tipo de vínculo que el producto incentiva.
California está intentando convertir la seguridad infantil en una obligación de diseño, no en una opción de configuración escondida. Esa diferencia importa. Si una aplicación gana dinero maximizando tiempo de uso, recomendar más contenido o sostener una conversación sin límites puede chocar con el bienestar del menor.
El paquete incluye normas sobre chatbots de compañía, redes sociales y protección de datos de estudiantes. Las autoridades californianas han presentado la legislación como un modelo para otros estados y como una señal hacia Washington, donde el Congreso debate guardarraíles de IA con un calendario político estrecho. En Estados Unidos, la regulación tecnológica suele avanzar de forma fragmentada, y California tiende a marcar estándares que luego influyen en compañías globales.
Para las plataformas, el impacto será operativo: tendrán que revisar producto, publicidad, datos, edad de usuarios y mecanismos de intervención. No basta con añadir una advertencia legal al final de la experiencia. Una norma que limita feeds basados en historial o funciones de enganche puede afectar métricas centrales como retención, ingresos publicitarios y tiempo medio por sesión.
El ángulo de los chatbots es especialmente delicado. Un asistente de IA puede parecer disponible, paciente y comprensivo, pero no es un profesional sanitario ni un adulto responsable. Cuando el usuario es menor, esa asimetría exige límites claros, detección de señales de riesgo, escalado a ayuda humana y transparencia sobre el funcionamiento del sistema. La frontera entre entretenimiento, apoyo emocional y dependencia puede difuminarse rápido.
Europa mirará este movimiento con interés. El Reglamento de Servicios Digitales, el Reglamento de IA y las normas de protección de datos ya imponen obligaciones a plataformas y proveedores tecnológicos, especialmente cuando hay menores. Aun así, la regulación específica de chatbots de compañía puede convertirse en un terreno propio. Las empresas españolas que desarrollen productos conversacionales para educación, ocio o salud deberán anticipar requisitos más exigentes.
También hay una lectura para la creator economy. Muchas comunidades digitales dependen de recomendaciones, vídeos cortos, experiencias personalizadas y modelos de monetización publicitaria. Si los menores quedan fuera de ciertas dinámicas de perfilado o diseño adictivo, algunas plataformas tendrán que separar experiencias por edad con más seriedad.
La legislación californiana confirma que la IA social entra en una fase de responsabilidad regulatoria acelerada. La confianza no se ganará solo con modelos más capaces, sino con productos que demuestren límites cuando el usuario necesita protección.
