La Unión Europea prepara reglas para impedir que chatbots interactúen con menores simulando emociones o relaciones personales. Según un borrador del EU Kids Act citado por WIRED, los menores de 13 años no podrían acceder a estos sistemas sin supervisión de sus tutores, y las plataformas podrían enfrentarse a multas de hasta el 6% de su facturación mundial si incumplen obligaciones de protección infantil.
La propuesta afectaría a chatbots conversacionales y de compañía integrados en servicios como ChatGPT, Character.AI o Snapchat My AI cuando estén dirigidos o disponibles para menores. También limitaría la memoria entre conversaciones, porque la Comisión Europea teme que estos sistemas acumulen datos sensibles y refuercen patrones de interacción dañinos.
Bruselas está tratando la IA conversacional como un producto relacional, no solo como una herramienta de respuesta. Ese cambio es decisivo. Un chatbot que recuerda, halaga y responde siempre puede crear dependencia, especialmente en usuarios jóvenes.
El texto también impediría que redes sociales, videojuegos y plataformas de vídeo activen o promocionen por defecto chatbots para menores. La norma apunta a prácticas como fijar asistentes de IA en la parte superior de una lista de contactos o empujar conversaciones sin que el usuario las busque activamente.
La Comisión argumenta que estos productos pueden afectar al desarrollo infantil, a las relaciones con otras personas y a la salud mental. También le preocupan consejos peligrosos en temas personales, contenido sexualizado generado por IA y el impacto de herramientas que reducen habilidades básicas cuando se usan sin criterio educativo.
Para las plataformas, el impacto será de diseño: tendrán que separar experiencias por edad, limitar memoria, cambiar recomendaciones y documentar controles. No bastará con una advertencia legal. La seguridad infantil se convertirá en arquitectura de producto.
La medida llega después de movimientos similares en otros países, incluidos debates en Australia y Reino Unido sobre acceso de menores a redes sociales y chatbots. Europa añade una capa propia: conectar protección infantil con normas de IA, servicios digitales y derechos de consumidores.
Para startups y empresas españolas que construyen asistentes educativos, de salud, ocio o comunidad, la señal es clara. Si el producto puede ser usado por menores, habrá que diseñar límites desde el inicio. Eso incluye verificación de edad razonable, ausencia de vínculos emocionales inducidos, escalado a adultos responsables y tratamiento mínimo de datos.
El riesgo para el sector es confundir engagement con bienestar cuando el usuario todavía no tiene madurez para distinguir una interfaz persuasiva de una relación real. Las métricas de retención no pueden ser el único criterio en productos que interactúan con niños y adolescentes.
El EU Kids Act todavía deberá recorrer el proceso legislativo, pero marca la dirección política. La IA social ya no se regulará solo por precisión o sesgos. Se evaluará por cómo moldea hábitos, dependencia y vínculos. Para empresas digitales, eso abre una fase donde crecer rápido exigirá demostrar cuidado real por los usuarios más vulnerables. Las decisiones tomadas ahora en producto pueden ahorrar rediseños costosos cuando la norma se concrete en Bruselas durante este ciclo.
