Christopher Olah, cofundador de Anthropic, ha llevado al Vaticano una advertencia que va más allá del debate técnico sobre la inteligencia artificial. Su mensaje apunta a una cuestión de fondo: los modelos avanzados de IA son cada vez más potentes, pero también más difíciles de entender incluso para quienes los desarrollan.
Durante la presentación de Magnifica Humanitas, la primera encíclica del papa León XIV, Olah defendió que el futuro de esta tecnología no puede quedar únicamente en manos de las grandes compañías tecnológicas. A su juicio, la IA necesita una vigilancia externa real, con participación de gobiernos, expertos independientes, sociedad civil y también voces religiosas.
Anthropic detecta estructuras que recuerdan a la neurociencia humana
Olah lidera en Anthropic un equipo dedicado a estudiar qué ocurre dentro de los modelos de inteligencia artificial. Esa línea de trabajo busca entender cómo se organizan internamente estos sistemas y por qué responden de una forma u otra.
Según explicó en el acto, sus investigaciones han encontrado estructuras difíciles de interpretar. Algunas recuerdan a hallazgos propios de la neurociencia humana y otras podrían relacionarse con formas de introspección. El investigador no quiso presentar estas señales como una conclusión cerrada, pero sí como un motivo suficiente para actuar con prudencia.
La advertencia es relevante porque cambia el enfoque habitual. El debate ya no se limita a si una IA puede escribir, programar o resumir información. La pregunta empieza a ser más inquietante y es qué tipo de sistemas se están creando cuando sus propios mecanismos internos no se comprenden del todo.
Una tecnología opaca, incluso para sus propios laboratorios
Olah subrayó una diferencia clave entre la inteligencia artificial actual y otras tecnologías complejas. Un avión o un puente se diseñan con piezas más verificables. En cambio, los modelos avanzados se entrenan mediante procesos que generan comportamientos emergentes y zonas difíciles de explicar.
Esa opacidad es uno de los grandes retos de la IA generativa. Los sistemas no funcionan como herramientas completamente transparentes. Responden, razonan de forma aparente, interactúan y ejecutan tareas, pero su funcionamiento interno conserva áreas que todavía requieren mucha investigación.
Para explicar esa inquietud, Olah se alejó de la imagen clásica de los robots fríos y calculadores. Planteó una comparación más cercana a personajes de ficción que cobran vida, conversan, actúan y empiezan a ocupar espacios de trabajo. La metáfora ayuda a entender el problema: la IA no es solo una máquina que sigue instrucciones visibles, sino un sistema con dinámicas internas que aún se están descifrando.
El riesgo de dejar la IA solo en manos de Big Tech
La intervención también puso el foco en el poder concentrado de la industria. Olah señaló que los laboratorios de IA de frontera operan bajo incentivos comerciales, geopolíticos y personales que no siempre coinciden con el interés general.
Ese punto conecta directamente con la posición que defendió en el Vaticano. Para el cofundador de Anthropic, no basta con confiar en que las empresas se autorregulen. La supervisión debe incluir a actores externos capaces de revisar, cuestionar y corregir el rumbo de una tecnología con impacto social amplio.
La idea no es frenar el avance de la inteligencia artificial, sino orientarlo. Si estos sistemas van a formar parte de la vida cotidiana, su desarrollo no debería decidirse únicamente dentro de los laboratorios privados.
Empleo, desigualdad y beneficios concentrados
Olah también abordó el impacto económico de la IA. Advirtió de que existe una posibilidad real de que estos sistemas desplacen trabajo humano a gran escala. Si ese escenario se materializa, sostuvo que apoyar a las personas afectadas será una obligación moral.
La preocupación no es abstracta. En muchos sectores ya se debate qué tareas pueden automatizarse y qué perfiles quedarán más expuestos. El problema, según esta lectura, no se reduce a ganar eficiencia. También obliga a responder una cuestión social: quién se beneficia, quién queda fuera y quién asume el coste de la transición.
El investigador añadió otra dimensión. El desarrollo de la inteligencia artificial está concentrado en un grupo reducido de países ricos, con más inversión, infraestructura y talento especializado. Eso plantea un reto global: evitar que los beneficios de la IA se queden solo en manos de quienes ya parten con ventaja.
Anthropic, Claude y el origen de una compañía marcada por la seguridad
Anthropic es la empresa estadounidense responsable de Claude. Fue fundada en 2021 por Olah y otros antiguos empleados de OpenAI, la compañía creadora de ChatGPT. Sus fundadores salieron de OpenAI por su preocupación ante un desarrollo demasiado rápido y sin pruebas suficientemente exhaustivas.
Ese origen ayuda a explicar la posición de la compañía en el debate tecnológico. Anthropic ha intentado situarse como una empresa centrada en la seguridad de la IA y en la necesidad de establecer límites. También ha defendido restricciones en usos sensibles, como aplicaciones militares vinculadas a selección autónoma de objetivos o herramientas de vigilancia doméstica.
En el acto del Vaticano, Olah fue además el único representante de Big Tech presente. Al ser preguntado por esa circunstancia, relacionó su invitación con su trayectoria en seguridad de IA y con su contacto previo con comunidades religiosas. También indicó que ha trabajado estas cuestiones con más de quince religiones.
El Vaticano entra en el debate global sobre inteligencia artificial
La presentación de Magnifica Humanitas refleja el interés del Vaticano por participar en una conversación tecnológica de alcance mundial. La Iglesia busca posicionarse como una voz moral ante una tecnología que avanza rápido y que ya genera inquietud social, especialmente entre los jóvenes, según expuso Olah.
El investigador describió el momento actual como delicado por la velocidad del desarrollo y por el poder creciente de los modelos. Su mensaje no fue una llamada a detener la IA. Fue una petición de dirección, control y responsabilidad.
En esa línea, la encíclica de León XIV aparece como un intento de abrir el debate más allá de la ingeniería y del mercado. Para Olah, este tipo de intervención externa puede actuar como contrapeso frente a la presión competitiva de la industria.
La advertencia de Olah para toda la industria de la IA
El fondo de la intervención fue claro: los riesgos de la inteligencia artificial no pueden resolverse solo con más tecnología. Afectan al empleo, a la distribución de la riqueza, a la seguridad, a la vigilancia y a la comprensión de sistemas cada vez más complejos.
Olah pidió críticos competentescapaces de señalar errores a los laboratorios y voces morales que no se dejen arrastrar por los incentivos del mercado. En su visión, gobiernos, instituciones religiosas, sociedad civil y expertos externos deben tener un papel real en la orientación de esta tecnología.
La advertencia lanzada desde el Vaticano resume uno de los grandes dilemas de la IA generativa: los modelos avanzan rápido, pero la supervisión social va por detrás. Para el cofundador de Anthropic, el futuro de la inteligencia artificial no debería decidirse solo dentro de las Big Tech.
