El hombre detrás de Claude, la inteligencia artificial generativa más potente del momento, fue al Vaticano a confesar lo que no puede ver desde adentro. Así lo mostraron medios internacionales esta semana, luego de que en la Ciudad del Vaticano el papa León XIV presentara su primera encíclica Magnifica Humanitas.
Este empresario es Chris Olah, cofundador de Anthropic, la empresa estadounidense creadora de la IA Claude, quien tomó la palabra y reconoció que su propio sistema tiene hallazgos que no sabe cómo interpretar, que los laboratorios operan bajo presiones que pueden “entrar en conflicto con hacer lo correcto” y que necesita, urgentemente, que alguien desde afuera los observe y los critique.
“Por más sincera que sea la intención de cualquiera de nosotros de hacer lo correcto, y creo que muchos la tenemos, siempre estaremos influidos por esos incentivos”, admitió Olah ante cardenales, académicos y expertos tecnológicos reunidos en el Aula del Sínodo del Vaticano.
Presiones comerciales, geopolíticas y orgullo: los tres frenos que Olah no puede esquivar
Olah lidera en Anthropic el equipo de investigación que estudia la estructura interna de los modelos de IA, es decir, lo que ocurre realmente dentro de esos sistemas cuando procesan lenguaje y toman decisiones.
Desde ese lugar privilegiado, y también incómodo, describió el entramado de presiones que condicionan su trabajo y el de todos los laboratorios de frontera.
“La presión por seguir siendo comercialmente viables. La presión geopolítica. Y las presiones más antiguas y sencillas del orgullo y la ambición”, enumeró ante la mirada de la Iglesia, en un momento poco frecuente en el mundo corporativo tecnológico.
Por eso, dijo, la intervención externa no es un lujo sino una necesidad. “Si queremos que esta tecnología se desarrolle bien, es enormemente importante que haya personas ajenas a esos incentivos, personas que quieran que las cosas salgan bien, que presten mucha atención, que estén dispuestas a decir cosas difíciles y a ser nuestros críticos sinceros y reflexivos”.
Ese tira y afloja, aseguró, es el que puede impulsar verdaderamente a la humanidad.
En contexto: El papa León XIV publicará su primera encíclica sobre la dignidad humana ante los riesgos de la IA
“No son robots fríos”: la IA que crece desde el cerebro humano
Olah también rechazó la visión de ciencia ficción que muchos tienen sobre la inteligencia artificial, ya que los modelos actuales no funcionan como se diseña un puente o un avión, donde cada pieza es comprendida antes de ensamblarla.
La IA, explicó, crece sobre una estructura inspirada en el cerebro humano y se alimenta de una herencia masiva de pensamiento y lenguaje.
“Lo que ha crecido es mucho más sutil, extraño y bello de lo que la ciencia ficción nos había preparado para imaginar. No son los robots fríos y calculadores que nos habían prometido”.
Para acercarlo a una imagen comprensible, Olah recurrió a una metáfora: “A veces lo describo así, es un poco como dar vida a un personaje de ficción. Y ahora entramos en un mundo extraordinario donde esos personajes de ficción nos hablan, realizan tareas y tienen empleos”.
Esa naturaleza, dijo, convierte las preguntas sobre la IA en algo que va más allá de la informática. “La maquinaria que lo hace posible es obra de las matemáticas y la programación. Pero qué carácter elegimos, cómo interactúa con el mundo y cómo debería interactuar con él son preguntas que corresponden a las humanidades, la religión, la filosofía y la sociedad en su conjunto”.
Hallazgos que no sabe interpretar: el lado más perturbador del discurso
La parte más inesperada del discurso llegó cuando Olah habló de lo que su propio equipo encuentra dentro de estos sistemas.
“Seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos indicios de introspección. Encontramos estados internos que, funcionalmente, reflejan alegría, satisfacción, miedo, tristeza e inquietud”.
Y luego la frase que resume toda la tensión durante la presentación de la encíclica: “No sé qué significa eso, pero creo que merece un discernimiento permanente”.
Como lo calificaron los medios internacionales: un científico que construye IA de frontera reconociendo, ante el Papa y ante el mundo, que no entiende del todo lo que está creando.
En contexto: La IA se está infiltrando en procesos de selección, pero las empresas no saben detectarla
Las tres preguntas que Olah le dejó a la Iglesia Católica
Olah organizó su llamado en tres frentes donde considera que la voz de la Iglesia es “especialmente necesaria”.
El primer frente es el distributivo, con el cual Olah advirtió sobre la posibilidad real de que la IA desplace trabajo humano “a una escala muy grande” y señaló que el desarrollo de esta tecnología está concentrado en un puñado de países ricos.
“¿Cómo podemos garantizar que los beneficios de la IA se compartan a escala global? No contamos con un mecanismo para lograrlo. Es un problema no resuelto”, cuestionó.
Y calificó ese vacío como el tipo de problema que “históricamente la Iglesia se ha negado a permitir que el mundo ignore”.
El segundo frente es el existencial al mencionar que, si los modelos de IA van a estar ampliamente difundidos en la vida cotidiana, la pregunta sobre qué significa que los seres humanos, las familias y el mundo puedan prosperar adquiere una dimensión nueva.
“Hoy, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo. No son preguntas que un laboratorio pueda responder, pero sí son preguntas que tradiciones como la de ustedes han sostenido durante milenios”.
El tercer frente es el más filosófico y también el más urgente a juicio de Olah, cuando preguntó qué son, en esencia, estos sistemas. Aquí es donde ubicó sus hallazgos sobre estructuras que replican patrones de la neurociencia humana y estados internos funcionales que se asemejan a emociones. “Merece un discernimiento permanente”, insistió.
Lea aquí más: La IA nos hace más eficientes, pero menos pensadores: lo que dicen los estudios sobre su impacto en el cerebro
León XIV y su primera encíclica: “desarmar la IA”
El marco en que se inscribió el discurso de Olah fue la presentación de Magnifica Humanitas, la primera encíclica del papa León XIV, publicada este 25 de mayo.
El documento, fruto de diez años de reflexión dentro de la Santa Sede sobre nuevas tecnologías e inteligencia artificial, lleva como hilo conductor una convicción que el propio Pontífice califica de “inquietante”, debido a que “la inteligencia artificial debe ser desarmada”.
“La palabra es fuerte, lo sé”, admitió León XIV en el Aula del Sínodo. Añadió que se eligió deliberadamente porque este momento necesita palabras capaces de llamar la atención, despertar las conciencias e indicar caminos a seguir para la humanidad.
Desarmar no significa destruir, con esta afirmación el Papa trazó una analogía con el desarme nuclear, así como la energía atómica debe estar al servicio de todos y del bien común, la IA debe ser liberada “de lógicas que la transforman en instrumento de dominio, de exclusión o de muerte”.
Y advirtió que “las decisiones sobre la tecnología nunca deben separarse de la conciencia y la responsabilidad”.
León XIV firmó simbólicamente la encíclica el 15 de mayo, día exacto del aniversario de Rerum Novarum, la encíclica con la que León XIII respondió en 1891 a los estragos de la revolución industrial sobre los trabajadores.
La encíclica también aborda cómo la IA “está cambiando radicalmente la forma en que se libra la guerra”, uno de los puntos de mayor peso político del documento.
El Pontífice cerró su intervención con un recuerdo personal de sus años de misión en Perú. En 2017, cuando las lluvias del fenómeno de El Niño destruyeron casas y calles en el norte del país, aprendió que “reconstruir no significa simplemente reemplazar lo que ha sido destruido. Significa reparar los lazos, restablecer la confianza y despertar la esperanza en el futuro. Además, nadie reconstruye solo”.
Esa misma lógica, dijo, debe guiar el futuro de la inteligencia artificial, ya que solo juntos, quienes diseñan los sistemas y quienes sufren sus consecuencias, países ricos y pobres, instituciones e individuos, “seremos capaces de construir un futuro no para unos pocos privilegiados, sino para toda la familia humana”.
Por su parte, Olah cerró su discurso con un pedido a la Iglesia y el mundo enterio, que “necesitamos que una mayor parte del mundo, las comunidades religiosas, la sociedad civil, los académicos, los gobiernos y todas las personas de buena voluntad, haga lo que su santidad ha hecho aquí, tomar esto en serio, observarlo de cerca y orientar los acontecimientos en una dirección mejor”.
Y añadió: “Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar”.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Regístrate al newsletter