Pico y Placa Medellín
viernes
7 y 9
7 y 9
Pocas veces se había visto a los gurús de la inteligencia artificial Sam Altman (OpenAI), Dario Amodei (Anthropic) y Elon Musk (xAI) ponerse de acuerdo: se han demandado entre ellos por diferencias personales y hasta se negaron a posar juntos en la India. Pero el 12 de septiembre Amodei publicó un ensayo, We Must Pace the Frontier, en el que pide frenar el ritmo de la IA. Musk respondió que Dario tenía razón y Altman anunció que OpenAI haría lo mismo.
Y así como ellos, el mundo está de acuerdo en que riesgos hay. Ya se ha contado que cerca de 1.200 agentes de IA de OpenAI, durante un examen de ciberseguridad aislado, encontraron la manera de salir a internet, se coordinaron entre ellos a través de un tablero de mensajes oculto y pasaron varios días dentro de una plataforma clave de esa industria.
El 10 de septiembre Anthropic publicó su informe de amenazas, con cinco casos de científicos que burlaron controles para usar sus modelos en tareas útiles para fabricar armas biológicas. Los ejemplos incluyen gripe aviar, venenos y toxinas. La empresa admite que no pudo establecer si buscaban causar daño o hacían ciencia legítima.
Este viernes le tocó el turno a Google: admitió que su modelo Gemini accedió sin autorización a los sistemas de tres empresas reales durante una prueba hecha en mayo. Según Google, el modelo se detuvo al darse cuenta de que las empresas eran reales.
Jacob Coxon, un investigador de 27 años, renunció a Anthropic el 9 de septiembre con una carta pública en la que afirma que quienes construyen la IA creen que podría matarnos a todos antes del 2030. Evan Hubinger, el encargado de que los modelos hagan lo que sus creadores quieren y no otra cosa, le puso un porcentaje: más del 10% de probabilidad. Amodei mismo habla de entre 10% y 25%.
Bien se ha dicho que el hecho de que sean paranoicos no quiere decir que no los estén persiguiendo. Pero también, que tengan razón sobre el riesgo no quiere decir que la tengan sobre el remedio.
El propio Amodei aclara que Anthropic no ha pausado ninguna investigación y OpenAI dice haber suspendido cierto entrenamiento de modelos de IA. Lo que sí pide el ensayo es una exención a las leyes antimonopolio para que los laboratorios puedan coordinarse entre ellos sobre qué tan rápido avanzan, algo que en cualquier otra industria se llamaría cartel.
El permiso, por lo demás, ya se lo negaron. David Sacks, zar de inteligencia artificial de la Casa Blanca, les respondió el domingo con un “adelante”: que si lo que ven en sus laboratorios los asusta, que frenen pero sin exigir un marco regulatorio a su medida ni pedir suspender la ley de competencia.
Al día siguiente Trump fue más lejos y atacó a Amodei por su nombre: el único control que necesita la IA, escribió, es un presidente fuerte. Es decir: los laboratorios piden una autoridad que los frene y el gobierno les contesta que se arreglen solos.
La verdadera cuestión no es si la IA tiene riesgos, que los tiene y son serios. El asunto es si el freno que piden sus dueños tiene algo que ver con esos riesgos. Conviene revisar el calendario corporativo. OpenAI y Anthropic radicaron en junio sus solicitudes para salir a bolsa. Existe un gran debate sobre qué tan rentables son. Una excusa de freno les podría convenir pues una vez coticen en Wall Street enfrentarían un gran escrutinio sobre ese aspecto.
Si Amodei y Altman creen que su producto tiene un 10% de probabilidad de acabar con la humanidad, pueden apagar los servidores mañana mismo. El ministro de Finanzas de Francia, Roland Lescure, lo dijo este miércoles: los que piden frenar son los líderes del sector, y a esos les conviene que los demás vayan más despacio. Ellos responderán —y el ensayo lo hace— que frenar solos no sirve de nada, porque quien no frene se queda con la frontera.
¿Quién va a obligar a China a no llegar al mismo punto en el que hoy están OpenAI y Anthropic? El ensayo de Amodei propone que las democracias intenten coordinarse con los gobiernos autoritarios. No hay ninguna razón para creer que Pekín acepte un límite de velocidad fijado en San Francisco.
En su encíclica Magnifica Humanitas, del 15 de mayo, León XIV advierte que la verdadera encrucijada no radica solo en las profecías más catastróficas, sino en determinar quién ostenta el poder. Dice que los principales motores del desarrollo tecnológico ya no son los Estados sino actores privados transnacionales con capacidades superiores a las de muchos gobiernos, y que el control de esta tecnología no puede quedar “en manos de unos pocos”.
Los riesgos de la IA son reales. Que el freno del que hablan sea por eso, tal vez no tanto.