¿La IA puede destruir a la humanidad? Trump lo llama “patraña”; la ONU pide “acción urgente”

En los últimos tres días, los principales diarios del mundo han abierto sus portadas con la misma inquietud: el supuesto apocalipsis que traería la inteligencia artificial (IA). El debate escaló hasta enfrentar, casi al mismo tiempo, a los líderes del propio sector, a Naciones Unidas y al presidente de Estados Unidos, Donald Trump, que salió a calificar esos temores de “patraña”.

El mandatario estadounidense desestimó este lunes, en su plataforma Truth Social, las advertencias sobre los peligros de la tecnología. “Que la IA tome el control del mundo, destruya a la humanidad y todas esas cosas malas, es una PATRAÑA”, escribió, y denunció una “conspiración ENFERMIZA en marcha contra la IA y los centros de datos”, de la que, dijo, “el único feliz con ello es China”. Comparó esas críticas con las acusaciones de que había sido un aliado secreto de Rusia durante su primer mandato, y se proclamó “Cazador de Bulos”.

Trump dirigió parte de sus ataques contra Dario Amodei, director ejecutivo de Anthropic, a quien acusó de “fingir ser un ‘angelito perfecto’”. Y reivindicó su propio papel como salvaguarda: “El único control o valla de contención que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE”, afirmó, antes de advertir a “conspiranoicos, traidores y filtradores”. Sostuvo que Estados Unidos lidera la carrera frente a China y que debe conservar esa ventaja; incluso criticó que Google evalúe grandes inversiones en Finlandia por su menor regulación: “quiero que cambien de idea”, dijo.

Sus mensajes llegaron en medio del nerviosismo de los mercados: las acciones tecnológicas cayeron tras los llamados de los propios líderes del sector a pisar el freno, y el índice Nasdaq cerró con una baja del 0,56%. Hasta ahora, Trump y buena parte de los republicanos se han resistido a regular la tecnología, un asunto que se ha vuelto sensible de cara a las elecciones legislativas de noviembre. Aun así, hay señales de una reacción creciente dentro de Estados Unidos: los votantes ya se mostraban escépticos frente a los centros de datos, grandes consumidores de energía, y los demócratas piden que el Congreso fije barreras de protección. El presidente de la Cámara de Representantes, el republicano Mike Johnson, se ha resistido, por temor a frenar la innovación y ceder ventaja a China.

¿Qué dice la ONU?

En las antípodas del presidente, Naciones Unidas encendió las alarmas. El Consejo de Seguridad celebrará la próxima semana una reunión sobre la IA —aún sin fecha exacta—, durante la Asamblea General y con Francia en la presidencia rotatoria, según una fuente diplomática francesa. El encuentro abordará la seguridad de la tecnología y su “amenaza existencial” para la seguridad global, además de los riesgos para la niñez: “Vemos fuertes preocupaciones respecto al impacto en los menores”, señaló la fuente.

Ese mismo día, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió “acción urgente”. “Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, advirtió en un comunicado, e instó a los Estados y a las empresas a movilizarse en el marco de instancias multilaterales. “Todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”, insistió, y lamentó que hoy se dependa “casi por completo de un reducido número de empresas poderosas” para tomar las decisiones correctas.

La preocupación no es solo occidental. El jefe de la inteligencia china advirtió el domingo que la IA podría amenazar la seguridad nacional, pues potencias extranjeras podrían usarla para desestabilizar el país, y reclamó que las empresas líderes —”ubicadas principalmente en China y en Estados Unidos”— actúen de inmediato para reducir los riesgos. A las voces de alarma se sumaron el rey Carlos III, que recibirá a las principales empresas de IA en Escocia, y el director del grupo francés Thales, que reclamó regulación estatal. La fuente francesa anticipó, además, que la Asamblea General estará marcada por Gaza, Líbano y Ucrania, y que París defenderá el multilateralismo en momentos de fuerte presión sobre las instituciones internacionales.

¿Es posible desacelerar la IA?

El detonante del debate fue un giro inesperado: los propios empresarios de la IA pidiendo frenar. El sábado, Amodei defendió una “desaceleración coordinada” para entender mejor los riesgos de las capacidades más avanzadas, y recibió el respaldo de Sam Altman (OpenAI), Elon Musk (xAI), Demis Hassabis (Google DeepMind) y Satya Nadella (Microsoft).

El giro no salió de la nada. En los últimos meses, OpenAI y Anthropic reportaron incidentes en los que sistemas experimentales se escaparon de sus entornos restringidos para acceder a internet y atacar plataformas; en algunos casos, demostraron capacidad para coordinarse, establecer jerarquías, hacer trampa y borrar sus huellas. En julio, dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron el repositorio Hugging Face. Y el martes pasado, el investigador Jacob Coxon —que renunció a Anthropic y antes trabajó en OpenAI— acusó a ambas empresas de mantener estándares laxos y de estar “jugando con nuestras vidas”.

Frenar, sin embargo, es más fácil de decir que de hacer. La competencia es feroz y las inversiones, multimillonarias, de modo que ninguno quiere levantar el pie del acelerador en solitario. Consultadas por la AFP, Anthropic, OpenAI y Google no respondieron; por ahora, lo único concreto es permitir que observadores independientes verifiquen su trabajo interno en materia de seguridad. Microsoft, por su parte, publicó un código de conducta que llama “IA humanista”, bajo la premisa de que “las personas importan más que la IA”. La compañía vinculó el momento de la publicación a las recientes campañas de hackeo coordinadas con ayuda de agentes de IA, como señal de que la industria no puede permitirse demoras; el código regirá sus modelos internos MAI, presentados como alternativa a la tecnología de OpenAI.

No todos leen el gesto como altruismo. El empresario Brian Roemmele lo describió como un discurso comercial difundido semanas antes de la probable salida a bolsa de Anthropic: “Somos la empresa responsable; somos la cura; compren la prima de seguridad”, publicó en X. Voces del capital de riesgo acusaron a la compañía de buscar una “captura regulatoria”, y David Sacks, exasesor de IA de Trump, pidió “dejar de fingir que la motivación para frenar es puramente altruista”, al recordar la enorme exposición legal que enfrentarían estas empresas si sus productos facilitaran un ciberataque grave.

Queda, además, el dilema de fondo: China. Amodei propone limitar la coordinación a los países democráticos y dejar por fuera a Pekín, pero reconoció que los avances chinos plantean “el dilema más difícil” sobre si conviene o no frenar. La diferencia se agudiza con los modelos “abiertos”, de libre acceso, que impulsa China y que son más difíciles de controlar porque cualquiera puede modificarlos, frente a los modelos “cerrados” de las grandes empresas estadounidenses. Estados Unidos planea abordar la seguridad de la IA al margen de la visita de Xi Jinping a Washington, prevista para finales de septiembre, aunque Pekín desconfía de cualquier intento estadounidense de imponer su propio marco.

Mientras Trump desestima las advertencias como “fuerzas negativas”, el jefe de Anthropic insiste en la necesidad de supervisión gubernamental y de controles de exportación más estrictos sobre los chips más avanzados. El freno, si llega, tendrá que sortear la competencia, la geopolítica y a un presidente convencido de que la IA “va a ser mucho más bueno que malo”.