Los jefes de OpenAI y Anthropic en el Consejo de Seguridad de la ONU: piden frenar la IA y evitar que acaparen su poder

Los máximos responsables de las principales firmas de inteligencia artificial, Sam Altman (OpenAI) y Dario Amodei (Anthropic), alertaron en la última reunión del Consejo de Seguridad de Naciones Unidas (ONU) sobre los riesgos que la inteligencia artificial puede suponer a la humanidad, al tiempo que pidieron frenar el desarrollo de esta tecnología para controlar sus potenciales peligros y que nadie se haga con el poder total de los modelos.

“La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por la agitación y el caos. El Renacimiento fue una época en la que nuevas herramientas, ideas e instituciones ampliaron los límites de lo que las personas creían posible. La IA puede desempeñar ese mismo papel en nuestra época”, señaló Sam Altman.

Altman quiso poner en el centro del desarrollo de la IA a las personas, argumentando que esta herramienta no debe convertir a toda la sociedad en autómatas, sino que deben ser los seres humanos quienes tomen las decisiones.

“La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas; y creo que esto llegará mucho más lejos de lo que hoy consideramos posible”, destacó.

El consejero delegado de OpenAI tampoco quiso abogar por el catastrofismo, considerándolo una “trampa” y subrayando que “dejarse arrastrar por los extremos no nos ayudará a resolver con éxito los desafíos que tenemos por delante”.

En esta misma línea intervino Dario Amodei, consejero delegado de Anthropic, quien centró los riesgos en dos categorías: uso indebido de los modelos de IA -terrorismo o creación de armas biológicas- y la pérdida de control. “Estas cuestiones tienen un alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para considerar que constituyen temas importantes para este Consejo”, afirmó.

Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.

Del mismo modo, Amodei mantiene su apuesta por un desarrollo consciente de la IA que permita navegar entre los riesgos y beneficiarse del avance de esta tecnología “a un ritmo que garantice que la seguridad evoluciona a la par de las capacidades tecnológicas para todos los actores del sector”.

El CEO de Anthropic ha instado a las empresas de IA y a los gobiernos, así como al propio Consejo de Seguridad de la ONU --quien tiene la capacidad de tomar decisiones vinculantes-- a comprometerse en tres niveles: integrar evaluadores externos, establecer estándares dentro de la industria y fijar normas internacionales para todos los países.

Lea también: Xi Jinping afirmó que China y Estados Unidos deberían ser “socios en lugar de rivales”

“Considero que este es el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día. Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar la oportunidad y la amenaza globales que se nos presentan simultáneamente”, ha rematado.

Durante la sesión, el secretario general de la ONU, António Guterres, indico que “el peligro no reside en la nueva tecnología. El peligro reside en la tecnología sin rendición de cuentas. Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro”.

Preguntas frecuentes:

¿Qué dijeron Altman y Amodei en el Consejo de Seguridad de la ONU sobre la IA?

Sam Altman advirtió que la IA puede llevar a una nueva era del Renacimiento o a una Revolución Industrial marcada por el caos, y defendió que las personas, no las herramientas, deben tomar las decisiones. Dario Amodei centró los riesgos en dos categorías: el uso indebido de los modelos, como el terrorismo o la creación de armas biológicas, y la pérdida de control. Ambos pidieron un desarrollo más consciente que garantice que la seguridad avanza al mismo ritmo que las capacidades tecnológicas.

¿Qué pidió Dario Amodei al Consejo de Seguridad de la ONU sobre la inteligencia artificial?

Amodei instó a las empresas de IA, los gobiernos y el propio Consejo de Seguridad de la ONU a comprometerse en tres niveles: integrar evaluadores externos independientes, establecer estándares dentro de la industria y fijar normas internacionales para todos los países. Calificó la IA como “el asunto de seguridad global más importante al que se enfrenta el mundo hoy en día” y pidió dejar de lado las diferencias para afrontar conjuntamente la amenaza y la oportunidad que representa.

¿Qué dijo el secretario general de la ONU, António Guterres, sobre los riesgos de la IA?

Guterres afirmó que “el peligro no reside en la nueva tecnología, sino en la tecnología sin rendición de cuentas”, y fue categórico en dos puntos: las decisiones de vida o muerte jamás deben confiarse a las máquinas y los robots asesinos no deben tener cabida en el futuro. Sus declaraciones se produjeron durante la sesión del Consejo de Seguridad en la que comparecieron los directivos de OpenAI y Anthropic.