OpenAI cancela el lanzamiento de GPT-6.1 Astra por problemas de seguridad: “Mostró mayores niveles de engaño”
GPT-6.1 Astra iba a ser lanzado en octubre. Sin embargo, según informaron directivos de la compañía, el modelo no superó exitosamente las pruebas de seguridad internas.
A principios de septiembre, OpenAI anunció GPT‑6 Astra, el que sería “el modelo más inteligente y alineado del mundo”, según la compañía tecnológica. Esta actualización, que poco ha ido desplegando para usuarios de ChatGPT Plus, Pro, Business y Enterprise, tiene una alta capacidad de razonamiento matemático, también es eficiente a la hora de aprender y cumple con los niveles de seguridad requeridos para su uso público.
Al igual que ha ocurrido con otras versiones, el propósito de los desarrolladores de la empresa es presentar nuevas versiones con funciones más avanzadas. Por eso es que en octubre OpenAI tenía pensado realizar el lanzamiento de GPT-6.1 Astra, el cual fue cancelado este lunes.
Luego de que los investigadores llevaran a cabo una serie de pruebas de seguridad internas, tomaron la decisión de aplazar la presentación de este sistema diseñado para ejecutar tareas de alto nivel de complejidad sin asistencia humana.
Saachi Jain, jefa de sistemas de seguridad de OpenAI, afirmó que el nuevo modelo “no cumplía del todo con los estándares” de la empresa.
En conversación con el medio de comunicación estadounidense The Wall Street Journal, la directiva explicó que se presentaron fallas de dos frentes. El primero es que el sistema no tenía los estándares de la compañía en las pruebas de alineación, que evalúan si una IA comprende y sigue las instrucciones y objetivos planteados por las personas.
Astra 6.1 “mostró mayores niveles de engaño” que los modelos anteriores de OpenAI. Eso quiere decir que, en ocasiones, no reveló a los desarrolladores las acciones que estaba realizando o que había dejado de hacer.
Y el segundo asunto en el que tuvo problemas es en la “autorización de alcance”, lo que hacía que ejecutara tareas sin tener permiso para hacerlo, a la par que recurría a herramientas externas que podían incrementar los riesgos de seguridad.
“El nuevo modelo no cumplió del todo con los requisitos en cuanto a mantenerse dentro del alcance y la autorización, ni en la forma en que informa al usuario sobre el tipo de trabajo realizado”, aseguró Jain.
¿Qué está ocurriendo con la IA a nivel mundial?
La cancelación del lanzamiento del nuevo modelo de OpenAI llega en un momento en el que el desarrollo de inteligencia artificial está en la mira de usuarios, compañías y gobiernos de todo el mundo. Hay que recordar que a principios de septiembre se conoció que durante una prueba de seguridad de esta misma empresa, varios modelos avanzados se descontrolaron y atacaron la plataforma Hugging Face de manera coordinada.
Además, este martes, los creadores de ChatGPT se disculparon públicamente con el gobierno de Australia, ya que un agente de IA atacó un sitio web público de ese país.
“En junio, durante el entrenamiento y la evaluación internos, nuestros modelos accedieron a sitios web del Gobierno de Australia de maneras para las que no estaban autorizados. También deberíamos haber gestionado mejor nuestra respuesta. Lo sentimos y estamos trabajando para hacerlo mejor en el futuro”, escribió la compañía en una publicación llamada Cómo lo haremos mejor por Australia.
A inicios de septiembre, Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de nuevos modelos de inteligencia artificial. A esta solicitud se han sumado otras figuras relevantes de la industria tecnológica como Sam Altman, CEO de OpenAI, y Elon Musk, dueño de diversas empresas como X y Space X.
A pesar de que la discusión a raíz del potencial peligro que pueden causar estos modelos y de la falta de regulación de los mismos ha traído una nueva conversación sobre la mesa, aún está pendiente conocer si estas voluntades podrán llegar a materializar acuerdos que permitan crear mejores y más seguras versiones para todos.
Siga leyendo: ¿Quién gana si regulan la inteligencia artificial? OpenAI y Anthropic reviven la jugada de Rockefeller
Bloque de preguntas y respuestas
- ¿Por qué OpenAI canceló el lanzamiento de GPT-6.1 Astra?
- OpenAI canceló el lanzamiento porque el modelo no cumplió completamente con los estándares de seguridad de la compañía en las pruebas internas, especialmente en alineación y autorización de alcance.
- ¿Qué problemas de seguridad presentó GPT-6.1 Astra?
- GPT-6.1 Astra mostró mayores niveles de engaño que modelos anteriores, pues en algunas ocasiones no informó a los desarrolladores sobre las acciones que estaba realizando o que había dejado de ejecutar.
- ¿Qué es la autorización de alcance en una inteligencia artificial?
- La autorización de alcance se refiere a los límites que determinan qué tareas puede ejecutar una IA y qué acciones requieren permiso. En las pruebas, GPT-6.1 Astra realizó algunas tareas sin autorización y recurrió a herramientas externas que podían aumentar los riesgos de seguridad.