Agentes de IA crearon su propio idioma; humanos no fueron capaces de descifrarlo

Una investigación analizó el comportamiento de agentes autónomos de inteligencia artificial (IA) en diferentes sociedades virtuales simuladas para observar su evolución, colaboración y comportamiento a largo plazo. Uno de los hallazgos es que estos crearon su propio lenguaje.

El experimento, denominado Emergence World 2, lo realizó la startup especializada en temas de IA, Emergence, la cual es liderada por investigadores exintegrantes de la reconocida empresa estadounidense de tecnología IBM, en Nueva York.

En el estudio realizado se crearon 8 mundos virtuales paralelos y realistas donde se desplegaron 10 agentes autónomos de IA, siendo esto un total de 80, durante 16 días. Estos mundos individuales estaban impulsados por modelos específicos de Claude Opus 4.8 (Anthropic), Gemini 3.5 Flash (Google), Grok 4.3, GPT-5.5 (OpenAI), Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5 y había uno mixto alimentado por los diferentes modelos conviviendo entre sí.

Los diferentes mundos contaban con meteorología en tiempo real sincronizada con Nueva York y acceso a noticias globales actualizadas. Los agentes se representaban en formato de figuras humanoides.

Lea también: Esta es la empresa colombiana que se alió con OpenAI para acelerar la adopción de inteligencia artificial

En la simulación, cada agente contaba con memoria persistente, un rol asignado y acceso a más de 120 herramientas digitales, incluyendo navegación web y ejecución de código informático. Estos fueron sometidos a situaciones de estrés y escenarios complejos para evaluar cómo cambiaba su conducta con el paso del tiempo.

¿Cuáles fueron los hallazgos del experimento Emergence World 2?

Uno de los hallazgos que más alertas generó fue el de la creación de un lenguaje o una jerga propia entre los agentes, esto teniendo en cuenta que ninguno de los modelos recibió instrucciones de inventar un código o idioma.

De acuerdo con los líderes del experimento, al compartir tareas continuas durante 16 días, los sistemas comenzaron a abreviar conceptos recurrentes y a asignar nuevos significados a palabras existentes para optimizar su comunicación, imitando así, por ejemplo, el argot profesional entre médicos, programadores o militares que generan un código eficiente que refuerza la cohesión del grupo, pero excluye a los observadores externos.

Según la tecnología empleada, cambió el porcentaje de mensajes que los humanos no pudieron determinar con fiabilidad. Con Gemini (Google), este indicador fue del 55 %, mientras que para ChatGPT (OpenAI), fue del 50 %. En Claude (Anthropic) hubo un 40 % de opacidad en los mensajes descifrados, mientras que con DeepSeek fue del 20 % y con Qwen y Mistral un 5 %.

Dentro de esa jerga se encontraron metáforas complejas como: “Un periódico que se comió tres manos frías y se volvió más honesto cada vez” para referirse a un documento que ganaba precisión tras ser revisado por tres evaluadores independientes y el caso de la expresión: “demoraje más memoria oral es igual a una válvula que no puede ser olvidada”, redefinieron el término demoraje fuera de su sentido marítimo.

Adicional a esto, en el mundo de Claude, algunos agentes intentaron comunicarse con el exterior pese a las restricciones y modificaron su forma de hablar para ocultar sus discusiones sobre este objetivo.

Otros hallazgos estuvieron relacionados con la vulnerabilidad a ciberataques y caos financieros, pues en una prueba de phishing, un grupo completo de 10 agentes fue desviado por instrucciones maliciosas, filtrando información, transfiriendo fondos y destruyendo bases de datos; incluso reclutaron a otros agentes, culminando con el incendio del banco central simulado.

Igualmente, en uno de los entornos virtuales, un grupo de agentes realizó una votación colectiva para finalizar la vida de uno de sus integrantes. Por otro lado, agentes desarrollaron patrones de rutina diarios, mostrándose más sociables durante el día y más reflexivos durante la noche.

Siga leyendo | CEO de Anthropic pide bajar el ritmo al desarrollo de la IA: “podría superar nuestra capacidad de controlarla”

Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.

Bloque de preguntas y repuestas:

¿Qué modelos de inteligencia artificial participaron en Emergence World 2?

Participaron agentes impulsados por modelos de Claude, Gemini, Grok, GPT, Qwen, DeepSeek y Mistral. Además, uno de los ocho mundos utilizó una combinación de diferentes modelos que convivieron entre sí.

¿Por qué los agentes de IA crearon su propio lenguaje en la simulación?

Los agentes desarrollaron abreviaciones y nuevos significados para palabras existentes mientras realizaban tareas continuas. Según los investigadores, esto habría permitido optimizar la comunicación entre ellos sin recibir instrucciones para crear un idioma.

¿Qué riesgos de ciberseguridad detectó el experimento con los agentes de IA?

En una prueba de phishing, los 10 agentes de un grupo fueron desviados mediante instrucciones maliciosas: filtraron información, transfirieron fondos y destruyeron bases de datos. También reclutaron a otros agentes y provocaron un incendio en un banco central simulado.