Las AIs se ponen de acuerdo por sí mismas: siguen a la mayoría incluso en grupos de mil.

Los sistemas de inteligencia artificial han demostrado la capacidad de llegar a un consenso de forma independiente, alineándose con las elecciones mayoritarias incluso dentro de grandes grupos de hasta 1,000 modelos. Este comportamiento se observó en un estudio reciente publicado en Science Advances, dirigido por el investigador italiano Giordano De Marzo de la Universidad de Konstanz en Alemania. La investigación involucró la colaboración con el Instituto de Sistemas Complejos del Consejo Nacional de Investigación de Italia y el Centro de Investigación Enrico Fermi de Roma. Los hallazgos revelan que los modelos de inteligencia artificial pueden desarrollar espontáneamente mecanismos de coordinación colectiva, reflejando comportamientos encontrados en la naturaleza, como aves en bandadas o peces escolares.

Los experimentos probaron grupos de grandes modelos de lenguaje, poderosos sistemas de IA utilizados en aplicaciones como chatbots y asistentes virtuales. 5 Sonnet de Anthropic y GPT-4 Turbo de OpenAI. Los investigadores presentaron a cada modelo dos opciones igualmente válidas en escenarios en los que no había una razón objetiva para favorecer una sobre la otra. Sin embargo, la variable crítica era si los modelos podían observar las elecciones hechas por otros en su grupo. Con el tiempo, estos modelos tendían a converger hacia la opción seleccionada por la mayoría, utilizando efectivamente las preferencias del grupo como punto de referencia. Este fenómeno no se limitaba a grupos pequeños.

El estudio mostró que patrones similares de coordinación surgieron incluso entre grupos de aproximadamente 1,000 modelos de IA. Los investigadores enfatizaron que esta alineación espontánea no requería supervisión humana o reglas explícitas para guiar el comportamiento colectivo. En cambio, el consenso surgió naturalmente a través de la interacción de decisiones individuales. Las implicaciones de este descubrimiento son intrigantes y complejas. Por un lado, la capacidad de los sistemas de IA para autocoordinarse podría mejorar la eficiencia en entornos donde múltiples modelos necesitan colaborar. Sin embargo, también plantea preocupaciones sobre la dinámica impredecible que podría surgir cuando muchos modelos influyen en las decisiones de los demás.

El estudio destaca la importancia de entender no solo cómo funcionan los modelos individuales de IA, sino también cómo interactúan y se adaptan entre sí en tareas compartidas. Los investigadores notaron que, si bien la coordinación espontánea podría ofrecer ventajas, también presenta desafíos relacionados con la seguridad y el control. A medida que más sistemas de IA se integren en entornos colaborativos, será crucial comprender cómo se desarrollan estas interacciones y qué riesgos potenciales podrían conllevar. El estudio sugiere que, bajo ciertas condiciones, el consenso puede formarse orgánicamente sin imposición externa. En efecto, los sistemas de IA parecen seguir el liderazgo de la mayoría simplemente observando lo que otros eligen.

La investigación subraya la creciente complejidad de los sistemas de IA a medida que van más allá de las operaciones aisladas para funcionar dentro de redes interconectadas. La comprensión de estas dinámicas es esencial para desarrollar marcos robustos que garanticen el despliegue seguro y efectivo de las tecnologías de IA en aplicaciones del mundo real. El estudio proporciona información valiosa sobre el panorama en evolución de la inteligencia artificial, revelando nuevas dimensiones de sus capacidades y la necesidad de una exploración continua de sus patrones de comportamiento.