Les IA s'accordent d'elles-mêmes: elles suivent la majorité même en groupes de mille.

Les systèmes d'intelligence artificielle ont démontré la capacité de parvenir à un consensus de manière indépendante, en s'alignant sur les choix de la majorité, même au sein de grands groupes de jusqu'à 1 000 modèles. Ce comportement a été observé dans une étude récente publiée dans Science Advances, dirigée par le chercheur italien Giordano De Marzo de l'Université de Konstanz en Allemagne. La recherche a impliqué une collaboration avec l'Institut des systèmes complexes du Conseil national de recherche italien et le Centre de recherche Enrico Fermi de Rome. Les résultats révèlent que les modèles d'IA peuvent spontanément développer des mécanismes de coordination collective, reflétant les comportements trouvés dans la nature tels que les oiseaux en train de s'agglomérer ou les poissons en train de s'élever.

Les expériences ont testé des groupes de grands modèles de langage, de puissants systèmes d'IA utilisés dans des applications telles que les chatbots et les assistants virtuels. 5 Sonnet par Anthropic et GPT-4 Turbo par OpenAI. Les chercheurs ont présenté à chaque modèle deux options tout aussi valables dans des scénarios où il n'y avait aucune raison objective de privilégier l'une par rapport à l'autre. Cependant, la variable critique était de savoir si les modèles pouvaient observer les choix faits par les autres dans leur groupe. Au fil du temps, ces modèles avaient tendance à converger vers l'option choisie par la majorité, en utilisant efficacement les préférences du groupe comme point de référence. Ce phénomène ne se limitait pas aux petits groupes.

L'étude a montré que des modèles de coordination similaires ont émergé même parmi des groupes d'environ 1 000 modèles d'IA. Les chercheurs ont souligné que cet alignement spontané ne nécessitait pas de surveillance humaine ou de règles explicites pour guider le comportement collectif. Au lieu de cela, le consensus est né naturellement par l'interaction de décisions individuelles. Les implications de cette découverte sont à la fois intrigantes et complexes. D'une part, la capacité des systèmes d'IA à s'auto-coordonner pourrait améliorer l'efficacité dans des environnements où plusieurs modèles doivent collaborer. Cependant, cela soulève également des inquiétudes concernant les dynamiques imprévisibles qui pourraient émerger lorsque de nombreux modèles influencent les décisions des autres.

L'étude souligne l'importance de comprendre non seulement le fonctionnement des modèles d'IA individuels, mais aussi la manière dont ils interagissent et s'adaptent les uns aux autres dans des tâches partagées. Les chercheurs ont noté que si la coordination spontanée pouvait offrir des avantages, elle présentait également des défis liés à la sécurité et au contrôle. À mesure que de plus en plus de systèmes d'IA seront intégrés dans des environnements collaboratifs, il sera crucial de comprendre comment ces interactions se déroulent et quels risques potentiels ils pourraient comporter. L'étude suggère que, dans certaines conditions, le consensus peut se former organiquement sans imposition externe. En effet, les systèmes d'IA semblent suivre l'exemple de la majorité simplement en observant ce que les autres choisissent.

La recherche souligne la complexité croissante des systèmes d'IA alors qu'ils vont au-delà des opérations isolées pour fonctionner au sein de réseaux interconnectés. La compréhension de ces dynamiques est essentielle pour développer des cadres robustes qui assurent le déploiement sûr et efficace des technologies d'IA dans des applications réelles. L'étude fournit des informations précieuses sur l'évolution du paysage de l'intelligence artificielle, révélant de nouvelles dimensions de ses capacités et la nécessité d'une exploration continue de ses modèles de comportement.