Au TechBBQ, les discussions sur l'IA en Europe se sont toujours tournées vers le thème suivant: qui a réellement le contrôle ?

À TechBBQ à Copenhague, les discussions entre investisseurs, fondateurs et opérateurs de toute l'Europe se sont concentrées sur une question urgente: qui contrôle vraiment la révolution de l'IA. La conférence nordique annuelle, sur le thème "Emerging from Agency", a vu des conversations récurrentes sur les implications de la souveraineté de l'IA, en particulier à la suite de l'indisponibilité récente des modèles d'IA Anthropic Mythos et Fable en dehors de l'Europe. Ces développements ont suscité un débat intense sur la question de savoir si l'Europe devrait développer sa propre infrastructure d'IA ou continuer à compter sur ses homologues américains et chinois.

Un dirigeant d'une start-up a décrit les perturbations causées par l'indisponibilité des modèles, tandis que d'autres sont restés pragmatiques, reconnaissant les risques, mais notant que les opérations actuelles restent fonctionnelles. La situation a souligné un sentiment croissant selon lequel l'Europe doit exercer un plus grand contrôle sur le paysage de l'IA pour éviter d'éventuelles répercussions à long terme. Ellen de Brever, investisseur angélique et responsable des partenariats à la Fondation Novo Nordisk Cellerator, a souligné que le thème de l'agence de la conférence avait trouvé un écho profond. Elle a noté que le discours avait évolué au-delà de la simple exploration des capacités de l'IA pour s'interroger sur les aspects des prises de décision auxquels les Européens sont prêts à renoncer.

De Brever a observé que les conversations étaient moins sur l'amélioration de l'intelligence artificielle et plus sur la détermination de qui conserve l'autorité sur le déploiement de l'IA.

Emad Mostaque, cofondateur de Stability AI et Intelligent Internet, a rejoint une discussion sur les impacts sociétaux d'une main-d'œuvre agent. Il a mis en garde contre la concentration du pouvoir entre les mains de quelques laboratoires d'IA, suggérant que le contrôle de l'IA équivaut au contrôle des politiques nationales. Ses remarques ont suscité la réflexion des participants, dont Mia Negru de Life With Artificials, qui a réfléchi aux implications plus larges des systèmes d'IA autonomes. Elle a spéculé que de telles avancées pourraient nécessiter une réévaluation des concepts fondamentaux tels que la propriété, le travail et la participation démocratique.

Au-delà des sessions formelles, la conférence a favorisé des échanges informels, avec des leaders technologiques et des investisseurs s'engageant dans des discussions détendues à l'heure du bonheur et des rassemblements sur les toits. Les sujets allaient de l'essor des hubs technologiques du Danemark aux collaborations entre les innovateurs nordiques et africains.

Le projet, dirigé par son collègue Chen Yueh-Han, a démontré que les chercheurs pilotés par l'IA pouvaient améliorer les performances des modèles sur plusieurs critères d'alignement sans compromettre l'efficacité globale. Les résultats suggèrent une voie vers l'auto-amélioration récursive, rendant potentiellement les chercheurs humains redondants dans un avenir proche. Le document compare également l'efficacité des systèmes automatisés à la recherche dirigée par l'homme, notant que les chercheurs d'alignement automatisés surpassent les experts humains en six heures. Les comparaisons de coûts soulignent davantage les avantages économiques des solutions pilotées par l'IA, les systèmes automatisés coûtant environ 4 $ par heure contre 150 $ pour les chercheurs humains.

Malgré ces avantages, l'étude a reconnu des limites, soulignant la nécessité de repères robustes et d'un raffinement continu de la littérature sous-jacente. En parallèle, le Pentagone a élargi son utilisation des outils d'IA en introduisant des versions militaires de ChatGPT et Grok. Ces plates-formes personnalisées visent à soutenir les tâches opérationnelles tout en évitant les pratiques de collecte de données typiques des applications d'IA grand public. L'initiative reflète un effort stratégique pour exploiter l'IA à des fins de sécurité nationale, avec des partenariats supplémentaires formés avec des entreprises comme Amazon Web Services, Microsoft et Nvidia.

OpenAI a également annoncé son intention d'intégrer ChatGPT dans les systèmes de santé, en partenariat avec Epic pour rationaliser les flux de travail cliniques. L'outil permet aux cliniciens d'accéder aux données des patients, de générer des résumés et de se préparer aux rendez-vous, tout en respectant des protocoles stricts en lecture seule.

Le dialogue en cours à TechBBQ souligne la complexité de naviguer dans ce paysage en évolution rapide, où les questions de souveraineté, d'éthique et de responsabilité restent au centre de la conversation.