Demis Hassabis, le cofondateur et directeur général de Google DeepMind, a appelé les États-Unis à diriger la création d'un chien de garde mondial de l'intelligence artificielle. Dans un manifeste personnel intitulé "Un cadre pour l'IA frontalière et l'aube d'une nouvelle ère", publié mardi, Hassabis décrit une proposition pour un organisme de réglementation qui superviserait le développement et le déploiement des systèmes d'IA les plus avancés dans le monde.
Si rien n'est fait, ces risques, ainsi que des menaces biologiques et nucléaires plus graves, pourraient bientôt résider dans des modèles open-source hors de portée du cadre réglementaire de toute nation. Hassabis souligne que le plus grand danger ne vient pas des modèles open-source mais des modèles propriétaires plus puissants développés par des laboratoires de premier plan.
L'administration Trump, qui avait auparavant favorisé une approche sans intervention sur la réglementation de l'IA, semble avoir montré une ouverture à l'idée, en particulier à la suite des développements récents impliquant les modèles anthropiques. L'organisme de réglementation proposé fonctionnerait de la même manière que l'Autorité de réglementation de l'industrie financière (FINRA), une organisation d'autoréglementation dans le secteur financier. Selon le plan de Hassabis, les principaux laboratoires de recherche sur l'IA seraient tenus de soumettre leurs modèles les plus avancés pour une évaluation de la sécurité jusqu'à 30 jours avant la publication publique. Ce processus impliquerait des tests rigoureux pour les dangers potentiels liés à la cybersécurité, aux menaces biologiques et aux capacités trompeuses.
Une fois que les procédures de test seront jugées efficaces et fiables, l'organisme pourrait passer à une entité de réglementation formalisée. La structure du chien de garde proposé inclurait un conseil indépendant majoritaire composé d'experts techniques de haut niveau, y compris des récipiendaires du prix Turing. Le conseil inclurait également des représentants des secteurs de l'industrie et du gouvernement, ainsi que de ceux de la communauté open-source.
La proposition s'applique à tous les modèles d'IA classés comme "classe frontière", indépendamment de leur pays d'origine ou s'ils sont open-source ou propriétaires. Hassabis suggère que les critères de classification seraient périodiquement examinés et ajustés à mesure que les capacités technologiques continuent d'évoluer. Le gouvernement américain a souligné l'urgence de telles mesures. L'arrêt brusque des modèles Anthropic Mythos et Fable par l'administration Trump le mois dernier a servi d'alarme pour de nombreux membres de la communauté de l'IA. Anthropic a été confronté à un ordre de contrôle des exportations inattendu qui a effectivement gelé ses modèles les plus puissants.
Après près de trois semaines de négociations, les modèles ont finalement été publiés, bien que sans lignes directrices ou protocoles clairs. Le modèle a ensuite été mis à la disposition du public après de longues discussions avec le ministère du Commerce. D'autres chercheurs en IA, dont le PDG d'Anthropic, Dario Amodei, ont également plaidé pour des réglementations plus strictes.
Bien qu'il y ait un large consensus parmi les principaux chercheurs en IA sur la nécessité d'une réglementation plus stricte, des différences subsistent quant à savoir qui devrait détenir l'autorité ultime dans l'élaboration de ces politiques.
1 articles
AxiosIndépendantCentreFactualité 75Objectivité 65hierDemis Hassabis, cofondateur et PDG de Google DeepMind, plaide pour la création d'un organisme de réglementation mondial dirigé par les États-Unis pour superviser le développement et le déploiement de systèmes d'intelligence artificielle avancés. Dans un manifeste personnel intitulé "Un cadre pour l'IA frontalière et l'aube d'une nouvelle ère", Hassabis soutient qu'il est temps d'adopter une approche systématique, financée par l'industrie, de la réglementation de l'IA, impliquant des experts techniques et responsables devant le gouvernement américain. Il avertit que les cyberrisques actuels liés à l'IA sont des avertissements précoces, et dans les 18 mois, des menaces plus graves - telles que les capacités biologiques et nucléaires - pourraient émerger dans des modèles open source hors du contrôle du gouvernement. Hassabis souligne que les plus grands risques résulteront de puissants modèles propriétaires développés par de grands laboratoires de recherche plutôt que de réglementations de sécurité open source. Il a travaillé dans les coulisses pour soutenir cette initiative, en s'engageant avec l'administration Trump et d'autres dirigeants européens, avant de proposer l'expansion des modèles d'IA frontalière, avant de passer par des tests de l'IA.
Lecture du biais (Centre): L'article présente l'appel de Demis Hassabis en faveur d'un cadre réglementaire de l'IA dirigé par les États-Unis de manière équilibrée, en se concentrant sur ses arguments, ses préoccupations et ses solutions proposées sans favoriser ouvertement une position politique particulière.
Pourquoi ces scores (Factualité 75 · Objectivité 65): Factuality is moderate as the article reports on Hassabis' public statements and manifesto, aligning with cross-source consensus. Objectivity is lower due to emotive language like 'warning shots' and emphasis on Hassabis' influence, which may bias perception.
★
Gardons l’information honnête.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 5 €/mois.
Devenir soutien
United States
