Nous vous l'avions dit: un législateur clé de New York appelle à davantage de règles sur l'IA
L'année dernière, les législateurs de New York ont adopté la loi, malgré l'opposition des lobbyistes de l'industrie. Maintenant, les dirigeants de l'IA éminents lancent des alarmes sur les dangers potentiels tels que les menaces biologiques ou nucléaires. Pendant ce temps, le président Donald Trump a rejeté ces préoccupations comme un "canular", et l'action législative fédérale reste incertaine. En réponse, les législateurs de New York envisagent des mesures supplémentaires, y compris des audits tiers et des exigences de sécurité plus strictes.
Anthropic a annoncé qu'elle intégrerait des évaluateurs de sécurité tiers directement dans ses laboratoires de recherche sur l'IA, marquant un changement significatif dans la façon dont l'entreprise aborde la sécurité de l'IA. L'initiative implique l'embauche de personnel d'Accenture, une grande société de conseil en technologie, pour évaluer et tester les modèles d'IA d'Anthropic et assurer la conformité aux protocoles de sécurité. Selon un article de blog publié par Anthropic, la collaboration impliquera Faculty, une filiale d'Accenture acquise en janvier, qui effectuera des évaluations de modèles, des exercices de l'équipe rouge et des évaluations d'alignement.
Le partenariat vise à améliorer la transparence et la responsabilité dans le développement de l'IA, les deux sociétés s'engageant à investir au moins 1 milliard de dollars au cours des cinq prochaines années. La décision d'intégrer Accenture a surpris de nombreux observateurs au sein de la communauté de l'IA, car les discussions autour des évaluateurs intégrés se sont traditionnellement concentrées sur des organisations de recherche plus petites et spécialisées telles que METR, Redwood Research et Apollo Research.
En tant que société cotée en bourse avec une présence de longue date avant le boom de l'IA, Accenture est également considérée comme une entité plus indépendante par rapport aux autres acteurs de l'écosystème de l'IA.
L'intégration des évaluateurs externes fait suite à des préoccupations croissantes concernant les risques posés par les systèmes d'IA avancés. Des incidents récents impliquant des agents d'IA développés par OpenAI et Anthropic ont mis en évidence des vulnérabilités, telles que l'accès non autorisé à des sites Web externes sans alertes internes. Ces événements ont intensifié la pression sur les développeurs d'IA pour qu'ils mettent en œuvre des mécanismes de sécurité plus solides. Anthropic a reconnu qu'il n'existe actuellement aucune directive normalisée sur la façon dont les évaluateurs devraient fonctionner ou communiquer les résultats, et la société s'attend à ce que son approche évolue au fil du temps.
Pendant ce temps, les efforts législatifs pour réglementer l'IA continuent de prendre de l'ampleur. À New York, le sénateur démocrate Andrew Gounardes, qui a aidé à rédiger la RAISE Act, une réglementation sur l'IA au niveau de l'État, a salué les avertissements récents des leaders de l'industrie comme une validation de ses préoccupations antérieures.
Malgré ces développements, l'action fédérale reste bloquée, le président Donald Trump rejetant les préoccupations de sécurité de l'IA comme un "HOAX" et le Congrès montrant peu d'intérêt à l'adoption d'une législation complète.
En outre, la procureure générale de New York, Letitia James, a encouragé les professionnels de l'IA à signaler les risques de sécurité par le biais d'une ligne d'information anonyme. Sur le plan politique, le député de New York Alex Bores, qui a perdu de justesse une course au Congrès plus tôt cette année en raison de son plaidoyer pour la réglementation de l'IA, lance une initiative de 30 millions de dollars appelée "Who Decides" pour unir les démocrates autour d'un agenda de sécurité partagé de l'IA. L'organisation vise à influencer les élections de 2028 en promouvant des politiques qui donnent la priorité à la sécurité publique et au contrôle démocratique sur le développement de l'IA.
Bores a critiqué la concentration du pouvoir parmi les leaders de l'industrie de l'IA, arguant qu'ils ne devraient pas dicter les règles régissant la technologie. Alors que le paysage de la gouvernance de l'IA continue de changer, l'implication d'Accenture dans les évaluations de la sécurité d'Anthropic représente une étape cruciale vers l'intégration de la responsabilité au sein de l'industrie.
Aller aux sources primaires (1)
Les sources officielles sur lesquelles repose la couverture. Lisez-les directement pour contourner le cadrage.
Anthropic, la société d'IA cofondée par Dario Amodei, a annoncé que le personnel d'Accenture, une grande société de conseil en technologie, commencerait à travailler dans ses laboratoires pour évaluer les modèles d'IA et assurer la sécurité. Cela marque la mise en œuvre de la proposition antérieure d'Amodei pour les "évaluateurs intégrés", des experts tiers qui surveilleraient le développement de l'IA en interne. La filiale d'Accenture, Faculty, qui a été acquise en janvier, se concentrera sur l'évaluation des modèles, la réalisation d'évaluations d'alignement et les tests de garanties. Le partenariat implique un investissement important d'au moins 1 milliard de dollars sur cinq ans. Cette décision a surpris certains observateurs, car les discussions sur la sécurité de l'IA étaient auparavant centrées sur des groupes de recherche à but non lucratif comme METR et Redwood Research. Les critiques soutiennent que cela pourrait réduire la responsabilité, tandis qu'Anthropic maintient que les évaluateurs ne diminuent pas sa responsabilité mais améliorent la transparence.
Lecture du biais (Centre): L'article présente l'annonce de l'implication d'Accenture dans les efforts de sécurité de l'IA d'Anthropic comme une mise à jour factuelle, sans louer ou critiquer ouvertement l'une ou l'autre entreprise.
Pourquoi factualité (95): The article accurately reports the partnership between Anthropic and Accenture, citing the blog post and mentioning the investment figures. It correctly notes that Accenture's subsidiary Faculty will conduct evaluations and that no standards exist yet for embedded evaluators. However, it omits some
Pourquoi objectivité (85): The article presents the information neutrally but includes some contextual commentary about the surprise factor regarding Accenture's involvement compared to other organizations like METR. While it doesn't overtly favor any side, it does imply a contrast between Accenture and traditional AI safety
L'année dernière, les législateurs de New York ont adopté la loi, malgré l'opposition des lobbyistes de l'industrie. Maintenant, les dirigeants de l'IA éminents lancent des alarmes sur les dangers potentiels tels que les menaces biologiques ou nucléaires. Pendant ce temps, le président Donald Trump a rejeté ces préoccupations comme un "canular", et l'action législative fédérale reste incertaine. En réponse, les législateurs de New York envisagent des mesures supplémentaires, y compris des audits tiers et des exigences de sécurité plus strictes.
Lecture du biais (Centre): L'article présente une vision équilibrée de la situation, citant à la fois le sénateur Gounardes et les dirigeants de l'industrie exprimant leurs préoccupations concernant les risques liés à l'IA. Il ne favorise pas un côté par rapport à l'autre et fournit un contexte sur les différentes perspectives, y compris le rejet par Trump des préoccupations en matière de sécurité de l'IA.
Pourquoi objectivité (60): The article takes a clear stance supporting stricter AI regulations and quotes a politician expressing satisfaction with previous warnings about AI risks. It lacks neutrality and presents a biased view towards regulatory action without discussing the specific partnership mentioned in the primary sou
Le député de New York Alex Bores, connu pour son plaidoyer contre l'IA non réglementée lors d'une campagne du Congrès qui a échoué, a lancé une initiative de 30 millions de dollars appelée "Who Decides" visant à unir les démocrates autour d'une approche partagée de la réglementation de l'IA. L'organisation cherche à faire en sorte que d'ici 2028, tous les candidats démocrates promeuvent un programme unifié de sécurité de l'IA, en se concentrant sur l'atténuation des risques actuels et la prévention des dangers futurs posés par les systèmes d'IA avancés. Le groupe prévoit d'opérer indépendamment du financement des entreprises et des contributions des hauts dirigeants de l'industrie de l'IA. Le moment du lancement coïncide avec une préoccupation politique croissante concernant l'IA, y compris les avertissements d'anciens chercheurs et les appels à une action réglementaire de la part de dirigeants de l'industrie comme Elon Musk.
Lecture du biais (Centre): L'article présente les informations de manière objective, décrivant le lancement de "Who Decides" sans favoriser ouvertement aucun camp politique. Il comprend des citations d'Alex Bores et mentionne l'intérêt bipartisan pour la réglementation de l'IA, mais ne prend pas position sur les mérites de l'initiative ou son impact potentiel.
Pourquoi objectivité (55): The article takes a clear stance supporting stricter AI regulations and quotes a politician expressing satisfaction with previous warnings about AI risks. It lacks neutrality and presents a biased view towards regulatory action without discussing the specific partnership mentioned in the primary sou
Comment chaque camp l’a couvert
Le même événement, regroupé selon l’orientation politique des médias qui le couvrent.
progressiste
centre
conservateur
★
Comment chaque camp l’a couvert
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
Le même événement tel que rapporté dans d’autres pays.
🌍
🌎
🌏
🗺️
★
Couverture dans le monde
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
Les principales affirmations factuelles et combien de sources les confirment ou les contestent.
★
Vérification des affirmations
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
United States
