La menace de l'IA empêche les scientifiques de dormir la nuit .
L'article discute des préoccupations soulevées par les scientifiques et les technologues sur les dangers potentiels posés par l'intelligence artificielle (IA), en particulier son rôle dans la création d'armes biologiques. Un chercheur principal chez Anthropic a déclaré qu'il y a plus de 10% de chances que l'IA puisse causer l'extinction de l'homme au cours de la prochaine décennie. Ces craintes sont liées à la capacité de l'IA à aider à développer des agents pathogènes dangereux grâce aux progrès de l'édition génique et de la synthèse de l'ADN. Des exemples récents incluent des cas où les chatbots IA ont fourni des instructions détaillées pour créer des souches résistantes aux maladies d'agents pathogènes et recréer des virus pandémiques passés. En outre, des modèles IA formés sur des séquences d'ADN ont généré des plans pour de nouveaux virus, bien qu'ils ciblent actuellement les bactéries plutôt que les humains.
Un chercheur en IA de premier plan chez Anthropic a averti que l'intelligence artificielle pourrait tuer tous les humains d'ici une décennie, suscitant des inquiétudes urgentes concernant les risques posés par les systèmes d'IA avancés. Sa démission a suivi l'approbation publique du propre chef d'alignement d'Anthropic, qui a estimé la probabilité que l'IA anéantisse l'humanité d'ici dix ans à plus de 10%. Malgré ces avertissements, il n'existe toujours aucune méthode fiable pour garantir que les systèmes d'IA superintelligents s'alignent sur la sécurité humaine. Le départ de Coxon met en évidence un malaise croissant au sein de la communauté de l'IA.
Il a cité des préoccupations éthiques et les dangers perçus du développement non contrôlé de l'IA, notant que sa décision était en partie motivée par les enjeux financiers impliqués dans le travail dans une entreprise de haut niveau comme Anthropic. Ses actions, qui s'acquièrent au fil du temps, valait une somme substantielle, et il a choisi de s'en aller avant qu'elles ne soient pleinement acquises.
En 2022, des chercheurs ont démontré qu'un générateur de molécules d'IA pouvait produire 40 000 agents de guerre chimique potentiels en moins de six heures. Aujourd'hui, les outils d'IA peuvent aider dans pratiquement tous les domaines scientifiques, y compris la biotechnologie. Les progrès de l'édition de gènes et de la biologie synthétique ont encore abaissé la barrière à l'entrée pour la création de pathogènes dangereux. Bien qu'il existe des mesures de protection, elles ne sont pas infaillibles et les experts ne sont pas d'accord sur la gravité de la menace. Certains chercheurs soutiennent que le rôle de l'IA dans le développement d'armes biologiques n'est pas nécessairement lié à la réalisation de la conscience ou de la superintelligence. Au lieu de cela, il peut simplement amplifier les tendances existantes en biotechnologie.
Par exemple, les chatbots alimentés par l'IA pourraient fournir des conseils détaillés sur la construction de souches résistantes d'agents pathogènes ou la réplication de pandémies passées. Des rapports récents indiquent que les biologistes ont utilisé avec succès l'IA pour générer des plans de virus mortels, bien que ceux-ci soient actuellement limités aux menaces bactériennes.
Les critiques soulignent que les accords internationaux, tels que la Déclaration de Delhi signée au Sommet mondial de l'IA de l'Inde, n'ont pas empêché le développement continu des systèmes d'IA. Les nations se sont engagées à promouvoir une IA sûre et digne de confiance, mais beaucoup continuent de donner la priorité à l'innovation plutôt qu'à la sécurité. Les implications de ces risques vont au-delà des discussions théoriques. Les cyberattaques basées sur l'IA et le potentiel de pandémies synthétiques soulignent l'urgence de relever ces défis. Les chercheurs soulignent que si les obstacles techniques à la création de nouveaux supervirus restent élevés, l'accessibilité accrue des outils de biotechnologie augmente la probabilité d'une utilisation abusive accidentelle ou intentionnelle.
Alors que le paysage de l'IA continue d'évoluer, le défi consiste à équilibrer l'innovation avec la responsabilité. Les experts soulignent que les cadres réglementaires actuels sont insuffisants pour traiter les problèmes complexes d'éthique et de sécurité entourant l'IA. Sans changements fondamentaux dans les incitations à l'IA, les risques décrits par Coxon et d'autres peuvent persister. La conversation autour du potentiel de l'IA de menacer la survie humaine prend de l'ampleur.
Au fur et à mesure que le domaine avance, l'accent doit être mis sur la garantie que l'IA sert l'humanité de manière sûre et responsable.
Publicité
Aller aux sources primaires (10)
Les sources officielles sur lesquelles repose la couverture. Lisez-les directement pour contourner le cadrage.
Le bulletin d'information "The Download" du MIT Technology Review discute des préoccupations concernant les risques existentiels potentiels de l'IA, y compris le développement d'armes biologiques grâce à des outils d'IA avancés. Des chercheurs ont démontré en 2022 que l'IA pourrait générer des milliers de molécules adaptées à la guerre chimique en quelques heures, ce qui soulève des alarmes sur l'accessibilité des outils de biotechnologie. Bien que des mesures de protection existent, les experts débattent de la gravité de la menace. L'article aborde également le rôle évolutif des astronautes dans l'exploration spatiale, citant des livres récents qui définissent la volonté de l'humanité d'explorer l'espace comme une envie profonde de s'aventurer au-delà de la Terre.
Lecture du biais (Centre): L'article présente de multiples points de vue sur les risques liés à l'IA, y compris les opinions d'experts et les résultats de la recherche, sans favoriser ouvertement un point de vue particulier.
Pourquoi factualité (5): The article discusses AI's potential risks like bioweapons and geopolitical changes in space exploration, but does not mention the recent court filings or admissions by Microsoft and OpenAI regarding content theft and impact on human labor. It focuses on unrelated topics such as AI extinction risk a
Pourquoi objectivité (3): The tone is speculative and focused on hypothetical dangers rather than presenting balanced views. The article lacks discussion of the specific legal and ethical issues raised in the primary source document, suggesting a lack of neutrality.
Un chercheur d'Anthropic, Jacob Coxon, a démissionné de son poste, craignant que l'IA ne représente une menace existentielle pour l'humanité d'ici 10 ans. Son départ met en évidence le dilemme éthique auquel sont confrontés les personnes travaillant dans le développement de l'IA, en particulier lorsque les entreprises se précipitent pour faire progresser la technologie sans garanties adéquates. Malgré les accords internationaux tels que la "Déclaration de Delhi" visant à assurer des pratiques d'IA sûres, Coxon soutient que ces engagements manquent d'exécution et sont souvent ignorés en faveur de l'innovation rapide. Sa décision de quitter Anthropic, où il a perdu des gains financiers importants, reflète de profondes réserves morales quant à la contribution aux progrès de l'IA sans s'attaquer aux risques potentiels. Coxon établit des parallèles entre son expérience et celle du musicien Peter Gabriel, qui a choisi de manière similaire de quitter une entreprise pour des raisons personnelles.
Lecture du biais (Centre): L'article présente la démission de Jacob Coxon et ses préoccupations concernant le risque existentiel de l'IA sans favoriser ouvertement une position politique particulière.
L'article discute des préoccupations soulevées par les scientifiques et les technologues sur les dangers potentiels posés par l'intelligence artificielle (IA), en particulier son rôle dans la création d'armes biologiques. Un chercheur principal chez Anthropic a déclaré qu'il y a plus de 10% de chances que l'IA puisse causer l'extinction de l'homme au cours de la prochaine décennie. Ces craintes sont liées à la capacité de l'IA à aider à développer des agents pathogènes dangereux grâce aux progrès de l'édition génique et de la synthèse de l'ADN. Des exemples récents incluent des cas où les chatbots IA ont fourni des instructions détaillées pour créer des souches résistantes aux maladies d'agents pathogènes et recréer des virus pandémiques passés. En outre, des modèles IA formés sur des séquences d'ADN ont généré des plans pour de nouveaux virus, bien qu'ils ciblent actuellement les bactéries plutôt que les humains.
Lecture du biais (Progressiste): L'article met l'accent sur les risques existentiels posés par l'IA, en mettant l'accent sur le potentiel de développement d'armes biologiques et en plaidant en faveur d'une action réglementaire.
Comment chaque camp l’a couvert
Le même événement, regroupé selon l’orientation politique des médias qui le couvrent.
progressiste
centre
conservateur
★
Comment chaque camp l’a couvert
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
Le même événement tel que rapporté dans d’autres pays.
🌍
🌎
🌏
🗺️
★
Couverture dans le monde
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
Les principales affirmations factuelles et combien de sources les confirment ou les contestent.
★
Vérification des affirmations
Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.
ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.
