ON
← Retour au fil
Le spectre des armes biologiques basées sur l'IA est un appel au réveil pour la biotechnologie
United States🏛️ PolitiqueCentre

Le spectre des armes biologiques basées sur l'IA est un appel au réveil pour la biotechnologie

Dario Amodei, PDG d'Anthropic, et Sam Altman, PDG d'OpenAI, ont tous deux souligné la nécessité de ralentir le développement de l'IA en raison de ses risques. Ces commentaires ont suivi des rapports de chercheurs en IA qui ont affirmé que les grandes entreprises d'IA n'agissaient pas de manière responsable. Un de ces chercheurs, Jacob Coxon, a quitté son poste chez Anthropic, affirmant que l'IA pourrait conduire à des résultats catastrophiques. D'autres employés ont fait écho à des craintes similaires, suggérant que l'IA pourrait poser des menaces existentielles. La discussion porte sur la possibilité d'utiliser l'IA pour créer des armes biologiques, telles que des virus hautement létaux, des champignons destructeurs ou des toxines. Les chercheurs ont précédemment démontré que les outils de l'IA pourraient rapidement générer des agents de guerre chimique, ce qui a suscité des alarmes parmi les experts. Les chercheurs en biosécurité avertissent que la capacité de l'IA à accéder à de vastes connaissances combinées avec des avancées scientifiques en biotechnologie DIY crée des risques importants.

Le PDG de Nvidia, Jensen Huang, a exhorté à la poursuite du développement rapide de l'intelligence artificielle, rejetant les appels à un ralentissement malgré les inquiétudes croissantes concernant la trajectoire de la technologie. " Cependant, il a souligné que les produits ne devraient jamais être publiés avant d'avoir été entièrement testés et jugés sûrs. Les commentaires de Huang sont venus au milieu d'un examen approfondi de l'avancement rapide de l'IA. Des inquiétudes ont été soulevées plus tôt ce mois-ci lorsque Jacob Coxon, chercheur chez Anthropic, a démissionné et a averti que les entreprises d'IA donnaient la priorité à l'innovation plutôt qu'aux mesures de sécurité nécessaires.

Quelques jours plus tard, le PDG d'Anthropic, Dario Amodei, a fait écho à certaines des préoccupations de Coxon, affirmant que l'industrie avait depuis longtemps sous-estimé les risques associés à l'IA et que la technologie avance à un rythme exponentiel.

La société a confirmé à TechCrunch qu'elle exploite un laboratoire de biologie humide dans la région de la baie, où des modèles d'IA sont utilisés pour mener des expériences physiques. Cette initiative vise à tirer parti des capacités de l'IA pour relever des défis biologiques, y compris le potentiel de guérir des maladies majeures. Le responsable des sciences de la vie d'Anthropic, Eric Kauderer-Abrams, a noté que si le laboratoire se concentre sur la biologie fondamentale plutôt que sur la découverte directe de médicaments, il collabore avec des partenaires externes pour éviter de concurrencer les sociétés pharmaceutiques.

L'investisseur et fondateur de la start-up de codage d'IA Chamath Palihapitiya a fait une remarque humoristique sur les médias sociaux sur l'ironie de la double approche de l'entreprise, soulignant la tension entre innovation et prudence.

Il préconise une "transparence radicale" permettant à l'IA de fournir des informations approfondies sur les opérations organisationnelles, suggérant que cette approche pourrait être particulièrement résonnante auprès des employés chinois par rapport à leurs homologues occidentaux.

Le dialogue en cours souligne la nécessité d'efforts de collaboration entre les leaders de l'industrie, les régulateurs et les chercheurs pour établir des cadres robustes qui soutiennent le développement responsable de l'IA.

Comment ce reportage a été réalisé. Actualité objective a rédigé ce reportage à partir de 4 articles sources, avec une synthèse assistée par IA selon notre méthodologie. C'est notre propre texte, pas la copie d'un média. Lire notre méthodologie.

Rédacteur responsable: Matej BašaUne erreur ? Signalez-la

Aller aux sources primaires (16)

Les sources officielles sur lesquelles repose la couverture. Lisez-les directement pour contourner le cadrage.

4 articles

ABC News (US) logoABC News (US)IndépendantCentreFactualité 85Objectivité 78
Anthropic dit que son modèle Claude aide à construire la prochaine version de lui-même.

Anthropic a annoncé que son modèle d'IA, Claude, joue un rôle croissant dans le développement de la prochaine version de lui-même, menant désormais 26% des travaux de recherche et développement de l'entreprise. Bien que Claude ne soit pas entièrement autonome, il gère de grandes portions de tâches sous la supervision humaine. Cela intervient alors que certains dirigeants de l'IA, dont le PDG d'Anthropic, Dario Amodei, préconisent le ralentissement du développement de l'IA en raison de préoccupations de sécurité. Ils soutiennent que la transparence des progrès de l'IA est essentielle à la compréhension du public et à la prise de décision. Anthropic a souligné la nécessité de mesures partagées entre les développeurs d'IA pour suivre les progrès et assurer la sécurité. Cependant, tous les dirigeants ne sont pas d'accord, avec des figures comme le président Donald Trump s'opposant à de tels ralentissements.

Lecture du biais (Centre): L'article présente une vision équilibrée des opinions divergentes au sein de la communauté de l'IA concernant le rythme de développement.

Pourquoi factualité (85): The article accurately reports Anthropic's claim that Claude is involved in R&D, citing specific percentages and roles. It references the company's blog post and mentions calls for slowing AI development due to safety concerns. While it does not provide a primary source, it aligns with the cross-sou

Pourquoi objectivité (78): The article presents Anthropic's stance on AI safety and transparency but frames it through the company's perspective, particularly highlighting their call for slowed development. There is a slight editorial tilt towards emphasizing the importance of public understanding and control, though it remai

Semafor logoSemaforIndépendantCentreFactualité 85Objectivité 78
Novo s'associe à Anthropic dans le domaine de la découverte de médicaments

La société pharmaceutique danoise Novo Nordisk a annoncé un partenariat avec la start-up d'IA Anthropic pour accélérer le développement de médicaments en utilisant leur modèle d'IA Claude. Cette décision intervient alors que Novo fait face à la concurrence de sociétés comme Eli Lilly, Merck et Roche, qui ont également investi dans l'IA, mais principalement pour améliorer l'efficacité du lieu de travail et la conception d'essais plutôt que pour découvrir de nouveaux médicaments. Les chercheurs pensent que l'IA détient un potentiel important pour les applications en sciences biologiques, et Novo espère regagner des parts de marché après avoir perdu du terrain face à son médicament GLP-1 Ozempic. La société a connu une baisse de 20% de la valeur des actions au cours de l'année écoulée, ce qui a conduit à une restructuration interne et à un effort de changement de marque, supprimant "Nordisk" de son nom.

Lecture du biais (Centre): L'article présente une vue d'ensemble équilibrée du changement stratégique de Novo Nordisk vers la découverte de médicaments basés sur l'IA, en mettant en évidence les tendances de l'industrie et les défis spécifiques de l'entreprise.

Pourquoi factualité (85): The article accurately reports that Novo Nordisk is partnering with Anthropic on drug discovery efforts, citing the company's recent performance and strategic shift. It references industry trends with other pharmaceutical companies investing in AI, though it doesn't provide direct quotes or citation

Pourquoi objectivité (78): The tone suggests a somewhat negative outlook on Novo's performance, referring to its 'plunged 20%' and 'culture shake-up,' which may imply a judgmental stance. While the article presents facts neutrally, the emphasis on Novo's struggles could be seen as subtly biased towards portraying the company

MIT Technology Review logoMIT Technology ReviewIndépendantCentreFactualité 75Objectivité 60
Le spectre des armes biologiques basées sur l'IA est un appel au réveil pour la biotechnologie

Dario Amodei, PDG d'Anthropic, et Sam Altman, PDG d'OpenAI, ont tous deux souligné la nécessité de ralentir le développement de l'IA en raison de ses risques. Ces commentaires ont suivi des rapports de chercheurs en IA qui ont affirmé que les grandes entreprises d'IA n'agissaient pas de manière responsable. Un de ces chercheurs, Jacob Coxon, a quitté son poste chez Anthropic, affirmant que l'IA pourrait conduire à des résultats catastrophiques. D'autres employés ont fait écho à des craintes similaires, suggérant que l'IA pourrait poser des menaces existentielles. La discussion porte sur la possibilité d'utiliser l'IA pour créer des armes biologiques, telles que des virus hautement létaux, des champignons destructeurs ou des toxines. Les chercheurs ont précédemment démontré que les outils de l'IA pourraient rapidement générer des agents de guerre chimique, ce qui a suscité des alarmes parmi les experts. Les chercheurs en biosécurité avertissent que la capacité de l'IA à accéder à de vastes connaissances combinées avec des avancées scientifiques en biotechnologie DIY crée des risques importants.

Lecture du biais (Centre): Bien que l'article discute des inquiétudes concernant le potentiel de l'IA pour permettre des armes biologiques, ce qui est une question politiquement sensible, il présente de multiples perspectives sans favoriser ouvertement une position idéologique particulière.

Pourquoi factualité (75): The article accurately reports that Anthropic CEO Dario Amodei called for slowing AI progress and that OpenAI CEO Sam Altman agreed. However, it introduces new claims not present in the primary source, such as Jacob Coxon leaving Anthropic and citing concerns about AI potentially killing everyone. T

Pourquoi objectivité (60): The article uses emotionally charged language such as 'could kill us all' and 'wake-up call,' which may influence reader perception. It presents the views of individuals like Coxon and Hubinger without providing balanced counterpoints, creating a one-sided narrative.

TechCrunch logoTechCrunchIndépendantCentreFactualité 60Objectivité 70
Anthropic exploite un laboratoire qui mène des expériences de biologie

Anthropic, une société d'IA basée dans la région de la baie, a confirmé qu'elle exploite un laboratoire de biologie humide où elle utilise ses modèles d'IA pour mener des expériences physiques. Le laboratoire se concentre sur la biologie fondamentale plutôt que sur la découverte de médicaments, et Anthropic collabore avec des partenaires externes, dont Novo Nordisk. La société a récemment acquis Coefficient Bio, une société de biotechnologie basée sur l'IA, et a lancé un programme de vérification des sciences de la vie pour fournir un accès à ses modèles avancés aux chercheurs vérifiés. Anthropic a également publié des rapports sur l'avancement de la conception des protéines et de la modélisation bimoléculaire. Malgré ses efforts pour éviter la concurrence avec les sociétés pharmaceutiques, la société fait face à des critiques pour ses objectifs ambitieux, y compris les allégations selon lesquelles l'IA pourrait poser des risques existentiels pour l'humanité. Le PDG Dario Amodei a préconisé le ralentissement du développement de l'IA et la mise en œuvre de l'autorégulation, mais l'expansion de l'entreprise dans la recherche biologique a suscité un débat au sein de la communauté technologique.

Lecture du biais (Centre): L'article présente une vision équilibrée des activités d'Anthropic, mettant en évidence à la fois leurs ambitions scientifiques et les préoccupations éthiques soulevées par les critiques. Bien qu'il mentionne les risques potentiels de l'IA, il ne prend pas une position idéologique claire. Le cadre reste neutre, en se concentrant sur des rapports factuels,

Pourquoi factualité (60): The article mentions Anthropic's wet biology lab and its collaboration with Novo Nordisk, aligning somewhat with the primary source document. However, it omits specific details about the nature of the collaboration and the goals outlined in the primary source, indicating partial alignment with the f

Pourquoi objectivité (70): The article maintains a relatively neutral tone, discussing Anthropic's activities and collaborations without overtly favoring one side. It presents information objectively, though it uses terms like 'backlash' which might imply a slight bias towards the critics of Anthropic.

Comment chaque camp l’a couvert

Le même événement, regroupé selon l’orientation politique des médias qui le couvrent.

Comment chaque camp l’a couvert

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Couverture dans le monde

Le même événement tel que rapporté dans d’autres pays.

Couverture dans le monde

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Vérification des affirmations

Les principales affirmations factuelles et combien de sources les confirment ou les contestent.

Vérification des affirmations

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Gardons l’information honnête.

ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.

Devenir soutien

Sujets liés