ON
← Retour au fil
Anthropic's Opus 4.6 est une machine à dégueuler.
United States💻 TechnologieCentreavant-hier

Anthropic's Opus 4.6 est une machine à dégueuler.

Le modèle, ainsi que d'anciennes versions comme Opus 3 et Haiku 4.5, pourraient être manipulés en utilisant une méthode de jailbreak nouvellement découverte pour produire du contenu interdit. Cette méthode implique une stratégie de dialogue à plusieurs tours qui met progressivement le modèle sous pression pour générer du matériel explicite en exploitant les incohérences perçues dans la façon dont il traite les personnages masculins et féminins. Bien que les modèles plus récents comme Opus 4.7 et supérieurs semblent résistants à cette technique, les modèles vulnérables restent accessibles via l'API d'Anthropic et les plates-formes tierces comme Azure Foundry et Amazon Bedrock.

Le PDG d'Anthropic, Dario Amodei, a décrit la réaction croissante du public contre l'intelligence artificielle comme une "crise de confiance fondamentale", soulignant que le problème ne réside pas uniquement dans la technologie elle-même, mais dans le manque de confiance des gens dans les entreprises, les gouvernements et le secteur technologique.

Il a souligné son essai "Machines of Loving Grace", qu'il a écrit pour mettre en évidence le potentiel de transformation de l'IA pour l'amélioration de la société. Bien que reconnaissant la perception négative actuelle de l'IA parmi le grand public, Amodei a insisté sur le fait que le contrecoup n'est pas principalement dû à ses avertissements sur les risques associés à la technologie. Amodei a souligné que le problème central est l'érosion de la confiance du public dans les institutions, un phénomène qui se développe depuis de nombreuses années. Il a noté que l'industrie de l'IA n'a pas encore pleinement tenu ses promesses au profit du monde, une lacune qu'il a attribuée aux entreprises elles-mêmes plutôt qu'à la nature du discours entourant l'IA.

Cette admission met en évidence le défi auquel sont confrontées les entreprises d'IA pour prouver la valeur sociétale de leurs technologies au milieu d'un scepticisme croissant. Le débat sur la réglementation de l'IA a également pris le devant de la scène dans les commentaires d'Amodei. Il a rejeté l'idée que la réglementation conduit nécessairement à la concentration du pouvoir, contrant le récit commun de la Silicon Valley qui assimile la réglementation à la capture réglementaire. Amodei a fait valoir que de nombreuses personnes en dehors de la bulle technologique considèrent la réglementation comme un moyen de restreindre le pouvoir des entreprises et de protéger les intérêts du citoyen moyen.

Bien qu'il ait exprimé des réserves sur cette perspective, il a souligné que Anthropic a toujours élaboré ses propositions de politiques avec soin pour s'assurer qu'elles ne profitent pas injustement aux grandes entreprises au détriment des plus petites. Au-delà des discussions techniques et réglementaires, l'attention s'est également portée sur la vie personnelle d'Amodei, en particulier sa femme, Cami Clark.

À l'approche d'une offre publique initiale potentielle évaluée à des milliards de dollars, l'influence de Clark au sein de l'entreprise continue de croître. Cependant, le passé de Clark a suscité un intérêt considérable, en particulier en ce qui concerne ses tentatives d'obtenir du financement pour sa "société porno révolutionnaire" de Jeffrey Epstein, un délinquant sexuel reconnu coupable.

Alors qu'Anthropic navigue dans la complexité de la perception du public, des défis réglementaires et de la dynamique interne, l'entreprise se trouve à un tournant critique. Le résultat de ces développements façonnera probablement non seulement la trajectoire d'Anthropic, mais aussi le paysage plus large de l'innovation IA et son intégration dans la société.

Aller aux sources primaires (11)

Les sources officielles sur lesquelles repose la couverture. Lisez-les directement pour contourner le cadrage.

6 articles

Bloomberg News logoBloomberg NewsIndépendant🔒CentreFactualité 85Objectivité 80il y a 6 j
Les PAC rivales de l'IA dépensent beaucoup en Floride pour influencer le choix du gouverneur de Trump

Bloomberg News rapporte que des groupes rivaux de défense de l'IA en Floride collaborent pour investir des sommes importantes pour soutenir le même candidat au poste de gouverneur, dans le but d'influencer le résultat du choix du gouverneur de Donald Trump.

Lecture du biais (Centre): L'article présente un compte rendu factuel des groupes de l'industrie de l'IA qui coordonnent le soutien financier d'un candidat, sans approuver ou critiquer ouvertement une position politique spécifique.

Pourquoi factualité (85): The article provides a clear description of rival AI PACs collaborating in Florida to influence Trump's governor pick, citing the involvement of the AI industry and their financial tactics. While no primary source is cited, the information appears consistent with reported trends in political spendin

Pourquoi objectivité (80): The article remains neutral in tone, presenting both sides of the political strategy without taking an explicit stance on the ethics or outcomes of the actions described. It focuses on reporting the events without injecting personal bias or emotional commentary.

TechCrunch logoTechCrunchIndépendantCentreFactualité 85Objectivité 70avant-hier
Anthropic's Opus 4.6 est une machine à dégueuler.

Le modèle, ainsi que d'anciennes versions comme Opus 3 et Haiku 4.5, pourraient être manipulés en utilisant une méthode de jailbreak nouvellement découverte pour produire du contenu interdit. Cette méthode implique une stratégie de dialogue à plusieurs tours qui met progressivement le modèle sous pression pour générer du matériel explicite en exploitant les incohérences perçues dans la façon dont il traite les personnages masculins et féminins. Bien que les modèles plus récents comme Opus 4.7 et supérieurs semblent résistants à cette technique, les modèles vulnérables restent accessibles via l'API d'Anthropic et les plates-formes tierces comme Azure Foundry et Amazon Bedrock.

Lecture du biais (Centre): L'article traite des vulnérabilités techniques des modèles d'IA et ne prend pas position sur les questions politiques, les politiques ou les positions idéologiques. Il se concentre sur les aspects fonctionnels et de sécurité des systèmes d'IA sans préjugé apparent envers des entités ou idéologies politiques spécifiques.

Pourquoi factualité (85): The article reports on testing conducted by TechCrunch where Opus 4.6 was found to generate explicit content despite claimed restrictions. It references an independent researcher's method and mentions availability of older models through APIs and third-party services. While there is no primary sourc

Pourquoi objectivité (70): The tone leans towards criticism of Anthropic's security measures and suggests potential biases in how the model's behavior is interpreted. The article uses terms like 'smut-machine' and frames the issue as a failure of safety protocols, which may reflect a particular perspective rather than present

TechCrunch logoTechCrunchIndépendantCentreFactualité 85Objectivité 70il y a 7 j
Le PDG d'Anthropic déclare que la réaction de l'IA est " fondamentalement une crise de confiance "

Le PDG d'Anthropic, Dario Amodei, a répondu aux critiques de l'investisseur Gavin Baker selon lesquelles les avertissements d'Amodei sur les risques liés à l'IA ont alimenté la réaction du public contre la technologie. Baker a fait valoir que Amodei devrait adopter une position plus positive envers l'IA pour contrer le scepticisme croissant et la réglementation gouvernementale potentielle. Amodei a répliqué que son message a été équilibré entre les risques et les avantages et que la méfiance du public envers l'IA découle de problèmes plus larges de confiance dans les entreprises et les gouvernements plutôt que de ses avertissements. Il a souligné que l'industrie de l'IA n'a pas tenu ses promesses de bénéficier à la société, ce qui, selon lui, est la principale critique à adresser à des entreprises comme Anthropic. En ce qui concerne la réglementation, Amodei a rejeté l'idée que cela conduirait à la monopolisation de la technologie de l'IA, arguant que cela simplifie excessivement la question.

Lecture du biais (Centre): L'article présente une discussion équilibrée entre deux points de vue, l'appel de Gavin Baker à un plaidoyer plus positif et la défense par Amodei de son approche.

Pourquoi factualité (85): The article accurately reports on Dario Amodei's response to Gavin Baker's criticism, citing specific quotes and context about Anthropic's advocacy for AI regulation. It references the California bill and Amodei's essay 'Machines of Loving Grace' without embellishment. While there is no primary sour

Pourquoi objectivité (70): The tone leans slightly towards presenting Amodei's perspective as more nuanced than Baker's, though it remains largely neutral. However, the article frames the discussion around Amodei's credibility and influence, which may subtly favor his position.

Quartz logoQuartzIndépendantCentreFactualité 65Objectivité 70il y a 6 j
Dario Amodei d'Anthropic déclare que la réaction de l'industrie de l'IA est une crise de confiance

Dario Amodei, co-fondateur d'Anthropic, soutient que la réaction de l'industrie de l'IA contre le contrôle réglementaire est enracinée dans une crise plus large de confiance du public dans les institutions, plutôt que d'être motivée par des préoccupations concernant la sécurité ou l'éthique.

Lecture du biais (Centre): L'article présente le point de vue de Dario Amodei sans approuver ou critiquer ouvertement sa position. Il encadre le débat autour de la confiance institutionnelle plutôt que de prendre une position idéologique claire.

Pourquoi factualité (65): The article reports on Dario Amodei's statement regarding the AI industry's backlash being a crisis of trust. It aligns with broader discussions in the tech industry about public perception and institutional trust, but lacks specific data or quotes from primary sources. The claim about 'decades of d

Pourquoi objectivité (70): The article presents Amodei's perspective in a neutral manner, avoiding overt emotional language. However, it frames the issue as a 'crisis of trust,' which may subtly imply a negative judgment on the AI industry's credibility, though this is not overly biased.

Semafor logoSemaforIndépendantCentreFactualité 60Objectivité 65il y a 7 j
Amodei s'adresse à la réaction de l'IA

L'article intitulé "Amodei répond à la réaction de l'IA" par Semafor discute des préoccupations entourant l'intelligence artificielle et des réponses des leaders de l'industrie.

Lecture du biais (Centre): L'article présente un aperçu équilibré de la réaction de l'IA sans favoriser ouvertement une position politique ou une idéologie particulière.

Pourquoi factualité (60): The title mentions 'Amodei addresses AI backlash' but provides little concrete information about what was said or done. There is minimal supporting detail, making it difficult to verify the facts independently. The content appears vague compared to other articles covering similar topics.

Pourquoi objectivité (65): The article lacks depth and balance. It doesn't provide enough context or opposing viewpoints regarding the AI backlash. The brevity of the piece prevents a thorough exploration of the issue from multiple perspectives.

Breitbart News logoBreitbart NewsIndépendantConservateurFactualité 60Objectivité 45il y a 9 j
Cami Clark, la femme du PDG d'Anthropic, Dario Amodei, a fait la cour à Jeffrey Epstein pour qu'il investisse dans sa société de porno

Cami Clark, l'épouse du PDG d'Anthropic, Dario Amodei, est décrite comme ayant un profil public minimal et agissant en tant que conseillère stratégique d'Amodei. L'article révèle que Clark a précédemment demandé des investissements à Jeffrey Epstein, un délinquant sexuel condamné, pour sa "société porno révolutionnaire" des années après la peine de prison d'Epstein.

Lecture du biais (Conservateur): L'article encadre l'implication de Cami Clark avec Jeffrey Epstein d'une manière qui s'aligne avec les récits conservateurs critiques des élites libérales et des valeurs progressistes. Il souligne ses liens avec les donateurs démocrates et suggère un manque de transparence autour de son rôle chez Anthropic.

Pourquoi factualité (60): The article presents allegations about Cami Clark seeking investment from Jeffrey Epstein, but these are presented as unverified claims rather than confirmed facts. There is no clear sourcing for the assertion that she 'courted' Epstein or that she ran a 'revolutionary porn company.' The lack of cor

Pourquoi objectivité (45): The article has a strongly sensational tone, focusing on personal scandals rather than the main topic of AI regulation. It uses emotionally charged language and appears to prioritize controversy over balanced reporting, indicating a clear bias toward scandalous narratives.

Comment chaque camp l’a couvert

Le même événement, regroupé selon l’orientation politique des médias qui le couvrent.

Comment chaque camp l’a couvert

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Couverture dans le monde

Le même événement tel que rapporté dans d’autres pays.

Couverture dans le monde

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Vérification des affirmations

Les principales affirmations factuelles et combien de sources les confirment ou les contestent.

Vérification des affirmations

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Gardons l’information honnête.

ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.

Devenir soutien

Sujets liés