ON
← Retour au fil
Quanta Magazine logo🏛️ Politique
United States🏛️ PolitiqueCentreil y a 3 j

Pensons-nous correctement à l'intelligence artificielle ?

L'article discute du débat sur la question de savoir si les grands modèles de langage (LLM) tels que ceux utilisés dans l'IA raisonnent vraiment ou génèrent simplement un texte qui semble raisonnable. Cette distinction a des implications importantes sur la façon dont nous évaluons la fiabilité de l'IA, les besoins de surveillance et l'impact potentiel. Melanie Mitchell, une scientifique cognitive à l'Institut Santa Fe, soutient que les méthodes actuelles de mesure de la cognition des machines sont inadéquates et propose de considérer l'IA comme une "intelligence extraterrestre" semblable à l'étude de la cognition chez des entités non humaines telles que les nourrissons et les animaux. Elle suggère d'adapter les techniques de recherche psychologique pour mieux comprendre les processus internes de l'IA et décrit six principes pour évaluer la cognition des machines. La discussion comprend les défis liés à l'interprétation du comportement de l'IA, les récentes avancées mathématiques aidées par l'IA et des exemples historiques comme un cheval mathématiquement performant du début des années 1900 qui soulignent les problèmes de définition de l'intelligence.

Son point de vue remet en question les hypothèses conventionnelles sur la façon dont les machines traitent l'information et si leurs sorties reflètent une compréhension réelle ou simplement une reconnaissance de modèles sophistiquée.

Les outils psychologiques traditionnels utilisés pour évaluer l'intelligence chez l'homme, tels que les tests de résolution de problèmes ou les observations comportementales, ne sont pas adaptés à l'analyse du fonctionnement interne de l'IA. Ces modèles fonctionnent à travers des réseaux neuronaux complexes qui manquent de transparence, ce qui rend difficile de déterminer si leurs réponses proviennent de la compréhension réelle ou du mimétisme algorithmique.

L'épisode, publié le 23 juillet 2026, fait suite à une précédente interview de Mitchell en 2021, peu après le lancement de ChatGPT. À cette époque, Mitchell avait déjà exprimé des inquiétudes quant à l'écart entre l'intelligence humaine et la machine.

Ils ont reconnu que même des experts comme Mitchell doivent constamment mettre à jour leurs perspectives. Au cours de l'interview, Mitchell a discuté de la façon dont les chercheurs pourraient appliquer les connaissances de la psychologie du développement pour mieux interpréter le comportement de l'IA. Par exemple, des études sur la façon dont les nourrissons acquièrent le langage et résolvent les problèmes pourraient éclairer les stratégies pour évaluer si les systèmes d'IA s'engagent dans des processus similaires.

Mitchell a proposé six principes directeurs pour évaluer la cognition de la machine, y compris l'importance de la transparence, de la reproductibilité et de l'alignement avec le raisonnement humain. Elle a fait valoir que tant que ces critères ne sont pas remplis, les systèmes d'IA restent peu fiables en tant qu'outils de prise de décision.

Au fur et à mesure que la conversation se déroulait, Mitchell a souligné que le défi ne réside pas seulement dans l'amélioration des performances de l'IA, mais aussi dans le raffinement de notre cadre conceptuel pour comprendre l'intelligence elle-même. Elle a suggéré que la poursuite de la création de machines vraiment intelligentes pourrait nécessiter un changement fondamental dans la façon dont nous définissons et mesurons la cognition.

L'épisode s'est terminé avec Mitchell exprimant son optimisme quant aux progrès futurs, tout en reconnaissant la complexité de la tâche à accomplir.

Aller aux sources primaires (1)

Les sources officielles sur lesquelles repose la couverture. Lisez-les directement pour contourner le cadrage.

1 articles

Quanta Magazine logoQuanta MagazineIndépendantCentreFactualité 85Objectivité 78il y a 3 j
Pensons-nous correctement à l'intelligence artificielle ?

L'article discute du débat sur la question de savoir si les grands modèles de langage (LLM) tels que ceux utilisés dans l'IA raisonnent vraiment ou génèrent simplement un texte qui semble raisonnable. Cette distinction a des implications importantes sur la façon dont nous évaluons la fiabilité de l'IA, les besoins de surveillance et l'impact potentiel. Melanie Mitchell, une scientifique cognitive à l'Institut Santa Fe, soutient que les méthodes actuelles de mesure de la cognition des machines sont inadéquates et propose de considérer l'IA comme une "intelligence extraterrestre" semblable à l'étude de la cognition chez des entités non humaines telles que les nourrissons et les animaux. Elle suggère d'adapter les techniques de recherche psychologique pour mieux comprendre les processus internes de l'IA et décrit six principes pour évaluer la cognition des machines. La discussion comprend les défis liés à l'interprétation du comportement de l'IA, les récentes avancées mathématiques aidées par l'IA et des exemples historiques comme un cheval mathématiquement performant du début des années 1900 qui soulignent les problèmes de définition de l'intelligence.

Lecture du biais (Centre): L'article présente une exploration équilibrée des capacités cognitives de l'IA sans inclinaison idéologique manifeste.

Pourquoi factualité (85): The article accurately represents Melanie Mitchell's arguments from the primary source document, discussing her views on AI intelligence and the challenges of measuring machine cognition. It references her work at the Santa Fe Institute and mentions her proposed six principles for assessing machine

Pourquoi objectivité (78): The article presents Mitchell's perspective in a balanced manner but includes some subjective language such as 'philosophical' and 'cautionary tale,' which may lean towards emphasizing the complexity and uncertainty around AI assessment. While not overtly biased, it frames the discussion around the

Comment chaque camp l’a couvert

Le même événement, regroupé selon l’orientation politique des médias qui le couvrent.

Comment chaque camp l’a couvert

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Couverture dans le monde

Le même événement tel que rapporté dans d’autres pays.

Couverture dans le monde

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Vérification des affirmations

Les principales affirmations factuelles et combien de sources les confirment ou les contestent.

Vérification des affirmations

Soutenez une information indépendante et consciente des biais, et débloquez le pouls social, le vote communautaire et toutes les autres fonctions pour les soutiens.

Devenir soutien

Gardons l’information honnête.

ObjectiveNews est financé par ses lecteurs et sans publicité : nous vous montrons le biais au lieu de le cacher. Soutenez un journalisme indépendant pour 4 €/mois.

Devenir soutien

Sujets liés