Anthropic, il y a un espace à l'intérieur de l'IA qui stocke des concepts comme l'homme.

Anthropic, une société d'intelligence artificielle de premier plan fondée par Dario et Daniela Amodei, a révélé de nouvelles découvertes sur son grand modèle de langage, Claude. La découverte se concentre sur un espace interne distinct dans le système d'IA où les concepts sont stockés et traités indépendamment des sorties générées pour les utilisateurs. Cette zone fonctionne de la même manière que la façon dont les humains stockent et accèdent aux pensées sans nécessairement les exprimer verbalement. Selon les chercheurs d'Anthropic, ce mécanisme interne suggère une séparation entre les informations utilisées pour les tâches de raisonnement immédiates et un ensemble plus large de calculs sous-jacents, offrant de nouvelles informations sur la nature de la cognition des machines.

La recherche a été détaillée dans un post public partagé via la plate-forme de médias sociaux de l'entreprise, où Anthropic a expliqué que Claude utilise une région spécifique pour planifier des stratégies qui pourraient ne pas être directement liées à la tâche actuelle demandée par un utilisateur.

Anthropic a appelé cette zone nouvellement identifiée "J-Space", nommé d'après le concept mathématique connu sous le nom de Jacobian. Le terme reflète les interactions et les transformations complexes qui se produisent dans l'architecture du modèle. La société a souligné que, tout comme les humains peuvent s'engager dans une tâche mentale tout en pensant à une autre, Claude est capable d'activer des concepts et des calculs dans son J-Space qui ne sont pas liés aux sorties qu'il produit. Par exemple, lorsqu'on lui demande de penser au Golden Gate Bridge en Californie tout en copiant une phrase aléatoire, Claude semble gérer les deux tâches simultanément.

Bien que la sortie reflétait le texte copié, le traitement interne comprenait des éléments liés au pont et à l'état de Californie. Cette découverte pourrait avoir des implications importantes pour la compréhension du fonctionnement interne des systèmes d'IA. Anthropic a suggéré que l'analyse de la dynamique de J-Space pourrait aider à détecter des désalignements ou des intentions potentiellement nuisibles dans les modèles d'IA. La société a invité des experts en neurosciences et en philosophie à fournir leurs perspectives sur la recherche, reconnaissant la nature interdisciplinaire du sujet et la nécessité de divers points de vue pour en saisir pleinement l'importance.

La révélation intervient au milieu d'un intérêt croissant pour les capacités et les limites des systèmes d'IA avancés. Alors que les débats se poursuivent pour savoir si les machines peuvent posséder des formes de conscience ou de conscience, des découvertes telles que celles-ci contribuent à l'évolution du discours. Le travail d'Anthropic met en évidence la complexité des architectures d'IA et soulève des questions sur la façon dont ces systèmes pourraient être surveillés ou réglementés à l'avenir. Avec des plans pour une cotation publique à Wall Street prévue pour l'automne 2026, la société reste au centre des discussions entourant les défis éthiques et pratiques du développement d'une intelligence artificielle de plus en plus sophistiquée.

Au fur et à mesure que de plus en plus de détails émergent sur la fonctionnalité de J-Space et ses applications potentielles, les parties prenantes du monde universitaire, de l'industrie et de l'élaboration des politiques examineront probablement les implications de cette recherche.