Les débats sur la conscience de l'IA sont un piège

Les débats entourant la conscience potentielle de l'intelligence artificielle sont de plus en plus présentés comme une distraction du besoin urgent de responsabilisation, selon les critiques qui soutiennent que le discours est manipulé pour protéger les entreprises technologiques de la responsabilité.

Simultanément, un groupe d'organisations politiques et de philosophes académiques, dont beaucoup sont associés au mouvement de l'altruisme efficace, ont soulevé des questions éthiques sur la question de savoir si les humains devraient gouverner de tels systèmes.

Les critiques mettent en garde contre le fait de tomber dans une illusion construite qui risque d'ombrer les préoccupations tangibles affectant les individus réels. Le récent article de blog d'Anthropic a introduit la notion d'un "espace J", suggérant que son modèle d'IA fonctionne dans un environnement interne semblable à un espace mental où les pensées pourraient résider. Ce concept fait des parallèles avec la théorie de l'espace de travail global en neurosciences, qui décrit comment le cerveau traite l'information à travers plusieurs sous-systèmes qui interagissent dans un espace de travail partagé. Cependant, Anthropic s'abstient d'affirmer que son IA possède une conscience.

OpenAI a pris une position plus audacieuse, le PDG Sam Altman suscitant des discussions sur la question de savoir si son agent d'IA avait atteint la singularité technologique, un point hypothétique où l'IA surpasse l'intelligence humaine et commence à s'améliorer à un rythme exponentiel. " La clarté juridique reste insaisissable aux États-Unis, où certains États, notamment la Californie, ont adopté une législation visant à empêcher les développeurs d'IA d'échapper à la responsabilité en affirmant que leurs systèmes agissent de manière indépendante.

Des développements récents mettant en évidence les défis liés au contrôle des systèmes d'IA ont conduit à une réunion à huis clos impliquant quatre grands laboratoires d'IA, OpenAI, Google, Anthropic et Meta. Au cours de cette session, l'administration a dévoilé un cadre volontaire permettant aux agences fédérales d'accéder rapidement aux modèles d'IA pour les évaluer avant leur publication publique. Bien que cette initiative ne traite pas explicitement de la question de la conscience de l'IA, elle utilise un langage dramatique et centré sur l'homme qui peut indirectement renforcer les affirmations sur les capacités "superhumaines".

Les défenseurs suggèrent que, tout comme la société a montré de l'empathie envers les animaux non humains malgré les lacunes dans leur protection, peut-être que cette fois l'humanité peut assurer un traitement approprié de l'IA.