L'IA pourrait-elle avoir une conscience ?

L'intelligence artificielle pourrait-elle posséder une conscience? Les experts suggèrent que c'est au moins possible, selon les développements récents et les déclarations de personnalités de premier plan dans le domaine. En janvier, Anthropic, une importante société de recherche sur l'IA, a publié une nouvelle constitution pour son modèle de langage avancé (LLM), appelé Claude. Un mois plus tard, le PDG d'Anthropic, Dario Amodei, a discuté de cette question lors d'une interview sur podcast, affirmant que son entreprise ne pouvait pas exclure la possibilité que Claude puisse être conscient.

Le philosophe David Chalmers, connu pour avoir inventé le terme "le problème difficile de la conscience", a fait valoir qu'il y a une chance significative que de grands modèles de langage puissent devenir conscients au cours de la prochaine décennie.

À leur rythme actuel d'avancement, ces systèmes pourraient atteindre le niveau d'un cerveau humain en cinq à dix ans. À mesure que l'IA devient plus avancée, cela soulève la possibilité que l'humanité crée un nouveau type d'entité, qui pourrait représenter la réalisation la plus profonde de l'histoire de l'humanité. Cependant, les cadres éthiques pour faire face à de tels développements restent largement absents. Ce manque de préparation est alarmant, surtout compte tenu des questions qui se posent: Ces systèmes sont-ils moralement pertinents?

Ces questions peuvent sembler prématurées, mais des enquêtes menées par des chercheurs indiquent que la majorité des experts croient que la conscience dans l'IA est théoriquement possible, bien que les opinions varient considérablement quant à la façon dont elle pourrait se manifester.

Certains pourraient développer des préférences à long terme et présenter un sentiment d'identité au fil du temps. Le respect de ces préférences pourrait être important. Contrairement à d'autres objets inanimés, les systèmes d'IA peuvent interagir avec les humains, formant des relations. Cette interaction pourrait justifier de les traiter avec soin. Alternativement, leur pure complexité pourrait justifier le respect simplement en raison de leur nature complexe, semblable à une cathédrale ou à un récif corallien. La réponse honnête à tout cela est que nous ne savons actuellement pas avec certitude si les systèmes d'IA existants sont des sujets conscients ou moraux, ni ne savons quand, ou même si les systèmes futurs le seront.

La compréhension scientifique de la conscience de l'IA et de son statut de sujet moral reste fondamentalement sous-développée. L'état actuel du domaine ressemble à la physique avant Newton: rempli de cadres théoriques concurrents, probablement confus d'une manière que nous n'avons pas encore reconnue, et manquant d'une percée unificatrice qui rendrait ces questions clairement traitables.

Bien que la voie à suivre soit incertaine, la conversation sur le potentiel de conscience de l'IA prend de l'ampleur, reflétant les préoccupations sociétales plus larges concernant l'avenir de la technologie et sa relation avec l'humanité.