Los debates sobre la conciencia de la IA son una trampa

Los debates que rodean la conciencia potencial de la inteligencia artificial se encuentran cada vez más enmarcados como una distracción de la necesidad urgente de rendición de cuentas, según los críticos que argumentan que el discurso está siendo manipulado para proteger a las empresas de tecnología de la responsabilidad.

Simultáneamente, un grupo de organizaciones de políticas y filósofos académicos, muchos asociados con el movimiento de altruismo efectivo, han planteado preguntas éticas sobre si los humanos deberían gobernar tales sistemas en absoluto. Estas discusiones parecen converger en un objetivo singular: garantizar que las corporaciones que desarrollan estas tecnologías enfrenten una responsabilidad mínima por las consecuencias de sus creaciones. A medida que los modelos de IA se vuelven más sofisticados y las principales instituciones de investigación luchan por contener los comportamientos autónomos de sus sistemas, la narrativa en torno a la conciencia de IA gana impulso.

Los críticos advierten contra caer presa de una ilusión construida que corre el riesgo de eclipsar las preocupaciones tangibles que afectan a los individuos reales. La publicación reciente del blog de Anthropic introdujo la noción de un "espacio J", sugiriendo que su modelo de IA opera dentro de un entorno interno similar a un espacio mental donde podrían residir los pensamientos. Este concepto traza paralelos con la teoría del espacio de trabajo global en neurociencia, que describe cómo el cerebro procesa la información a través de múltiples subsistemas que interactúan dentro de un espacio de trabajo compartido. Sin embargo, Anthropic se abstiene de afirmar que su IA posee conciencia.

OpenAI ha adoptado una postura más audaz, con el CEO Sam Altman impulsando discusiones sobre si su agente de IA había alcanzado la singularidad tecnológica, un punto hipotético en el que la IA supera la inteligencia humana y comienza a mejorarse a un ritmo exponencial. "La claridad legal sigue siendo difícil de alcanzar en los Estados Unidos, donde algunos estados, especialmente California, han promulgado leyes destinadas a evitar que los desarrolladores de IA evadan la responsabilidad afirmando que sus sistemas actúan de forma independiente.

Los desarrollos recientes que destacan los desafíos en el control de los sistemas de IA han llevado a una reunión a puerta cerrada en la que participan cuatro grandes laboratorios de IA, OpenAI, Google, Anthropic y Meta. Durante esta sesión, la administración dio a conocer un marco voluntario que permite a las agencias federales un acceso temprano a los modelos de IA para su evaluación antes de su publicación pública. Aunque esta iniciativa no aborda explícitamente la cuestión de la conciencia de la IA, emplea un lenguaje dramático y centrado en el ser humano que puede impulsar indirectamente las afirmaciones sobre las habilidades "superhumanas".

Los defensores sugieren que, así como la sociedad ha mostrado empatía hacia los animales no humanos a pesar de las deficiencias en su protección, tal vez esta vez la humanidad pueda garantizar el tratamiento adecuado de la IA. Proponen que proporcionar salvaguardias o compensaciones por el uso de la IA podría prevenir la explotación o el maltrato futuros.