En 2012, una adolescente de Minnesota empezó a recibir cupones de descuento para ropa de bebé y cunas. Su padre, furioso, acusó al supermercado Target, que se los estaba enviando, de incitar a su hija a quedarse embarazada. Al final tuvo que disculparse: la chica estaba embarazada. A pesar de que ella no se lo había contado a nadie, Target lo sabía. ¿Cómo? Un algoritmo había detectado cambios en sus compras de cremas hidratantes y suplementos vitamínicos, un patrón que suele verse en mujeres que se han quedado embarazadas.
La inteligencia artificial generativa no nace del vacío. Es la descendiente del modelo anterior, uno que ha convertido la vida, el comportamiento humano y el entorno en una mina de datos, explotada por un enorme sistema industrial que se lucra comerciando con esa información sin apenas límites legales. A nivel estructural, la IA no supone una ruptura con esas lógicas. Al contrario, representa una evolución, gracias a nuevas técnicas de análisis como las redes neuronales y el músculo computacional de los centros de datos hiperescalares.
Poco importa que los fines políticos y los marcos regulatorios de cada país difieran; la IA se ha desarrollado en esta dirección incluso en sistemas opuestos. Tanto en las democracias liberales como en la autocracia china, el avance de esta tecnología ha traído consigo una mayor capacidad de observación y predicción del comportamiento del individuo y de la sociedad. Más que un plan maligno, es una consecuencia técnica: la IA mejora cuanto mayor es su acceso a los datos, por lo que existen incentivos económicos y políticos para derribar las barreras de privacidad que le puedan cortar el paso.
En comparación con el capitalismo de la vigilancia de Occidente, ¿en qué consiste el «Sistema de Crédito Social» chino?
La arquitectura de control en Occidente es soterrada: se defiende la libertad individual, pero se pone a prueba cientos de veces al día con constantes notificaciones e impactos publicitarios afilados con precisión neurocientífica. En China, en cambio, la fusión militar-civil hace que la vigilancia sea explícita. Los ciudadanos saben que todo lo que escriban en conversaciones «privadas» de WeChat, lo que busquen en Baidu o lo que compren en AliPay puede llegar al Partido Comunista. La misma tecnología que más allá del «Gran Cortafuegos» chino se usa para personalizar anuncios por miles de empresas, en China se usa de manera centralizada para asegurar la «armonía social», como lo denomina el régimen.
A diferencia de las democracias liberales occidentales, el sistema político chino ha priorizado históricamente la gestión preventiva del conflicto frente a su resolución pública y la confrontación abierta: neutralizar la semilla de la disidencia antes siquiera de que brote. En el gigante asiático, la capacidad de control y predicción que ofrece la inteligencia artificial pasa de ser un producto comercial a una herramienta de gobernanza. El reconocimiento facial, el seguimiento de la movilidad, la censura automática y el análisis del comportamiento colectivo son facultades de la administración social, no castigos coercitivos.
Con todo, conviene huir de la caricatura. El famoso «Sistema de Crédito Social» chino no es, según el consenso académico más reciente, el ojo orwelliano y centralizado que a menudo se describe fuera de sus fronteras. Se parece más a un conjunto de listas negras burocráticas sin conexión real entre sí. La acumulación de impagos, por ejemplo, puede provocar una prohibición para la compra de billetes de avión o trenes de alta velocidad, artículos de lujo o acceso a otros préstamos. En algunos lugares, el castigo alcanza la imagen pública, exponiendo la cara y el nombre del infractor en pantallas por las calles.
Que no responda a esa caricatura no lo hace menos invasivo ni menos real para quienes lo sufren, sino que opera de una forma distinta a la que suele imaginarse en Occidente. Este sistema nació antes de la inteligencia artificial y, aunque se ha visto potenciado por ella, no tiene una base de datos única en todo el país ni cruza datos entre diferentes agencias estatales. De nuevo, es necesario contextualizarlo como parte de una cultura que penaliza la desviación individual de manera mucho más severa que la occidental, más allá de la tecnología de control que utiliza.
Este es el motivo por el que la inteligencia artificial no es vista por la gran mayoría de los ciudadanos chinos como una red opresiva, sino como el precio de la estabilidad, la eficiencia y la «armonía social» en un país de 1.414 millones de habitantes. Así lo recogen informes como el Artificial Intelligence Index Report elaborado por la Universidad de Stanford, basado en las encuestas internacionales de Ipsos, que señalan que el 85 por ciento de los chinos afirma que esta tecnología tiene «más ventajas que desventajas». Es la cifra más alta del mundo, casi 50 puntos por encima de los estadounidenses y más de 30 respecto a los españoles.
Hay que leer esas cifras…
Read the full article at elDiario.es →
Spain