La superinteligencia artificial no es una herramienta, es un adversario que amenaza a la humanidad: Connor Leahy de ControlAI

Una maestra jubilada de Berkeley, California, se ha convertido en la primera persona a nivel mundial en enfrentarse a consecuencias legales por protestar contra el desarrollo de la inteligencia artificial. Wynd Kaufmyn, de 69 años, fue sentenciada a dos semanas de cárcel después de participar en una sentada en protesta en la sede de OpenAI en San Francisco en febrero del año pasado. Junto con miembros del grupo StopAI, ella y otros se encadenaron a la entrada del edificio, obstruyendo físicamente el acceso a las oficinas de la compañía. Kaufmyn fue acusada de interferir con las operaciones comerciales y enfrentó un escrutinio legal adicional. Su condena llegó en junio, marcando un momento histórico en el creciente movimiento contra el desarrollo de la IA.

Kaufmyn, una ex instructora de ingeniería en el City College de San Francisco, habló desde la cárcel del condado de San Francisco durante una reciente entrevista con Democracy Now!.Describió sus acciones como parte de un esfuerzo más amplio para detener el avance incontrolado de las tecnologías de IA. Según ella, estos sistemas representan una amenaza existencial para la humanidad, citando ejemplos como el uso de herramientas de IA por parte de las fuerzas israelíes en el conflicto de Gaza. por Kaufmyn, supuestamente se utilizó para identificar y atacar hogares palestinos, lo que resultó en víctimas civiles.

Advirtió que la IA está permitiendo una vigilancia generalizada, contribuyendo al aumento de la gobernanza autoritaria y reemplazando el trabajo humano, lo que lleva a la inestabilidad económica y al aumento de las tasas de suicidio, homicidio y violencia masiva. Kaufmyn enfatizó que los ejecutivos de tecnología son plenamente conscientes de estos riesgos pero continúan priorizando las ganancias sobre la seguridad pública.

Leahy, conocido por su trabajo en la ingeniería inversa del modelo ChatGPT-2 de OpenAI en 2019, completado en su dormitorio de la universidad, ha pasado años examinando la trayectoria de la inteligencia artificial. Su interés inicial en la IA se debió a un deseo de mejorar la salud global y el progreso científico. Sin embargo, pronto reconoció el inmenso poder y el peligro inherente de crear sistemas inteligentes capaces de superar las capacidades humanas.

Leahy explicó que el concepto de superinteligencia artificial se refiere a un futuro hipotético en el que las máquinas poseen capacidades cognitivas muy superiores a las de los humanos. Tales sistemas podrían revolucionar potencialmente campos que van desde la medicina hasta la mitigación del cambio climático. Sin embargo, advirtió que la creación de tales entidades conlleva profundos riesgos éticos y existenciales. El control y la dirección de sistemas superinteligentes serían casi imposibles, lo que genera preocupaciones sobre consecuencias imprevistas y pérdida de autonomía humana. En sus actividades académicas, Leahy ha explorado cómo la IA podría evolucionar en entidades autónomas de toma de decisiones, capaces de actuar de forma independiente una vez desplegadas.

Argumentó que la falta de marcos regulatorios y pautas éticas exacerba estos riesgos, dejando a la sociedad sin estar preparada para las ramificaciones sociales y geopolíticas de la IA avanzada. Su investigación destaca la necesidad de medidas políticas proactivas y cooperación internacional para garantizar que el desarrollo de la IA se alinee con los valores humanos y los intereses de supervivencia. A medida que se intensifica el debate sobre la regulación de la IA, activistas como Kaufmyn y expertos como Leahy continúan abogando por una mayor transparencia, responsabilidad y participación pública.

Sus esfuerzos reflejan un creciente reconocimiento de que el camino a seguir requiere no solo innovación técnica, sino también un cambio fundamental en la forma en que las sociedades abordan la integración de la IA en la vida cotidiana. El desafío radica en equilibrar los beneficios del progreso tecnológico con el imperativo de salvaguardar la dignidad y la seguridad humanas.