En TechBBQ, las conversaciones sobre la IA en Europa no dejaban de volver a la pregunta: ¿quién tiene realmente el control?

En TechBBQ en Copenhague, las discusiones entre inversores, fundadores y operadores de toda Europa se centraron en un tema apremiante: quién controla realmente la revolución de la IA. La conferencia nórdica anual, con el tema "Emerging from Agency", vio conversaciones recurrentes sobre las implicaciones de la soberanía de la IA, particularmente después de la reciente indisponibilidad de los modelos de IA de Anthropic Mythos y Fable fuera de Europa. Estos desarrollos provocaron un intenso debate sobre si Europa debería desarrollar su propia infraestructura de IA o seguir confiando en sus contrapartes estadounidenses y chinas. La ausencia de Mythos y Fable en los mercados europeos destacó las preocupaciones más amplias sobre la dependencia de gigantes extranjeros de IA.

Un ejecutivo de una startup describió la interrupción causada por la falta de disponibilidad de los modelos, mientras que otros se mantuvieron pragmáticos, reconociendo los riesgos pero señalando que las operaciones actuales siguen siendo funcionales. La situación subrayó un creciente sentimiento de que Europa debe afirmar un mayor control sobre el panorama de la IA para evitar posibles repercusiones a largo plazo. Ellen de Brever, inversora ángel y jefa de asociaciones de la Fundación Novo Nordisk Cellerator, enfatizó que el tema de la conferencia de la agencia resonó profundamente. Señaló que el discurso había evolucionado más allá de la mera exploración de las capacidades de la IA para cuestionar qué aspectos de la toma de decisiones están dispuestos a renunciar los europeos.

De Brever observó que las conversaciones eran menos sobre la mejora de la inteligencia de la máquina y más sobre determinar quién conserva la autoridad sobre el despliegue de la IA. Durante el evento, un panel con la presidenta de Signal, Meredith Whittaker, abordó la intersección de la privacidad y la IA. Whittaker criticó la integración de asistentes de IA en sistemas operativos, citando preocupaciones sobre la recopilación de datos y el consentimiento del usuario. Argumentó que los laboratorios de IA a menudo oscurecen las consecuencias éticas de la adquisición de datos extensos, instando a un énfasis renovado en la privacidad como un componente crítico de la gobernanza de la IA.

Emad Mostaque, cofundador de Stability AI y Intelligent Internet, se unió a una discusión sobre los impactos sociales de una fuerza de trabajo agente. Advirtió sobre la concentración de poder en manos de unos pocos laboratorios de IA, sugiriendo que el control sobre la IA equivale al control de las políticas nacionales. Sus comentarios provocaron la reflexión de los asistentes, incluida Mia Negru de Life With Artificials, que reflexionó sobre las implicaciones más amplias de los sistemas autónomos de IA. Especuló que tales avances podrían requerir una reevaluación de conceptos fundamentales como la propiedad, el trabajo y la participación democrática.

Más allá de las sesiones formales, la conferencia fomentó intercambios informales, con líderes tecnológicos e inversores participando en discusiones relajadas en horas felices y reuniones en los tejados. Los temas variaron desde los centros tecnológicos en ascenso de Dinamarca hasta las colaboraciones entre innovadores nórdicos y africanos. Los participantes notables incluyeron Lovable, Nvidia, OpenAI, AWS y HSBC, destacando los diversos intereses que convergen en el evento. Mientras tanto, Anthropic hizo avances en el avance de la investigación de IA con un nuevo documento que describe un sistema capaz de mejorar la alineación de IA a través de la automatización.

Liderado por su compañero Chen Yueh-Han, el proyecto demostró que los investigadores impulsados por la IA podrían mejorar el rendimiento del modelo en múltiples puntos de referencia de alineación sin comprometer la efectividad general. Los hallazgos sugieren un camino hacia la auto-mejora recursiva, lo que potencialmente haría que los investigadores humanos fueran redundantes en un futuro próximo. El documento también comparó la eficiencia de los sistemas automatizados con la investigación dirigida por humanos, señalando que los investigadores de alineación automatizada superaron a los expertos humanos en seis horas. Las comparaciones de costos subrayaron aún más las ventajas económicas de las soluciones impulsadas por la IA, con sistemas automatizados que cuestan aproximadamente $ 4 por hora frente a $ 150 para los investigadores humanos.

A pesar de estos beneficios, el estudio reconoció las limitaciones, enfatizando la necesidad de puntos de referencia robustos y el refinamiento continuo de la literatura subyacente. En paralelo, el Pentágono amplió su uso de herramientas de IA mediante la introducción de versiones militares de ChatGPT y Grok. Estas plataformas personalizadas tienen como objetivo apoyar tareas operativas y evitar las prácticas de recopilación de datos típicas de las aplicaciones de IA de consumo. La iniciativa refleja un esfuerzo estratégico para aprovechar la IA para fines de seguridad nacional, con asociaciones adicionales formadas con compañías como Amazon Web Services, Microsoft y Nvidia.

OpenAI también anunció planes para integrar ChatGPT en los sistemas de atención médica, asociándose con Epic para agilizar los flujos de trabajo clínicos. La herramienta permite a los médicos acceder a los datos de los pacientes, generar resúmenes y prepararse para las citas, todo mientras se adhieren a estrictos protocolos de solo lectura. Además, OpenAI introdujo un complemento de datos públicos de atención médica, que permite el acceso a bases de datos médicas y ayuda en la toma de decisiones clínicas. A medida que las principales empresas de IA compiten por el dominio en los sectores gubernamental, de salud y económico, la carrera por el control de la IA continúa intensificándose.

El diálogo en curso en TechBBQ subraya la complejidad de navegar en este paisaje en rápida evolución, donde las cuestiones de soberanía, ética y responsabilidad siguen siendo centrales en la conversación.