Capacidad de los centros de datos: Se presenta la primera supercomputadora de escritorio para el uso local de la inteligencia artificial

AMD presenta la estación de trabajo de escritorio más poderosa del mundo para la computación de IA En la feria internacional Funkausstellung (IFA) en Berlín, el fabricante de chips estadounidense Advanced Micro Devices (AMD) presentó la Threadripper Halo Station, una nueva estación de trabajo de escritorio de alto rendimiento diseñada para brindar capacidades de inteligencia artificial (AI) a nivel de centro de datos a usuarios individuales. El sistema, descrito por AMD como una "supercomputadora personal", está dirigido a una nueva era de computación impulsada por IA. Según la compañía, la estación de trabajo es capaz de ejecutar modelos de IA con más de mil millones de parámetros.

La Estación Halo de Threadripper está equipada con hasta dos terabytes de memoria del sistema y hasta 576 gigabytes de memoria HBM3E de alto ancho de banda. En su interior, cuenta con hasta 96 núcleos del procesador Threadripper Pro, junto con dos aceleradores de centro de datos MI350P para computación de IA. Debido a los exigentes requisitos de rendimiento del sistema, también está equipada con refrigeración líquida. Durante el evento IFA, AMD demostró las capacidades de la estación de trabajo al generar un mundo 3D completo y un simulador de vuelo con un solo comando.

Esta demostración destaca la visión de AMD para la computación local de IA: permitir que los modelos y aplicaciones complejos de IA se ejecuten directamente en la infraestructura del usuario, reduciendo la dependencia de los centros de datos distantes. AMD tiene como objetivo satisfacer la creciente demanda de poder computacional de IA al cambiar las capacidades de los centros de datos a un factor de forma de escritorio. La compañía dice que el sistema permitiría a las empresas y instituciones ejecutar localmente grandes modelos de lenguaje y sistemas de agentes de IA en lugar de depender de servicios en la nube cada vez más caros.

Sin embargo, el término "supercomputadora personal" podría ser engañoso, ya que el dispositivo no está destinado a usuarios domésticos típicos, sino más bien a empresas, instituciones de investigación y otras organizaciones con presupuestos sustanciales. El precio de la Estación Halo Threadripper aún no se ha anunciado, pero los analistas de la industria esperan que supere los 100.000 €. Esto coloca la estación de trabajo muy por encima de las computadoras personales tradicionales y la coloca principalmente dentro de los segmentos de infraestructura de estaciones de trabajo profesionales e IA. Nvidia ya ofrece una solución similar en forma de su sistema DGX, que permite la ejecución de grandes modelos de IA en un entorno de escritorio.

Mientras que ambas compañías tienen como objetivo proporcionar un rendimiento comparable, AMD enfatiza la capacidad de memoria masiva y el alto ancho de banda, alegando que el Threadripper Halo ofrece más de tres veces la memoria de las soluciones competidoras. Nvidia, sin embargo, tiene una ventaja significativa en términos de ecosistema de software, lo que permite transferencias de código más suaves entre estaciones de trabajo locales y la nube. Además, el DGX de Nvidia está actualmente disponible a la venta por alrededor de € 100,000. Los analistas de la industria sugieren que el anuncio de AMD podría afectar significativamente la competencia en el mercado en rápido crecimiento de la computación localizada de IA.

A medida que el uso de grandes modelos de IA continúa expandiéndose, la infraestructura localizada puede convertirse en una alternativa atractiva.