Elon Musk compra 300.000 procesadores de Nvidia y aumenta su apuesta por la IA
Más madera para avanzar con Grok, el desarrollo para la IA del magnate
El trabajo con las Unidades de Procesamiento Gráfico (GPU) para inteligencia artificial avanza a un ritmo vertiginoso, y Elon Musk quiere estar a la cabeza de esta revolución -como en casi todos, las cosas como son-. En una publicación en su plataforma X, el CEO de SpaceX y Tesla reveló sus planes de adquirir 300.000 unidades de las GPU Blackwell B200 de Nvidia, para el próximo verano.
Estas nuevas GPU actualizarán el clúster actual para IA de X, el cual actualmente funciona con 100.000 H100 de la generación anterior. Por lo tanto, se espera un salto cualitativo importante en la capacidad de trabajo en los desarrollos de la plataforma, que es propiedad de Musk (esta será una de sus aplicaciones, ya que todo apunta que podía tener más).
Un acierto por parte de Elon Musk
La lógica que está empleando el dueño de X para la compra tiene fundamento y es acertada. La carrera por el desarrollo de GPU para IA es una de las más intensas que se ha visto en la industria tecnológica en años -comparable a las guerras por el desarrollo de CPU de la década de 1990 y 2000-. La nueva Blackwell B200 de Nvidia supone una mejora sustancial respecto a la H100, ofreciendo cuatro veces el rendimiento de entrenamiento y 30 veces el rendimiento de inferencia.
Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s.
— Elon Musk (@elonmusk) June 2, 2024
The @xAI 100k H100 liquid-cooled training cluster will be online in a few months.
Next big step would probably be ~300k B200s with CX8 networking next summer.
Si bien 100.000 GPU H100 ya representan una enorme cantidad de capacidad, Elon Musk argumenta que, dada la velocidad del desarrollo de las GPU para IA, no vale la pena mantener el actual clúster por mucho tiempo. Por cierto, las nuevas B200 consumen más energía, pero las mejoras de rendimiento significan que el chip funciona de manera mucho más eficiente que la H100.
En definitiva, en el caso de Musk, cambiar 100.000 H100 por tres veces más GPU que consumen más energía sigue siendo una ganancia neta debido a la increíble cantidad de rendimiento adicional de IA que se consigue. Por lo tanto, acierta el magnate.
Grok, uno de los grandes beneficiados por esta compra
X utiliza el clúster antes mencionado para alimentar a Grok, un bot de IA. Este se desarrolló en un lenguaje interno llamado Grok-1, diseñado para proporcionar respuestas menos directas e ingeniosas en comparación con otros chatbots -como ChatGPT, Copilot o Gemini-. En esencia, el objetivo es eliminar el aspecto robótico al trabajar, y es importante conocer que ya está disponible para los usuarios de X Premium.
Será interesante ver cuándo Musk logre tener en sus manos las 300.000 GPU B200. Si la H100 de Nvidia nos ha enseñado algo, es que la demanda de este hardware siempre supera la oferta real. Probablemente, seamos testigos de una repetición de lo ocurrido en 2023, cuando todos los grandes clientes de IA -incluidos X, Meta, Google, Microsoft y otros-lucharon por hacerse con la mayor cantidad de B200 posible… lo que supuso una guerra de precios y la explosión del fabricante de este hardware en valor real.
Sigue toda la información de Cinco Días en Facebook, X y Linkedin, o en nuestra newsletter Agenda de Cinco Días
