NVIDIA: Más allá del gaming y su apuesta por la Inteligencia Artificial
NVIDIA, la empresa reconocida a nivel mundial por sus tarjetas gráficas para videojuegos, no se limita únicamente a este sector. De hecho, cuenta con una línea de productos dedicada a la computación de alto rendimiento y se posiciona como líder en el mercado de hardware para el entrenamiento de modelos de Inteligencia Artificial (IA).
La nueva GPU para IA: NVIDIA H200
Recientemente, NVIDIA ha presentado su nueva GPU para IA: la NVIDIA H200. Esta GPU representa una evolución respecto a las gráficas NVIDIA A100 y H100, prometiendo un rendimiento superior gracias a sus avanzadas características técnicas. Entre estas destacan su arquitectura Hopper, sus 141 GB de VRAM HBM3E y un ancho de banda que puede alcanzar los 4,8TB/s.
En comparación con su predecesora, la H100 -que cuenta con 80 GB de VRAM HBM3E y un ancho de banda de 3,35TB/s-, la nueva H200 promete duplicar el rendimiento en tareas de inferencia en modelos largos de lenguaje.
Las pruebas realizadas han demostrado que las tareas de inferencia en Llama 2 70B pueden realizarse hasta 1,9 veces más rápido con la nueva GPU. En el caso del modelo GPT-3 175B, el rendimiento es 1,6 veces más rápido.
Beneficios y aplicaciones de la nueva GPU
Los beneficios y aplicaciones que ofrece esta nueva GPU son numerosos. Las mejoras a nivel de ancho de banda reducirán los cuellos de botella en escenarios complejos. Además, mejora el rendimiento en una amplia variedad de tareas exigentes más allá del ámbito de la IA.
NVIDIA ofrecerá su solución H200 individualmente y como parte del sistema HGX H200. Este sistema integra varias tecnologías y está diseñado para ser aplicado en centros de datos, lo que permitirá a las empresas manejar grandes volúmenes de datos de manera más eficiente.
Grandes empresas como Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure ya han reservado sus HGX H200. NVIDIA empezará a distribuir su nuevo producto el próximo año, marcando un hito en el campo de la computación de alto rendimiento y la inteligencia artificial.
Clara es creadora y editora de contenidos, con una sólida formación en ciencias y una especialización en inteligencia artificial. Su pasión por este campo en constante evolución la ha llevado a adquirir los conocimientos necesarios para comprender y comunicar los avances más recientes en este campo. Con su experiencia y habilidades en la redacción y edición de contenidos, Clara es capaz de transmitir de manera clara y efectiva conceptos complejos relacionados con la inteligencia artificial y de esta manera hacerlos accesibles para todo tipo de audiencias.
