NVIDIA : Au-delà du gaming et son pari sur l’Intelligence Artificielle
NVIDIA, l’entreprise reconnue mondialement pour ses cartes graphiques pour jeux vidéo, ne se limite pas uniquement à ce secteur. En fait, elle dispose d’une gamme de produits dédiés à la calcul haute performance et se positionne comme leader sur le marché du matériel pour l’entraînement des modèles d’Intelligence Artificielle (IA).
La nouvelle GPU pour IA : NVIDIA H200
Récemment, NVIDIA a présenté sa nouvelle GPU pour IA : la NVIDIA H200. Cette GPU représente une évolution par rapport aux graphiques NVIDIA A100 et H100, promettant une performance supérieure grâce à ses caractéristiques techniques avancées. Parmi celles-ci, on note son architecture Hopper, ses 141 Go de VRAM HBM3E et une bande passante qui peut atteindre 4,8 To/s.
En comparaison avec sa prédécesseur, la H100 – qui dispose de 80 Go de VRAM HBM3E et une bande passante de 3,35 To/s -, la nouvelle H200 promet de doubler la performance dans les tâches d’inférence sur les modèles de langage longs.
Les tests effectués ont démontré que les tâches d’inférence sur Llama 2 70B peuvent être réalisées jusqu’à 1,9 fois plus rapidement avec la nouvelle GPU. Dans le cas du modèle GPT-3 175B, la performance est 1,6 fois plus rapide.
Avantages et applications de la nouvelle GPU
Les avantages et les applications offerts par ce nouveau GPU sont nombreux. Les améliorations en termes de bande passante réduiront les goulots d’étranglement dans des scénarios complexes. De plus, il améliore les performances dans une grande variété de tâches exigeantes au-delà du domaine de l’IA.
NVIDIA proposera sa solution H200 individuellement et comme partie du système HGX H200. Ce système intègre plusieurs technologies et est conçu pour être appliqué dans les centres de données, ce qui permettra aux entreprises de gérer de grands volumes de données de manière plus efficace.
De grandes entreprises comme Amazon Web Services, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure ont déjà réservé leurs HGX H200. NVIDIA commencera à distribuer son nouveau produit l’année prochaine, marquant une étape importante dans le domaine du calcul haute performance et de l’intelligence artificielle.
Clara est créatrice et éditrice de contenus, avec une solide formation en sciences et une spécialisation en intelligence artificielle. Sa passion pour ce domaine en constante évolution l'a amenée à acquérir les connaissances nécessaires pour comprendre et communiquer les avancées les plus récentes dans ce domaine. Grâce à son expérience et à ses compétences en rédaction et édition de contenus, Clara est capable de transmettre de manière claire et efficace des concepts complexes liés à l'intelligence artificielle et ainsi les rendre accessibles à tous types de publics.
Cette entrée est également disponible dans : Español Português
