NVIDIA: Além do gaming e sua aposta na Inteligência Artificial
NVIDIA, a empresa reconhecida mundialmente por suas placas gráficas para videogames, não se limita apenas a este setor. De fato, possui uma linha de produtos dedicada à computação de alto desempenho e se posiciona como líder no mercado de hardware para o treinamento de modelos de Inteligência Artificial (IA).
A nova GPU para IA: NVIDIA H200
Recentemente, NVIDIA apresentou sua nova GPU para IA: a NVIDIA H200. Esta GPU representa uma evolução em relação às gráficas NVIDIA A100 e H100, prometendo um desempenho superior graças às suas avançadas características técnicas. Entre estas se destacam sua arquitetura Hopper, seus 141 GB de VRAM HBM3E e uma largura de banda que pode alcançar 4,8TB/s.
Em comparação com sua predecessora, a H100 – que possui 80 GB de VRAM HBM3E e uma largura de banda de 3,35TB/s -, a nova H200 promete dobrar o desempenho em tarefas de inferência em modelos longos de linguagem.
Os testes realizados demonstraram que as tarefas de inferência no Llama 2 70B podem ser realizadas até 1,9 vezes mais rápido com a nova GPU. No caso do modelo GPT-3 175B, o desempenho é 1,6 vezes mais rápido.
Benefícios e aplicações da nova GPU
Os benefícios e aplicações oferecidos por esta nova GPU são numerosos. As melhorias no nível de largura de banda reduzirão os gargalos em cenários complexos. Além disso, melhora o desempenho em uma ampla variedade de tarefas exigentes além do campo da IA.
NVIDIA oferecerá sua solução H200 individualmente e como parte do sistema HGX H200. Este sistema integra várias tecnologias e é projetado para ser aplicado em data centers, permitindo que as empresas gerenciem grandes volumes de dados de maneira mais eficiente.
Grandes empresas como Amazon Web Services, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure já reservaram seus HGX H200. NVIDIA começará a distribuir seu novo produto no próximo ano, marcando um marco no campo da computação de alto desempenho e inteligência artificial.
Clara é criadora e editora de conteúdo, com sólida formação em ciências e especialização em inteligência artificial. Sua paixão por este campo em constante evolução levou-a a adquirir os conhecimentos necessários para entender e comunicar os avanços mais recentes nesta área. Com sua experiência e habilidades em redação e edição de conteúdo, Clara é capaz de transmitir de maneira clara e eficaz conceitos complexos relacionados à inteligência artificial, tornando-os acessíveis a todos os tipos de públicos.
