Nova solução, que permite que centros de pesquisa e grandes empresas acelerem a IA generativa, integra software, hardware, rede e serviços de IA/ML
|
A Hewlett Packard Enterprise (NYSE: HPE) anunciou uma solução de supercomputação para IA generativa projetada para grandes empresas, instituições de pesquisa e organizações governamentais acelerarem o treinamento e ajuste de modelos de IA usando um conjuntos de dados privados. Esta solução inclui um conjunto de software que permite aos clientes treinar e ajustar modelos e também desenvolver aplicativos de IA. A solução também inclui supercomputadores com refrigeração líquida, computação acelerada, rede, armazenamento e serviços para ajudar as organizações a desbloquearem o valor da IA de forma mais rápida.
"As empresas líderes de mercado e os centros de pesquisa estão treinando e ajustando modelos de IA para impulsionar a inovação e desbloquear avanços na pesquisa, mas para fazê-lo de forma eficaz e eficiente, elas precisam de soluções específicas", comenta Justin Hotard, Vice-Presidente Executivo e Diretor Geral de HPC, IA & Laboratórios da Hewlett Packard Enterprise. "Para dar suporte à IA generativa, as organizações precisam aproveitar soluções sustentáveis que ofereçam desempenho dedicado e escalabilidade de um supercomputador para os treinamentos de modelos de IA. Estamos entusiasmados em expandir a nossa colaboração com a NVIDIA e oferecer uma solução nativa de IA pronta para uso que ajudará nossos clientes a acelerar significativamente o treinamento e os resultados dos modelos de IA".
Ferramentas de software para criar aplicativos de IA, personalizar modelos pré-construídos, desenvolver e modificar códigos são componentes-chave desta solução de supercomputação para IA generativa. O software está integrado com a tecnologia de supercomputação HPE Cray, baseada na mesma arquitetura usada no supercomputador mais rápido do mundo, que funciona com Superchips NVIDIA Grace Hopper GH200. A solução oferece às organizações escala e o desempenho sem precedentes necessários para intensivas cargas de trabalho de IA, como treinamento de LLM - Grandes Modelos de Linguagem e de DLRM - modelos de recomendação de Deep Learning. Com o HPE Machine Learning Development Environment neste sistema, o modelo de linguagem em código aberto Llama 2, com 70 bilhões de parâmetros, foi ajustado rapidamente em menos de 3 minutos¹, resultando em um um tempo de retorno sobre o investimento mais rápido para os clientes. Os avançados recursos de supercomputação da HPE, com apoio da tecnologia NVIDIA, aprimoraram o desempenho do sistema de 2 e 3 vezes².
"A IA generativa está transformando todos os empreendimentos industriais e científicos", afirma Ian Buck, Vice-Presidente de Hiperescala e HPC da NVIDIA. "A colaboração entre a NVIDIA e HPE nesta solução inovadora de treinamento e simulação de IA alimentada pelos Superchips NVIDIA GH200 Grace Hopper fornecerá aos clientes o desempenho necessário para avançar em suas iniciativas de IA generativa".
Uma solução em IA poderosa e integrada
A solução de supercomputação para IA generativa é uma oferta especializada, integrada e nativa de IA que inclui as seguintes tecnologias e serviços de fim a fim:
O futuro da supercomputação e da IA será mais sustentável
Até 2028, estima-se que o crescimento das cargas de trabalho em IA irá exigir cerca de 20 gigawatts de energia nos data centers³. Os clientes precisarão de soluções que proporcionem um novo nível de eficiência energética para minimizar o impacto em sua pegada de carbono.
A eficiência energética é fundamental para as iniciativas de computação da HPE, que oferecem soluções com capacidades de resfriamento a líquido que podem proporcionar até 20% de melhoria no desempenho por quilowatt quando comparada a soluções resfriadas a ar, e além disso, elas consomem 15% menos energia⁴.
Atualmente, a HPE disponibiliza a maioria dos 10 supercomputadores mais eficientes do mundo que utilizam DLC - Resfriamento Líquido Direto, recurso presente na solução de supercomputação para IA generativa possibilitando o resfriamento de sistemas de forma eficiente e reduzindo o consumo de energia em aplicações com processamento intensivo.
A HPE busca ajudar as organizações a aproveitarem a tecnologia de computação mais poderosa do mercado, impulsionando seus objetivos com a IA ao mesmo tempo em que contribuem para a redução do consumo de energia.
Disponibilidade
A solução de supercomputação para IA generativa estará disponível em dezembro por meio da HPE e em mais de 30 países.
Recursos adicionais
¹ Utilizando 32 nós HPE Cray EX 2500 com 128 GPUs NVIDIA H100 a uma eficiência de escalabilidade de 97%, um modelo Llama 2 com 70 bilhões de parâmetros foi ajustado rapidamente em testes internos em um corpus de 10 milhões de tokens em menos de 3 minutos. O código de ajuste do modelo e os parâmetros de treinamento não foram otimizados entre as execuções de escalabilidade.
² Benchmarks padrão de IA, BERT e Mask R-CNN, foram realizados em um sistema padrão, sem ajustes, composto pelo Supercomputador HPE Cray EX2500 usando uma lâmina de acelerador HPE Cray EX254n com quatro chips superpotentes NVIDIA GH200 Grace Hopper. Os testes realizados de forma independente mostraram uma melhoria de desempenho de 2 a 3 vezes em comparação com os resultados publicados pelo MLPerf 3.0 para um sistema baseado em A100, composto por dois processadores AMD EPYC 7763 e quatro GPUs NVIDIA A100 com interconexões NVLINK.
³ Estudo realizado por Avelar, Victor; Donovan, Patrick; Lin, Paul; Torell, Wendy; and Torres Arango, Maria A., “The AI disruption: Challenges and guidance for data center design” (White paper 110), Schneider Electric: Link
⁴ Com base nas estimativas e testes internos de desempenho realizados pela HPE em abril de 2023, que comparam um sistema HPE Cray XD2000 resfriado a ar com o mesmo sistema usando resfriamento líquido direto. Usando um benchmark de SPEChpc™2021, pequeno, MPI + OpenMP, 64 ranks, 14 threads, os resultados estimados por servidor para o sistema resfriado a ar registraram 6,61 de desempenho por quilowatt (kW), enquanto o sistema com resfriamento líquido direto registrou 7,98 de desempenho por kW, representando uma diferença de 20,7%. O mesmo benchmark registrou um consumo de energia do chassi de 4539 watts para o sistema resfriado a ar e 3862 watts para o sistema com resfriamento líquido direto, representando uma diferença de 14,9%.
Sobre a Hewlett Packard Enterprise
A Hewlett Packard Enterprise (NYSE: HPE) é uma empresa global da borda à nuvem que ajuda organizações a acelerarem os resultados ao liberar valor de todos os seus dados, em qualquer lugar. Com base em décadas reimaginando o futuro e inovando para aprimorar a maneira como as pessoas vivem e trabalham, a HPE oferece soluções de tecnologia exclusivas, abertas e inteligentes. Com ofertas que abrangem serviços de nuvem, computação, computação de alto desempenho & IA, borda inteligente, software e armazenamento, a HPE oferece uma experiência consistente em todas as nuvens e bordas, ajudando os clientes a desenvolverem novos modelos de negócios, engajarem de novas maneiras e aumentarem o desempenho operacional. Para mais informações, visite o site oficial.
Este conteúdo foi distribuído pela plataforma SALA DA NOTÍCIA e elaborado/criado pelo Assessor(a):
U | U
U