HPE impulsiona treino em IA com NVIDIA

2023-11-15

A Hewlett Packard Enterprise lançou uma solução de supercomputação para inteligência artificial generativa, projetada para permitir que grandes empresas, empresas de pesquisa e organizações governamentais acelerem o treino e o ajuste de modelos de IA, usando conjuntos de dados privados. A solução integra um pacote de software que permite aos clientes treinar e ajustar modelos e desenvolver aplicações de IA. Inclui supercomputadores refrigerados a líquido, computação acelerada, rede, armazenamento e serviços para ajudar as organizações a desbloquear o valor da IA mais rapidamente.
"As principais empresas e empresas de pesquisa do mundo estão a treinar e a ajustar modelos de IA, para impulsionar a inovação e desbloquear avanços na pesquisa. Mas, para fazer isso de forma eficaz e eficiente, são necessárias soluções específicas. Para apoiar a IA generativa, as organizações precisam de soluções que sejam sustentáveis e ofereçam o desempenho dedicado e a escala de um supercomputador para apoiar o treino de modelos de IA. Estamos entusiasmados com a expansão da nossa colaboração com a NVIDIA para fornecer uma solução de IA nativa pronta a utilizar que ajudará os nossos clientes a acelerar significativamente o treino e os resultados do modelo de IA", refere em comunicado Justin Hotard, vice-presidente executivo da HPC, IA e Laboratórios da Hewlett Packard Enterprise.
As ferramentas de software para construir aplicações de IA, personalizar modelos predefinidos e desenvolver e modificar código são componentes-chave desta solução de supercomputação para IA generativa. O software é integrado com a tecnologia de supercomputação HPE Cray, baseada na mesma arquitetura poderosa usada no supercomputador mais rápido do mundo e alimentada pelos superchips Grace Hopper GH200 da NVIDIA.
Juntas, essas soluções fornecem às organizações uma escala e desempenho sem precedentes, necessários para grandes quantidades de trabalho de IA, como o treino de modelos grandes de linguagem (Large Language Models - LLMs) e modelos de recomendação de deep learning (DLRMs). Usando o HPE Machine Learning Development Environment, o modelo de código aberto Llama 2 de 70 bilhões de parâmetros foi ajustado em menos de 3 minutosi, resultando diretamente num tempo de retorno mais rápido para os clientes. Os recursos avançados de supercomputação da HPE, apoiados pela tecnologia NVIDIA, melhoram o desempenho do sistema entre duas a três vezesii.
"A IA generativa está a transformar todas as atividades industriais e científicas. A colaboração da NVIDIA com a HPE no desenvolvimento desta solução pronta a usar de treino e simulação de IA, baseada nos superchips NVIDIA GH200 Grace Hopper, fornecerá aos clientes o desempenho necessário para fazer avanços nas suas iniciativas de IA generativa", explica Ian Buck, vice-presidente de Hyperscale e HPC da NVIDIA.
A solução de supercomputação para IA generativa é uma ferramenta desenhada especificamente, nativa e construída para a IA, que inclui tecnologias e serviços de ponta a ponta. É o caso da aceleração de IA e ML e do HPE Machine Learning Development Environment, uma plataforma de software de aprendizagem de máquina que permite que os clientes desenvolvam e implantem modelos de IA mais rapidamente, integrando-se a estruturas de ML populares e simplificando a preparação de dados.
Assim como o NVIDIA AI Enterprise, que permite que as organizações acelerem para IA de ponta com segurança, estabilidade, capacidade de gestão e suporte. Oferece estruturas extensas, modelos pré-treinados e ferramentas que agilizam o desenvolvimento e a implementação de IA de produção. O pacote HPE Cray Programming Environment fornece aos programadores um conjunto completo de ferramentas para desenvolver, portar, depurar e refinar código.
A solução está projetada para escalar, já que ao integrar o HPE Cray EX2500 - um sistema de classe exascale - e incorporar os superchips NVIDIA GH200 Grace Hopper, líderes do setor, a pode escalar até milhares de unidades de processamento gráfico (GPUs), com a possibilidade de dedicar toda a capacidade dos nós para suportar uma única carga de trabalho de IA, para acelerar o tempo de valorização. É a primeira solução a incorporar a configuração de quatro nós GH200 Superchip da NVIDIA.
O HPE Slingshot Interconnect oferece uma rede aberta e de alto desempenho baseada em Ethernet projetada para suportar cargas de trabalho exascale. Baseada na tecnologia HPE Cray, esta interconexão ajustável aumenta o desempenho de todo o sistema, permitindo velocidades de rede extremamente altas. E a solução é complementada pelos serviços HPE Complete Care, que fornecem especialistas globais para configuração, instalação e suporte em todo o ciclo de vida para simplificar a adoção de IA.
Até 2028, estima-se que o crescimento das cargas de trabalho de IA exigirá cerca de 20 gigawatts de energia dentro dos centros de dadosiii. Os clientes vão precisar de soluções que ofereçam um novo nível de eficiência energética para minimizar o impacto de sua pegada de carbono. A eficiência energética é fundamental para as iniciativas de computação da HPE, que oferecem soluções com recursos de arrefecimento líquido que podem impulsionar melhorias de desempenho de até 20% por quilowatt - em comparação com soluções refrigeradas a ar - e consumir menos 15% de energiaiv.
A HPE fornece a maioria dos dez supercomputadores mais eficientes do mundo utilizando arrefecimento líquido direto (DLC). Este está incluído na Solução de Supercomputação para IA Generativa, para arrefecer os sistemas com eficiência e reduzir o consumo de energia para aplicações de computação intensiva.
Esta nova solução de supercomputação para IA generativa estará disponível em dezembro, através da HPE, em mais de 30 países.

 


Plataforma não cumpre regras do Digital Services Act


IA pode automatizar 30% das horas de trabalho até 2030


Dá 23 mil milhões de dólares pela startup de cibersegurança Wiz


Revela 21ª Edição do eGovernment Benchmark report da Capgemini


Depois de um recuo de 18% nas vendas e de 32% nos lucros


Liderando três novos relatórios de grandes analistas de mercado


Apesar de ter voltado a crescer na América do Norte


Terá de aplicar compromissos até 25 de julho