Elon Musk anunciou nesta segunda-feira (22), a activação do Memphis Supercluster, um supercomputador projectado para treinar a “Inteligência Artificial mais poderosa do mundo”. A plataforma está equipada com 100 mil unidades da GPU H100 da NVIDIA, integradas numa única malha com acesso directo à memória e refrigeração líquida.
Segundo o empresário, este é o “cluster de formação mais potente do mundo”. A sua infra-estrutura pode ser comparada com outros supercomputadores reconhecidos pela indústria, como o Frontier, que tem 37 888 aceleradores AMD. Outro exemplo é o Microsoft Eagle, com 14 400 aceleradores NVIDIA.
O projecto Memphis Supercluster é uma criação da xAI, uma startup especializada em Inteligência Artificial que está por trás de outras tecnologias como o Grok, seu grande modelo de linguagem que actua como rival do Google Gemini.
A plataforma está equipada com 100 mil unidades da GPU H100 da NVIDIA, integradas numa única malha com acesso directo à memória e refrigeração líquida
Musk anunciou os seus planos de começar a treinar a próxima geração do seu modelo de linguagem grande – que será chamado de Grok 3 – com 100 mil unidades da GPU H100 da NVIDIA.
De acordo com o site Tudo Celular, para comparar, supostas fontes da indústria indicam que a GPT-4 da OpenAI foi treinada com cerca de 40 mil unidades da GPU A100, que está relativamente desfasada em comparação com a H100. O uso de hardware mais moderno pode garantir um treinamento acelerado e eficiente para o Grok 3.
Musk afirma que o novo modelo de Inteligência Artificial da xAI concluirá a fase de treinamento até Dezembro de 2024. A data de disponibilidade da nova tecnologia ainda não foi confirmada, mas é possível que comece a ser lançada para testes logo em seguida.
Ainda não há detalhes sobre a metodologia de treinamento usada no Grok 3. Anteriormente, o executivo disse que treinar modelos de linguagem com dados da Internet requer “muito trabalho”, especialmente no que diz respeito a recursos de computação. No entanto, várias empresas do sector parecem interessadas em treinar as suas IAs usando o YouTube.
