Você monta um novo rack para treinar modelos. As GPUs estão prontas. A energia está mais ou menos OK. Agora vem a questão difícil: gabinete de servidor GPU 4U, 5U ou 6U? Escolha a altura errada e você terá que lidar com calor, confusão de cabos e ruído...
As GPUs consomem muita energia e aquecem muito. Se o fluxo de ar dentro do gabinete do servidor estiver incorreto, as placas não ficam “um pouco” mais lentas. Elas reduzem a velocidade do clock, travam os trabalhos e o seu rack sofisticado se transforma num aquecedor. É aqui que entra o design do fluxo de ar para 4U...
Se hoje em dia executa cargas de trabalho de GPU, já o sentiu: as caixas de treino e as caixas de inferência não se comportam da mesma forma, pelo que também não faz sentido colocar ambas no mesmo chassis por defeito. A seguir, vamos analisar a situação real...
Então, acabou de comprar um rack cheio de GPUs de última geração - talvez as A100s ou as novas Hopper H100s. Ótimo! Tem o melhor silício do planeta pronto para treinar o seu próximo modelo de linguagem. Mas espere um segundo. Se...
Todos nós falamos sobre a Unidade de Processamento Gráfico (GPU), não é? É o motor que impulsiona a Inteligência Artificial e a Aprendizagem Automática modernas. Provavelmente, investiu muito no mais recente hardware da NVIDIA ou da AMD, mas aqui fica uma ideia: Não se pode esperar...
Não está a construir um simples processador de texto, pois não? Está a mergulhar de cabeça na IA, na aprendizagem automática e nos enormes conjuntos de dados que estão a reescrever a forma como os negócios funcionam. Este trabalho exige uma grande capacidade de computação, o que significa Unidades de Processamento Gráfico (GPUs). O seu...
IStoneCase - OEM/ODM para desempenho, durabilidade e personalização em escala. Caixa de servidor optimizada para GPU: Fluxo de ar, arrefecimento líquido e fornecimento de energia A formação em IA e a HPC moderna consomem muitos watts e libertam muito calor. Caixas antigas ofegam. As ventoinhas gritam. Os racks se esgotam...