Então, acabou de comprar um rack cheio de GPUs de última geração - talvez as A100s ou as novas Hopper H100s. Ótimo! Tem o melhor silício do planeta pronto para treinar o seu próximo modelo de linguagem. Mas espere um segundo. Se...
Todos nós falamos sobre a Unidade de Processamento Gráfico (GPU), não é? É o motor que impulsiona a Inteligência Artificial e a Aprendizagem Automática modernas. Provavelmente, investiu muito no mais recente hardware da NVIDIA ou da AMD, mas aqui fica uma ideia: Não se pode esperar...
Não está a construir um simples processador de texto, pois não? Está a mergulhar de cabeça na IA, na aprendizagem automática e nos enormes conjuntos de dados que estão a reescrever a forma como os negócios funcionam. Este trabalho exige uma grande capacidade de computação, o que significa Unidades de Processamento Gráfico (GPUs). O seu...
IStoneCase - OEM/ODM para desempenho, durabilidade e personalização em escala. Caixa de servidor optimizada para GPU: Fluxo de ar, arrefecimento líquido e fornecimento de energia A formação em IA e a HPC moderna consomem muitos watts e libertam muito calor. Caixas antigas ofegam. As ventoinhas gritam. Os racks se esgotam...
Já reparou na rapidez com que a tecnologia está a avançar ultimamente? Parece que todos os dias há uma nova ferramenta de IA ou um novo serviço fantástico a aparecer. Bem, todo esse poder precisa de uma casa séria e, francamente, o tradicional centro de CPU...
Executando o treinamento de IA, VDI e até mesmo computação de vídeo hoje, todos nós batemos na mesma parede: quantas unidades de rack damos à caixa da GPU para que ela possa respirar, consumir energia e ainda ser útil. 4U parece fácil. 6U parece...
Quer-se utilizar uma IA pesada, inferências em tempo real, talvez uma série de tarefas de formação, e não se quer que a caixa grite ou acelere. O chassis é onde a história começa. Abaixo está uma forma prática de avaliar uma GPU...