Faisabilité des GPU dans les châssis à deux nœuds

Vous voulez une réponse claire : oui, les GPU dans un châssis à deux nœuds ne sont pas seulement faisables, ils sont pratiques. Deux nœuds remplaçables à chaud dans un seul boîtier offrent une densité, une alimentation et des ventilateurs partagés, et des opérations plus simples. L'astuce consiste à choisir le bon châssis, le bon circuit de refroidissement et la bonne disposition des E/S, puis à verrouiller les UGS afin que rien ne change "mystérieusement" au moment de la construction. Je vous présente ci-dessous les contraintes réelles et les avantages, en termes clairs, avec des tableaux et des résultats concrets. Je montrerai également où IStoneCase s'adapte si vous avez besoin d'un OEM/ODM ou d'un produit en vrac.

Châssis à deux nœuds - faisabilité GPU (2U/4U avec multi-GPU)

A châssis à deux nœuds est un boîtier doté de deux unités de calcul indépendantes. Chaque nœud dispose de son propre processeur, de sa propre mémoire, de son propre stockage et de ses propres voies PCIe. Le châssis partage les blocs d'alimentation et le mur de ventilateurs. Avec le bon flux d'air et le bon mappage des voies, chaque nœud peut piloter plusieurs GPU - souvent trois double-largeur ou plus simple-largeur, en fonction de la géométrie des fentes et de la thermique.

Si vous êtes à la recherche d'un boîtier pc pour rack de serveur, boîtier de pc serveurou boîtier d'ordinateur serveur qui peut accueillir des nœuds doubles et des accélérateurs, commencez par faire correspondre le TDP du GPU à la marge de manœuvre du ventilateur et de l'alimentation. Ne devinez pas ; lisez la courbe du ventilateur et les spécifications du bloc d'alimentation, puis laissez une marge.

Voies PCIe 4.0 x16 et cartes d'interface réseau OCP 3.0 (bande passante et topologie)

Les GPU aiment les couloirs. Visez PCIe 4.0 x16 par accélérateur (ou PCIe 5.0 si disponible). Utiliser OCP 3.0 NIC (AIOM) pour les liaisons montantes 100G+ sans utiliser de slots supplémentaires. A surveiller Bifurcation PCIe du vendeur de la carte. Si vous avez besoin de GPUDirect-ish (par exemple, l'apprentissage de modèles en nuage ou l'inférence complète), planifiez la structure de manière à ce qu'elle puisse être utilisée pour la formation des utilisateurs et l'inférence. GPU-to-GPU dans le châssis et nœud croisé trafic, les deux ont de la place. Rien n'est plus dommageable qu'une ferme de GPU brillants goulotée par un seul NIC.

Enveloppe de puissance et de refroidissement dans les serveurs 2U/4U à deux nœuds

C'est là que les constructions réussissent - ou surchauffent. Confirmer :

• Réserve de puissance du bloc d'alimentation avec la redondance activée ; éviter de courir près des rails.
• Flux d'air avant-arrière alignés sur votre couloir chaud/froid. Remplissez les panneaux vides ; ne laissez pas de fuites de pression.
• RPM de la paroi du ventilateur par rapport à l'acoustique/MTBF cibles. Les ventilateurs à haute pression statique sont votre ami.
• Si le TDP du GPU est élevé, envisagez plaques froides prêtes à recevoir des liquides ou un RU plus haut. Parfois, 4U permet d'obtenir des dissipateurs thermiques plus grands et des câbles plus propres que 2U.

Si votre déploiement nécessite des éléments thermiques plus spacieux ou davantage d'emplacements, consultez les familles d'IStoneCase :

• Boîtier de serveur GPU - Boîtier de serveur GPU (Catalogue)
• Boîtier serveur GPU 4U - Boîtier de serveur GPU 5U - Boîtier de serveur GPU 6U

Ceux-ci couvrent Disposition ATX/E-ATX également, ce qui est pratique lorsque vous avez besoin d'un boîtier du serveur atx avec une plus grande marge de manœuvre.

Charges de travail réelles : VDI, rendu, inférence de l'IA, transcodage des médias

On n'achète pas des boîtiers GPU à deux nœuds pour le plaisir de les avoir. Vous les achetez pour expédier du travail :

• Inférence IA (par lots et en ligne): Le multi-GPU par nœud vous permet d'épingler des modèles par SKU et de les faire évoluer horizontalement. Idéal pour le service LLM, la recherche vectorielle et la vision par ordinateur.
• Rendu et M&E: Postes de travail distants pendant la journée ; ferme de rendu pendant la nuit. Les deux nœuds permettent de séparer les sessions interactives des travaux en file d'attente.
• VDI: Prévoir plus de sièges par RU, avec des GPU à largeur unique qui consomment de l'énergie mais poussent les cadres.
• Transcode/streaming: La densité du NVENC/NVDEC est optimale lorsque vous placez de nombreuses cartes à fente unique dans un châssis.
• Bordure/branche: Les racks robustes aiment les nœuds doubles parce que les pièces de rechange et les alimentations électriques sont limitées. Un boîtier, deux nœuds indépendants = moins de déplacements de camions.

Réclamation - preuve - impact (tableau)

Note : les valeurs ci-dessus reflètent les configurations courantes de l'industrie ; les limites exactes dépendent de la carte, des cartes montantes et des refroidisseurs que vous avez choisis.

Nomenclature au niveau du nœud que vous devriez réellement vérifier

• Sockets et cartes de voies du processeur: Confirmer le nombre total de voies PCIe après NVMe et les cartes réseau.
• Elévateurs et espacement des fentes: Les GPU double largeur ont besoin d'un espacement clair de 2 emplacements ; attention aux ombres de chaleur M.2 cachées.
• Emplacement OCP 3.0: Réservez pour votre tissu de 100G ou plus.
• Paroi du ventilateur + enveloppe: Le bon carénage d'air peut faire chuter les températures du GPU de plusieurs dizaines de degrés Celsius.
• BLOC D'ALIMENTATION SKU: Même puissance, même bac d'efficacité ; éviter de mélanger les révisions.
• Paquet de micrologiciels: Verrouiller les versions de réamorçage BIOS/BMC/PCIe. Ne mélangez pas les versions ; ça mord.

Il s'agit d'une paperasserie ennuyeuse, mais qui permet de maintenir les flottes en bonne santé.

Modèles de déploiement pratiques (avec du jargon mais utiles)

• Discipline allée froide / allée chaude: Remplissages installés, bandes de brossage sur les découpes de câbles, pas de façades "gruyères".
• Budget de l'UR par rapport à la chaleur: Si 2U est serré à votre watt-per-GPU, passage à 4U et cesser de lutter contre la physique.
• Disposition des tissus2×100G par nœud (ou plus) pour diviser nord-sud et est-ouest trafic ; pensez au maillage des services + aux flux de stockage.
• MTBF et stock de FRU: Gardez un chariot de rechange, des PSU, et au moins un kit complet d'élévateurs par pod.
• Observabilité: Exporter la télémétrie du BMC et du GPU ; détecter les pannes de ventilateur avant qu'elles ne se produisent. Ce n'est pas de la science-fiction, mais cela permet d'économiser des nuits.

Options IStoneCase si vous avez besoin d'un OEM/ODM ou d'un produit en vrac

Si votre équipe a besoin d'un boîtier de pc serveur ou boîtier du serveur atx adapté aux constructions de GPU à deux nœuds, IStoneCase (IStoneCase - Le premier fabricant mondial de solutions OEM/ODM de boîtiers pour GPU/serveurs et de châssis de stockage) fournit des cas et des personnalisations pour les centres de données, les centres d'algorithmes, les entreprises, les MSP, les laboratoires de recherche et les développeurs. Commencez ici :

• Aperçu du catalogue : Boîtier de serveur GPU
• Plus grand, plus frais : Boîtier serveur GPU 4U - Boîtier de serveur GPU 5U - Boîtier de serveur GPU 6U
• Boîtiers de GPU adaptés aux stations de travail : Boîtier serveur ISC pour GPU WS04A2 - Boîtier de serveur GPU ISCWS06A
• Taillage de bout en bout : Personnalisation Service de châssis de serveur

Nous le faisons OEM/ODMNous nous occupons également des commandes en gros et des ajustements de spécifications (rails, kits de guidage, routage des câbles, poignées de luge). Si vous avez une planche bizarre ou un élévateur excentrique, nous ajusterons la tôle et les guides d'écoulement de l'air. C'est un peu notre travail quotidien.

Correspondance rapide entre la charge de travail et le matériel (tableau)