الحرارة تقتل وقت التشغيل.
ما زلت أرى فرقًا تنفق ستة أرقام على وحدات معالجة الرسومات ثم “توفر المال” على الصندوق الذي يقرر ما إذا كانت وحدات معالجة الرسومات هذه تعمل بالمواصفات أو تختنق لأشهر أو تموت مبكرًا - لأن مسارات تدفق الهواء والمقاومة وتوجيه الكابلات وبيئة العمل في الخدمة لم يتم التعامل معها على أنها هندسة بل تم التعامل معها كصفائح معدنية.
لماذا نستمر في التظاهر بأن الهيكل “مجرد تغليف”؟
إليك الحقيقة غير المريحة: “جاهز للذكاء الاصطناعي” هو ملصق وليس مواصفات. وعادةً ما يخفي الملصق نفس التنازلات المتعبة - جدران المروحة التي لا يمكنها تحمل الضغط الساكن تحت المرشحات، وخلجان وحدة تزويد الطاقة التي تمنع السحب، والتخطيطات التي تحول كل مهمة صيانة إلى حدث تعطل.
القيد الحقيقي ليس حوسبة وحدة معالجة الرسومات. إنها كثافة الطاقة + الحرارة + الوصول.
هناك ثلاثة أرقام أكثر أهمية من مجموعتك التسويقية: الواط والباسكال والدقائق.
وات، لأن وحدات معالجة الرسومات لا تتفاوض. إنفيديا L4 مرتبة 72W جزء منها؛ فهي متسامحة وصديقة للأطراف على الورق. لكن بطاقات الاستدلال “الجادة” تقفز بقوة: L40S القوائم طاقة قصوى 350 واط. ويمكن للأنظمة من فئة H100 دفع حتى 700 واط (SXM) أو 350-400W (PCIe، قابل للتكوين).
باسكال، لأن تدفق الهواء ليس “المزيد من المراوح”. إنها ميزانية الضغط. الفلاتر، والشبكات، والانحناءات الضيقة، وحزم الكابلات الموضوعة بشكل سيئ - كل واحدة منها تأكل الضغط الساكن وتحول بهدوء “تبريد هيكل خادم وحدة معالجة الرسومات عالي التدفق للهواء” إلى اضطراب دافئ.
دقائق، لأن الاستدلال على الحافة والاستدلال الداخلي ليسا هواية. إذا احتاجت تقنيتك إلى 45 دقيقة وثلاث أدوات لسحب عقدة، فليس لديك “عمليات”. لديك تفكير بالتمني.
إذا كنت تبحث عن مصادر، ابدأ مع بائع يتعامل مع الهيكل كمنتج، وليس كسلعة - شيء مثل وضع iStoneCase على تصميمات مخصصة على الأقل يعترفون بأن تخطيطات وحدة معالجة الرسومات ليست مقاسًا واحدًا يناسب الجميع (انظر إلى تأطيرهم الخاص على نهج الشركة المصنعة لشاسيه خادم GPU المخصص).
الحافة مقابل الحافة الداخلية: نفس السيليكون، مع اختلاف أنماط الفشل
الغبار يدمر المراوح.
تختنق عمليات نشر الذكاء الاصطناعي الحافة بالجسيمات والرذاذ والاهتزازات والتوجيه البطيء للكابلات، بينما تعاقبك الرفوف الداخلية بالحمل الحراري المستمر وتكرار الخدمة؛ تتداخل أهداف التصميم، ولكن طرق الفشل مختلفة تمامًا.
إذاً لماذا يقبل المشترون “هيكل الحامل، ولكن أصغر حجماً” كخطة متطورة؟
إذا كنت تقوم بعمل الحافة، توقف عن شحن الإطارات المفتوحة إلى الغرف المتسخة وتأمل في الأفضل. استخدم استراتيجية الضميمة التي تفترض وجود أوساخ في العالم الحقيقي وأيدي البشر - يوضح iStoneCase هذه النقطة بصراحة في توجيه حالة الخادم الصناعي المثبت على الحائط لشبكات المصنع/التشغيل/التشغيل الخارجي.
إذا كنت تعمل على الحامل، فتعامل مع الحامل كخط إنتاج: المبادلة، الانزلاق، الاستبدال، الاستبدال، التسجيل. القضبان مهمة أكثر مما يعترف به الناس، لأنه لا أحد يخدم عقدة وزنها 30-50 كجم بأمان بدونها (انظر قضبان توجيه الهيكل المثبت على الحامل).
سبب قوي يجعل الأمر يزداد سوءاً في عام 2024
الطاقة تتقلص.
تضع الحكومة الأمريكية الآن نموذجًا علنيًا لمراكز البيانات كمشكلة كهرباء وطنية: لخصت وزارة الطاقة أن مراكز البيانات الأمريكية تستخدم ~حوالي 4.41 تيرابايت 6 تيرابايت من إجمالي الكهرباء في الولايات المتحدة في عام 2023, ومن المتوقع أن تصل إلى ~6.71 تيرابايت إلى 121 تيرابايت إلى 6.71 تيرابايت إلى 121 تيرابايت إلى 6 تيرابايت بحلول عام 2028-مع الاستخدام المقدر بـ 176 تيراواط ساعة (2023) و 325-580 تيراواط ساعة (2028).
إذا تعرضت الشبكة للضغط، ما الذي تعتقد أنه سيحدث للمساحة الحرارية وقيود المنشأة؟
إن إصدار وزارة الطاقة هذا ليس منشورًا على مدونة؛ بل هو عبارة عن تحذير مؤسسي مرتبط بتقرير LBNL الذي تم إعداده استجابةً لقانون الطاقة لعام 2020.
تصميم هيكل خادم وحدة معالجة الرسومات: قائمة المراجعة التي يكرهها البائعون
تريد إجابة “كيفية التصميم”؟ حسناً، إليك ما أبحث عنه عندما أحاول الفصل بين هندسة الهيكل الجادة وحشو الكتالوج.
1) بنية تدفق الهواء، وليس عدد المروحة
- التدفق المستقيم يتفوق على الذكاء. من الأمام إلى الخلف ممل لأنه يعمل.
- تقسيم المناطق الساخنة: وحدات معالجة الرسومات، ووحدات المعالجة المركزية، ووحدة (وحدات) دعم التشغيل، ووحدة (وحدات) دعم التشغيل، ووحدة (وحدات) دعم التشغيل، ووحدة (وحدات) NVM - يجب أن يكون لكل منها مسار محدد.
- إذا كنت بحاجة إلى مرشحات (حافة)، صمم ميزانية الضغط حول لهم، وليس المقاطع اللاحقة.
2) الارتفاع هو قرار حراري (2U/4U/6U ليس من الناحية الجمالية)
- 2U يمكن أن تنجح في الاستدلال إذا كنت منضبطًا (بطاقات TDP أقل، ووحدات معالجة رسومات مزدوجة العرض، ومراوح ذات عدد دورات في الدقيقة أعلى، ومزيد من الضوضاء).
- 4U هو الوضع الافتراضي العاقل لوحدة معالجة الرسومات + التخزين + الخدمة المختلطة - ولهذا السبب يبدأ الكثير من المشترين في تصفح خيارات علبة تركيب على حامل 4U 4U.
- 6U هو المكان الذي تذهب إليه عندما تصطدم الكثافة + تدفق الهواء + واقع الكابلات - حجم أكبر، وأنابيب أفضل، و“جمباز وصول” أقل (انظر قوائم حالة خادم GPU 6U 6U).
3) المواد والصلابة: الاهتزاز هو القاتل الصامت عند الحافة
تصميم حاوية خادم وحدة معالجة الرسومات ذات الحافة القوية ليس مجرد “معدن أكثر سمكًا”. إنه صلابة في الأماكن الصحيحة، ونقاط رنين أقل، وتركيب مناسب، وعدم التظاهر بأن دعامة وحدة معالجة الرسومات هي دعامة هيكلية.
أنا صريح هنا: أنا أثق في البائعين أكثر عندما ينشرون شرحًا حقيقيًا للمواد (السُمك، درجة الفولاذ، قطع الألومنيوم) بدلاً من الصفات. حتى على صفحات المنتج، تتفوق التفاصيل على الزغب.
4) توصيل الطاقة وهندسة الكابلات
- دعم وحدة PSU المزدوجة ليس “مؤسسة” - بل هو تحكم في المخاطر.
- يجب ألا يتداخل توجيه الكابل مع مسارات السحب.
- خطّط لموصلات طاقة وحدة معالجة الرسومات (8 سنون/16 سنون) حتى لا تصبح حواجز لتدفق الهواء.
5) تصميم الخدمة: الوصول سمة من سمات الأداء
إذا لم يتمكن تقنيك من استبدال علبة المروحة بسرعة، فسوف تقوم بتشغيل تبريد متدهور “مؤقتًا” حتى يصبح الأمر دائمًا.
هذا هو المكان الذي تتوقف فيه القضبان والأنماط التي لا تحتوي على أدوات عن كونها “لطيفة”. مرة أخرى: قضبان توجيه الهيكل جزء صغير ذو تأثير تشغيلي كبير.
الذكاء الاصطناعي المتطور مقابل متطلبات الهيكل الاستدلالي الداخلي
| سمة التصميم | هيكل خادم الذكاء الاصطناعي المتطور | علبة خادم وحدة معالجة الرسومات المثبتة على حامل داخل الشركة | ما الذي يتلف إذا تجاهلته |
|---|---|---|---|
| تنقية الهواء | مدخل مفلتر، وتبديل الفلاتر سهل الوصول، وخطة مروحة مدركة للضغط | غالبًا ما تكون غير مصفاة، وتحسين تدفق الهواء بالجملة | انسداد المراوح (الحافة) أو تشكل بقع ساخنة (الحامل) |
| الصدمات/الاهتزازات | تثبيت صلب، حمل ناتئ أقل، احتفاظ آمن للبطاقة | بيئة مستقرة في الغالب | مشكلات في تركيب وحدة معالجة الرسومات/وحدة معالجة الرسومات/مثبطات ضوئية (GPU/PCIe)، والتشققات الدقيقة بمرور الوقت |
| الميزانية الصوتية | مقيد عادة (بالقرب من الناس) | غالباً ما تكون أقل تقييداً (غرفة الخادم) | مراوح “غطاء” الفرق → الاختناق الحراري |
| الوصول إلى الخدمة | وصول أمامي، خيارات التركيب على الحائط/قصر العمق | قضبان الانزلاق، والتبديل السريع حيثما أمكن ذلك | وقت تعطل طويل لكل حادثة |
| الإرتفاع الحراري | أحمال شائكة + هواء متسخ + محيط أعلى | أحمال مستدامة + حدود المنشأة | الخانق، ثم الفشل |
| ضغط الامتثال | موقع البيانات، وممارسات السلامة التشغيلية | قابلية التدقيق والتوثيق والحوكمة | يتم حظرك بسبب المخاطر/الامتثال |
الامتثال يقود بهدوء عملية الاستدلال داخل المؤسسة
لدغات اللوائح التنظيمية.
لا يقتصر الدفع نحو أجهزة الخوادم الاستدلالية للذكاء الاصطناعي داخل الشركة على زمن الاستجابة والتكلفة فحسب، بل يتعلق الأمر بالحوكمة والتوثيق ومن يقع عليه اللوم عندما تسيء النماذج التصرف في تدفقات العمل المنظمة.
هل تريد سبباً ملموساً؟
ابدأ بـ إطار عمل إدارة مخاطر الذكاء الاصطناعي 1.0 (نُشر باسم NIST AI 100-1 في 2023)، وهي في الأساس إشارة مضيئة للمؤسسات: إدارة السياق والتأثيرات والمساءلة مثل الكبار.
ثم أضف مطرقة أوروبا القانونية: اللائحة التنظيمية (الاتحاد الأوروبي) 2024/1689 (قانون الاتحاد الأوروبي للذكاء الاصطناعي) المعتمد 13 يونيو 2024-قانون حقيقي بعقوبات حقيقية وتوقعات توثيق حقيقية.
عندما تشعر فرق الامتثال بالتوتر، فإنها تطرح سؤالاً متوقعاً: “هل يمكننا الاحتفاظ بالبيانات الحساسة داخل حدودنا الخاضعة للرقابة؟ يسحب هذا السؤال الاستدلال أقرب إلى الحافة أو إلى داخل الشركة، وفجأة تتوقف خيارات الهيكل عن كونها ”أجهزة تكنولوجيا المعلومات“ وتصبح ”بنية تحتية للمخاطر“.”
الأسئلة الشائعة
ما هو هيكل خادم GPU؟
هيكل خادم وحدة معالجة الرسومات هو المنصة الميكانيكية والحرارية (الصفائح المعدنية، والقضبان، ومسار تدفق الهواء، وتوزيع الطاقة، وفتحات الإدخال/الإخراج) التي تتيح تشغيل بطاقة مسرع أو أكثر بطاقة مسرع واحدة أو أكثر بطاقة مقدرة - غالباً ما تتراوح قوتها بين 72 واط و700 واط لكل وحدة معالجة رسومات - داخل حامل أو حاوية حافة دون اختناق أو تعطل.
من الناحية العملية، إنه أيضًا نظام الصيانة الخاص بك: مدى سرعة تبديل المراوح وإعادة تبديل البطاقات والحفاظ على تدفق الهواء نظيفًا.
ما الذي يجعل هيكل خادم الذكاء الاصطناعي المتطور مختلفاً عن هيكل خادم وحدة معالجة الرسومات المثبت على حامل؟
إن هيكل خادم الذكاء الاصطناعي المتطور عبارة عن حاوية قادرة على وحدة معالجة الرسومات مصممة للهواء المتسخ ودرجات الحرارة المحيطة المرتفعة والاهتزازات والوصول المقيد للخدمة، بينما تفترض علبة خادم وحدة معالجة الرسومات المثبتة على حامل بيئة محكومة وتحسن الكثافة والقضبان القياسية وتدفق الهواء من الأمام إلى الخلف الذي يمكن التنبؤ به في رفوف مقاس 19 بوصة.
إذا قمت بنشر الحافة وكأنها مركز بيانات، فسوف تتعلم درس “التصفية والضغط” بالطريقة المكلفة.
كيف يمكنك تحديد حجم التبريد لوحدات معالجة الرسومات بقدرة 350 وات - 700 وات في تصميمات 2U/4U؟
تحجيم التبريد هو عملية مطابقة إجمالي الحمل الحراري (وحدة معالجة الرسومات + وحدة معالجة الرسومات + وحدة المعالجة المركزية + خسائر وحدة المعالجة المركزية + وحدة المعالجة المركزية)، وارتفاع درجة الحرارة المسموح بها، وقدرة الضغط الساكن للمروحة على مسار تدفق هواء محدد بحيث يمكن للمسرعات الحفاظ على ساعات التعزيز دون تجاوز عتبات الاختناق في ظل المعاوقة الحقيقية (المرشحات، والشبكات، وحزم الكابلات) ودرجات حرارة المدخل في أسوأ الحالات.
القاعدة الأساسية: صمم لليوم السيء وليس ليوم المختبر.
متى يستحق التبريد السائل في علبة خادم وحدة معالجة الرسومات (GPU)؟
التبريد بالسائل هو نهج لإزالة الحرارة حيث تنقل حلقات سائل التبريد الطاقة الحرارية بعيدًا عن وحدات معالجة الرسومات/وحدات المعالجة المركزية إلى المشعاعات أو مياه المنشأة، مما يسمح بكثافة طاقة مستدامة أعلى من التبريد بالهواء في نفس الحجم، خاصةً عندما يكون تدفق الهواء مقيدًا بحدود الضوضاء أو ترشيح الغبار أو متطلبات TDP القصوى لوحدة معالجة الرسومات.
إذا كنت تكدس بطاقات ذات طاقة عالية وكان مسار تدفق الهواء لديك معرضًا للخطر، يتوقف السائل عن كونه غريبًا ويبدأ في كونه رياضيات.
كيف تؤثر اللوائح على قرارات الأجهزة الاستدلالية داخل الشركة؟
يتمثل التأثير التنظيمي في الطريقة التي تدفع بها متطلبات الحوكمة - التوثيق والمساءلة وضوابط المخاطر وقواعد التعامل مع البيانات - المؤسسات إلى تشغيل الاستدلال داخل حدود خاضعة للرقابة، لأن مسارات التدقيق وموقع البيانات أسهل في إثباتها عندما تكون البنية التحتية مملوكة ويمكن الوصول إليها فعليًا بدلاً من توزيعها عبر خدمات سحابية تابعة لجهات خارجية.
ويُعد كل من المعهد الوطني للمعايير والتكنولوجيا والابتكار والذكاء الاصطناعي وقانون الاتحاد الأوروبي للذكاء الاصطناعي إشارتين كبيرتين على أن هذا الضغط لا يتلاشى.
الخاتمة
إذا كنت جاداً بشأن الذكاء الاصطناعي المتطور أو الاستدلال على الحافة، توقف عن اختيار الهيكل في النهاية. ابدأ من هناك.
تصفح المخططات المرجعية مثل iStoneCase خيارات علبة تركيب على حامل 4U 4U و خط حالة خادم GPU 6U 6U, ، ثم اختبر متطلباتك بالضغط مقابل قيود النشر الحقيقية - الغبار، ووقت الخدمة، والضوضاء، والواط.
وإذا كانت عملية النشر الخاصة بك مجاورة للمصنع/المشغل، اقرأ هذا قبل تركيب أي شيء: علب خوادم مثبتة على الحائط من الدرجة الصناعية لشبكات المصانع.
