קטגוריות

 

 

 

 

NVIDIA® H100 NVL Tensor Core GPU הוא הפלטפורמה הממוטבת ביותר עבור LLM
מסקנות עם צפיפות המחשוב הגבוהה שלה, רוחב פס זיכרון גבוה, אנרגיה גבוהה
יעילות וארכיטקטורת NVLink ייחודית. הוא גם מספק תאוצה חסרת תקדים
להפעיל את מרכזי הנתונים האלסטיים בעלי הביצועים הגבוהים ביותר בעולם עבור AI, ניתוח נתונים ו
יישומי מחשוב בעלי ביצועים גבוהים (HPC). NVIDIA H100 NVL Tensor Core
הטכנולוגיה תומכת במגוון רחב של דיוק מתמטי, ומספקת מאיץ יחיד עבור
כל עומס עבודה מחשוב. ה-NVIDIA H100 NVL תומך בדיוק כפול (FP64), דיוק יחיד (FP32), חצי דיוק (FP16), נקודה צפה 8 סיביות (FP8) ומספר שלם (INT8)
משימות מחשוב.
כרטיס NVIDIA H100 NVL הוא כרטיס PCI Express Gen5 עם חריצים כפולים בגודל 10.5 אינץ' המבוסס על
ארכיטקטורת NVIDIA Hopper™. הוא משתמש בגוף קירור פסיבי לקירור, מה שמצריך
זרימת אוויר של המערכת כדי להפעיל את הכרטיס כהלכה במסגרת המגבלות התרמיות שלו. ה-NVIDIA H100
NVL פועל ללא הגבלה עד לרמת הספק התרמי המקסימלי (TDP) של 400
W להאצת יישומים הדורשים את מהירות החישוב המהירה והגבוהה ביותר
תפוקת נתונים. ה-NVIDIA H100 NVL מציג לראשונה את זיכרון כרטיס ה-PCIe הגבוה בעולם
רוחב פס של כמעט 4,000 גיגה-בייט לשנייה (GBps). זה מאיץ את הזמן לפתרון עבור
הדגמים הגדולים ביותר ומערכי הנתונים האדירים ביותר.
כרטיס NVIDIA H100 NVL כולל יכולת Multi-Instance GPU (MIG). זה יכול להיות
משמש כדי לחלק את ה-GPU לשבעה מופעי GPU מבודדים בחומרה,
מתן פלטפורמה מאוחדת המאפשרת למרכזי נתונים אלסטיים להתאים באופן דינמי
שינוי בדרישות עומס העבודה. כמו גם שהוא יכול להקצות את הגודל הנכון של משאבים מה-
העבודות הקטנות ביותר עד הגדולות ביותר עם מספר GPU. צדדיות של NVIDIA H100 NVL פירושה שמנהלי IT
יכולים למקסם את התועלת של כל יחידת עיבוד גרפית (GPU) במרכז הנתונים שלהם.
כרטיסי NVIDIA H100 NVL משתמשים בשלושה גשרי NVIDIA® NVLink®. הם זהים ל-
אחד בשימוש עם כרטיסי NVIDIA H100 PCIe. זה מאפשר שני כרטיסי NVIDIA H100 PCIe להיות
מחובר כדי לספק רוחב פס דו-כיווני של 600 GB/s או פי 10 מרוחב הפס של PCIe
Gen4, כדי למקסם את ביצועי האפליקציה עבור עומסי עבודה גדולים.

 

 

הספק הכולל של הלוח PCIe כבל 16 פינים חגור עבור מצב הספק של 450W או 600W:
> 400W מקסימום (ברירת מחדל)
> מגבלת תאימות להספק של 310W1
> 200W מינימום
כבל PCIe 16 פינים חגור למצב הספק של 300W:
> 310W מקסימום (ברירת מחדל)
> מגבלת תאימות להספק של 310W
> 200W מינימום
פתרון תרמי פסיבי
מקדם צורה מכני בגובה מלא, באורך מלא (FHFL) 10.5 אינץ' חריץ כפול
מזהי התקן PCI מזהה מכשיר: 0x2321
מזהה ספק: 0x10DE
מזהה ספק משנה: 0x10DE
מזהה תת-מערכת: 0x1839
שעוני GPU בסיס: 1,080MHz
חיזוק: 1,785 מגה-הרץ
מצבי ביצועים P0
גודל VBIOS EEPROM: 8Mbit
UEFI: לא נתמך
ממשק PCI Express PCI Express Gen5 x16; Gen5 x8; Gen4 x16
נתמך בהיפוך נתיב וקוטביות
נתמך GPU מרובה מופעים (MIG) (שבעה מופעים)

אתחול מאובטח (CEC) נתמך
אפס כוח לא נתמך
מחברי חשמל וכותרות מחבר PCIe אחד 16 פינים מתח עזר (12v-2x6 מתח עזר
מַחבֵּר)
לוח משקל: 1,214 גרם (לא כולל תושבת, מאריכים וגשרים)
גשר NVLink: 20.5 גרם לגשר (x 3 גשרים)
תושבת עם ברגים: 20 גרם
מאריך ישר משופר: 35 גרם
מאריך אופסט ארוך: 48 גרם
מאריך ישר: 32 גרם

שעון זיכרון 2,619MHz
סוג זיכרון HBM3
נפח זיכרון 94GB
רוחב אפיק זיכרון 6,016 סיביות
רוחב פס שיא של זיכרון 3,938GB/s

 

תקופת אחריות שלוש שנים