NVIDIA H100 NVL 94 GB: สเปกและการทดสอบประสิทธิภาพ

บทสรุป

NVIDIA เริ่มวางจำหน่าย H100 NVL 94 GB เมื่อ 21 มีนาคม 2023 นี่คือการ์ดเดสก์ท็อปที่ใช้สถาปัตยกรรม Hopper ผลิตด้วยกระบวนการ 5 nm ซึ่งมุ่งเน้นไปที่นักออกแบบ หน่วยความจำ HBM3 ขนาด 94 จีบี ที่ความถี่ 1.31 GHz ถูกจัดมาให้ และร่วมกับอินเทอร์เฟซหน่วยความจำ 6016 Bit ทำให้เกิดแบนด์วิดท์ที่ 3.95 ทีบี/s

จากมุมมองด้านความเข้ากันได้ นี่คือการ์ดจอแบบ dual-slot ที่เชื่อมต่อผ่านอินเทอร์เฟซ PCIe 5.0 x16 เวอร์ชันมาตรฐานจากผู้ผลิตมีความยาวอยู่ที่ 267 mm ขั้วต่อไฟ 8-pin EPS จำเป็นต้องใช้ และการใช้พลังงานอยู่ที่ 400 Watt

รายละเอียดหลัก

ข้อเท็จจริงพื้นฐานเกี่ยวกับ H100 NVL 94 GB: สถาปัตยกรรม, กลุ่มตลาด, วันที่เปิดตัว และอื่นๆ

ตำแหน่งในการจัดอันดับประสิทธิภาพ	ไม่ได้จัดอันดับ
จัดอันดับตามความนิยม	ไม่ได้อยู่ใน 100 อันดับแรก
สถาปัตยกรรม	Hopper (2022−2024)
ชื่อรหัส GPU	GH100
ประเภทตลาด	เวิร์กสเตชัน
วันที่วางจำหน่าย	21 มีนาคม 2023 (เมื่อ 3 ปี ปีที่แล้ว)

สเปกโดยละเอียด

สเปกของ H100 NVL 94 GB เช่น จำนวนเชดเดอร์, ความถี่พื้นฐานของ GPU, กระบวนการผลิต, ความเร็วการประมวลผลและการเท็กซ์เจอร์ พารามิเตอร์เหล่านี้อาจบ่งบอกถึงประสิทธิภาพของ H100 NVL 94 GB ได้ในบางส่วน แต่หากต้องการประเมินอย่างแม่นยำ คุณจำเป็นต้องพิจารณาผลการทดสอบและการเล่นเกม

พาธไลน์ / คอร์ CUDA	16896	จากทั้งหมด 57344 (Rubin Ultra GPU)
ความเร็วสัญญาณนาฬิกาหลัก	1080 MHz	จากทั้งหมด 2670 MHz (Arc B580)
เพิ่มความเร็วสัญญาณนาฬิกา	1785 MHz	จากทั้งหมด 3130 MHz (Radeon RX 9060 XT 16 GB)
จำนวนทรานซิสเตอร์	80,000 million	จากทั้งหมด 670,000 million (Rubin Ultra GPU)
เทคโนโลยีกระบวนการผลิต	5 nm	จากทั้งหมด 2 nm (Radeon Instinct MI455X)
การใช้พลังงาน (TDP)	400 Watt	จากทั้งหมด 3600 Watt (Rubin Ultra GPU)
อัตราการเติมเท็กซ์เจอร์	942.5	จากทั้งหมด 4,062.5 (Rubin Ultra GPU)
ประสิทธิภาพการประมวลผลจุดลอยตัว	60.32 TFLOPS	จากทั้งหมด 260 (Rubin Ultra GPU)
ROPs	24	จากทั้งหมด 512 (Moore Threads MTT S4000)
TMUs	528	จากทั้งหมด 1792 (Rubin Ultra GPU)
Tensor Cores	528	จากทั้งหมด 1792 (Rubin Ultra GPU)
L1 Cache	33 เอ็มบี	จากทั้งหมด 112 MB (Rubin Ultra GPU)
L2 Cache	50 เอ็มบี	จากทั้งหมด 408 MB (Data Center GPU Max 1350)

ฟอร์มแฟกเตอร์และความเข้ากันได้

ส่วนนี้ให้รายละเอียดเกี่ยวกับขนาดทางกายภาพของ H100 NVL 94 GB และความเข้ากันได้กับอุปกรณ์คอมพิวเตอร์อื่นๆ ข้อมูลนี้มีประโยชน์เมื่อเลือกการกำหนดค่าคอมพิวเตอร์หรืออัปเกรดคอมพิวเตอร์ที่มีอยู่ สำหรับการ์ดจอเดสก์ท็อป จะรวมถึงรายละเอียดเกี่ยวกับอินเทอร์เฟซและบัส (สำหรับความเข้ากันได้กับเมนบอร์ด) และขั้วต่อไฟเพิ่มเติม (สำหรับความเข้ากันได้กับหน่วยจ่ายไฟ)

อินเทอร์เฟซ	PCIe 5.0 x16
ความยาว	267 mm
ความกว้าง	2-slot
ขั้วต่อพลังงานเสริม	8-pin EPS

ความจุและประเภทของ VRAM

พารามิเตอร์ของหน่วยความจำที่ติดตั้งใน H100 NVL 94 GB: ประเภท, ขนาด, บัส, ความถี่ และแบนด์วิดท์ที่ได้ โปรดทราบว่า GPU แบบรวมในโปรเซสเซอร์ไม่มีหน่วยความจำเฉพาะ และใช้ส่วนแบ่งของ RAM ระบบแทน

ประเภทหน่วยความจำ	HBM3
จำนวน RAM สูงสุด	94 จีบี	จากทั้งหมด 432 จีบี (Radeon Instinct MI455X)
ความกว้างบัสหน่วยความจำ	6016 Bit	จากทั้งหมด 32768 Bit (Rubin Ultra GPU)
ความเร็วของนาฬิกาหน่วยความจำ	1313 MHz	จากทั้งหมด 16000 GB/s (GeForce RTX 4050 Mobile)
	3.95 ทีบี/s	จากทั้งหมด 3,277 GB/s (Radeon Instinct MI250X)
Resizable BAR	+

การเชื่อมต่อและเอาต์พุต

ประเภทและจำนวนของตัวเชื่อมต่อวิดีโอที่มีใน H100 NVL 94 GB โดยทั่วไป ส่วนนี้จะเกี่ยวข้องเฉพาะกับการ์ดจอเดสก์ท็อปแบบอ้างอิง เนื่องจากสำหรับโน้ตบุ๊ก ความพร้อมใช้งานของพอร์ตวิดีโอบางประเภทขึ้นอยู่กับรุ่นของแล็ปท็อป ขณะที่การ์ดเดสก์ท็อปแบบไม่อ้างอิงอาจมีชุดพอร์ตวิดีโอที่แตกต่างกัน (หรืออาจไม่มี)

ขั้วต่อจอแสดงผล

No outputs

ความเข้ากันได้ของ API และ SDK

API ที่รองรับโดย H100 NVL 94 GB โดยบางครั้งจะรวมถึงเวอร์ชันเฉพาะด้วย

DirectX	N/A
รุ่นเชดเดอร์	N/A
OpenGL	N/A	จากทั้งหมด 4.6 (GeForce RTX 5090 D)
OpenCL	3.0
Vulkan	N/A
CUDA	9.0
DLSS	+

ประสิทธิภาพการทดสอบ

ประสิทธิภาพการทดสอบแบบสังเคราะห์ของ H100 NVL 94 GB โดยคะแนนรวมวัดบนมาตราส่วน 0-100 คะแนน

---

---