ARSITEKTUR INFRASTRUKTUR

Infrastruktur NVIDIA GB200 NVL72 dan Pengkabelan MPO-8 APC untuk Unit Skalabel

Membongkar arsitektur pengkabelan Unit Skalabel (SU) Blackwell, di mana 8 rak menyatu menjadi 9.216 helai serat aktif.

Unit Skalabel (SU) DGX GB200 merepresentasikan pergeseran besar dalam arsitektur pusat data. SU adalah entitas terpadu 576-GPU yang saling terhubung oleh 9.216 helai serat aktif. ScaleFibre menyediakan trunk yang telah diakhiri dengan presisi yang diperlukan untuk mengelola kepadatan ini.

Empat Fabric Fisik SuperPOD

NVIDIA membagi SU menjadi lapisan fisik yang berbeda untuk mengisolasi lalu lintas GPU.

MN-NVL (NVLink 5)

Scale-Up

Jaringan rak ‘internal’ yang menghubungkan 72 GPU pada 1.8 TB/dtk.

  • Nol Serat Optik
  • Backplane Tembaga Pasif
  • Konektor blind-mate

Compute InfiniBand

Scale-Out

Fabric ‘Timur-Barat’ utama untuk pelatihan multi-node besar-besaran.

  • 4.608 serat aktif per SU
  • Topologi yang dioptimalkan untuk rel
  • Quantum-3/Quantum-2

Penyimpanan & In-Band

Frontend

Fabric berbasis Ethernet untuk ingest data berkecepatan tinggi dan penyediaan.

  • Faktor Pemblokiran 5:3
  • Offload DPU BlueField-3
  • Dukungan VXLAN/RoCE

Manajemen OOB

Bidang Kontrol

Jaringan terisolasi untuk telemetri perangkat keras, BMC, dan manajemen PDU.

  • Tembaga RJ45/Cat6
  • Tingkat Saklar SN2201
  • Keamanan celah udara fisik

Metrik SU Eksaskala

Unit Skalabel (Scalable Unit) 8-rak merepresentasikan blok bangunan fundamental dari Pabrik AI NVIDIA.

9,216

Serat Aktif per SU

4,608

Helai Komputasi Saja

5:3

Rasio Pemblokiran Penyimpanan

400G/800G

Kecepatan Port Asli

Tiga Tingkat Konektivitas SU

1
Level A: Server-ke-Leaf

1.152 serat per rak menggunakan trunk serat tinggi atau jumper untuk menghubungkan node NVL72 ke Leaf Switches.

2
Level B: Leaf-ke-Spine

Mengagregasi lalu lintas yang sejajar rel dalam SU menggunakan tautan non-pemblokiran 1:1 untuk komputasi.

3
Level C: Spine-ke-Core

Menskalakan di luar SU ke area Core terpusat menggunakan trunk berkapasitas tinggi.

Pengkabelan Warisan (Point-to-Point)

  • Kompleksitas Manual: Membutuhkan 9.216 kabel patch individual per blok 8-rak.
  • Hambatan Aliran Udara: Bundel kabel padat menghalangi jalur pembuangan pendingin cair.
  • Profil Risiko: Probabilitas tinggi ‘rel bersilangan’ selama pengkabelan manual 1:1.
  • Waktu Penyebaran: 115+ jam untuk perutean dan pelabelan manual per SU.

Pengkabelan Trunk Modular Serat Tinggi

  • Plug-and-Play: Mengkonsolidasi ribuan serat menjadi trunk pra-terminasi yang disesuaikan 128F/144F/256F/288F/576F.
  • Optimalisasi Termal: Kabel berdiameter kecil memaksimalkan aliran udara dalam rak padat.
  • Efisiensi Jalur: Mengkonsolidasi 1.152 serat aktif per rak menjadi tulang punggung MPO berkapasitas tinggi.
  • Profil Instalasi: Penyebaran cepat melalui rakitan pra-terminasi yang telah diuji pabrik.

Pertumbuhan Serat Aktif: Node ke SuperPOD Penuh

Kompleksitas Pengkabelan
9.216 serat aktif per SU membutuhkan trunk modular serat tinggi untuk menghindari 'kekacauan kabel' yang menghalangi aliran udara.

Visualisasi Unit Skalabel

Blok Komputasi 8-Rak
Blok Komputasi 8-Rak

NVIDIA GB200 SU (Scalable Unit) terdiri dari 8 rak, masing-masing menampung sistem DGX GB200 NVL72 dengan 72 GPU.

Distribusi Trunk Serat Tinggi
Distribusi Trunk Serat Tinggi

Mengkonsolidasi ribuan serat rak ke dalam trunk berdensitas tinggi untuk ruang aliran udara, instalasi cepat, dan penggunaan jalur minimal.

Pendingin Cair
Pendingin Cair

Pelat dingin berpendingin cairan menstabilkan lingkungan baki, memungkinkan transceiver OSFP melepaskan panas secara efektif melalui heatsink yang menempel.

Technical FAQ

+ Bagaimana jumlah SU tetap terkendali pada 9.216 serat?
Dengan menggunakan hierarki pengkabelan bertingkat. Trunk serat tinggi menggantikan ribuan kabel patch MPO individual, mengurangi volume fisik dan mencegah hambatan pendinginan.
+ Apa itu 'Faktor Pemblokiran 5:3' dalam fabric penyimpanan?
Tidak seperti fabric komputasi non-pemblokiran (1:1), jaringan penyimpanan sengaja kelebihan langganan (oversubscribed). Ini mengurangi biaya serat dan kompleksitas sambil memenuhi persyaratan 40GB/dtk per node untuk penyimpanan. Penyebaran sering memanfaatkan kabel patch MPO yang kompatibel dengan NVIDIA.
+ Mengapa fabric NVLink internal bebas serat?
NVIDIA menggunakan backplane tembaga pasif dan kartrid kabel di dalam rak NVL72. Ini menghilangkan ribuan transceiver optik dan serat, secara signifikan mengurangi konsumsi daya dan latensi. Serat optik dicadangkan untuk fabric komputasi scale-out.
+ Apa yang terjadi ketika kita menskalakan ke 16 Unit Skalabel?
Pada skala 16-SU (9.216 GPU), total jumlah serat aktif untuk fabric komputasi saja mencapai 18.432 helai. Mengelola kepadatan ini membutuhkan housing kepadatan tinggi yang dirancang khusus untuk serat optik berkapasitas tinggi dan arsitektur pengalihan grup core terpusat.
+ Mengapa MPO-8 digunakan alih-alih MPO-12 standar?
Transceiver 400G NDR dan 800G XDR modern menggunakan optik paralel 4-jalur atau 8-jalur. Penyelarasan MPO 8-serat sangat cocok dengan konfigurasi 4x Tx dan 4x Rx. Menggunakan trunk MPO aktif 8-serat menghilangkan serat ‘gelap’ atau terbuang dalam fabric cluster.
+ Apa pentingnya polesan APC (Angled Physical Contact)?
Sinyal 100G-PAM4 berkecepatan tinggi sangat sensitif terhadap pantulan balik. Sudut 8 derajat dari konektor APC memastikan cahaya yang dipantulkan diserap ke dalam kelongsong serat, menjaga Optical Return Loss (ORL) tinggi yang diperlukan untuk pelatihan AI bebas kesalahan.
+ Bagaimana kepadatan serat berdampak pada ruang AI berpendingin cairan?
Bahkan dengan baki berpendingin cairan, udara masih harus bersirkulasi untuk mengelola panas sekunder. Menggunakan kabel SmartRibbon berdensitas tinggi secara signifikan mengurangi diameter kabel, memastikan bahwa pengkabelan fisik tidak menghalangi aliran udara atau manifold pendingin cairan.
+ Apa batasan jarak untuk pengkabelan tingkat SU?
Multimode (OM4/OM5) dibatasi hingga 50 meter untuk 400G/800G. Untuk tautan Spine-ke-Core terpusat yang melebihi ini, serat Single-mode G.657.A1 wajib untuk mendukung jangkauan lebih jauh tanpa degradasi sinyal.
+ Bisakah saya menggunakan kabel outdoor standar untuk tulang punggung pusat data AI?
Tidak. Ruang AI dalam ruangan membutuhkan LSZH (Low Smoke Zero Halogen), Riser, atau Plenum untuk memenuhi peraturan keselamatan kebakaran yang diperlukan tergantung pada peraturan setempat. Untuk jalur berdensitas tinggi, kabel indoor SlimCORE khusus menyediakan jumlah helai yang diperlukan dalam diameter yang lebih kecil.
+ Apa manfaat pigtail yang diakhiri pabrik dalam SU?
Pigtail serat optik kabel MPO memungkinkan penyambungan fusi massal cepat pada lapisan Spine atau Core. Terminasi yang dikontrol pabrik di satu ujung ini memberikan manfaat pra-terminasi, sementara ujung ’tumpul’ memungkinkan fleksibilitas untuk disesuaikan dengan panjang yang dibutuhkan di lokasi.

Arsitekkan Pabrik AI Anda

ScaleFibre menyediakan solusi pengkabelan pra-terminasi untuk penyebaran NVIDIA DGX SuperPOD.

Hubungi Kami

Dapatkan detail tentang trunk serat tinggi untuk NVIDIA DGX SU Anda.