Nvidia hgx b200 mengurangi intensitas emisi karbon yang diwujudkan

[ad_1]

NVIDIA HGX B200 merevolusi komputasi yang dipercepat dengan membuka kinerja dan efisiensi energi yang belum pernah terjadi sebelumnya. Posting ini menunjukkan bagaimana HGX B200 mengungguli pendahulunya NVIDIA HGX H100 dalam metrik lingkungan, termasuk berkurangnya intensitas karbon, melalui perbandingan ringkasan produk karbon (PCF) yang baru -baru ini diterbitkan.

Secara khusus, analisis data PCF mengungkapkan bahwa HGX B200 menunjukkan pengurangan 24% dari emisi karbon yang diwujudkan di seluruh beban kerja besar seperti pelatihan dan inferensi AI.

HGX B200 dan HGX H100 adalah platform komputasi yang dipercepat masing-masing terdiri dari delapan GPU, dengan interkoneksi berkecepatan tinggi melalui NVIDIA NVLink dan NVIDIA NVSWITCH untuk mempercepat kinerja AI pada skala. Keduanya dirancang untuk komputasi kinerja tinggi (HPC) dan beban kerja analisis data pendukung.

Bagaimana NVIDIA HGX B200 mengurangi emisi karbon?

NVIDIA HGX B200 bergantung pada GPU NVIDIA Blackwell B200 yang ditingkatkan, yang dirancang untuk menawarkan kinerja AI yang lebih baik secara dramatis. B200 GPUs incorporate 180 GB of HBM3E memory—more than double the memory of the NVIDIA HGX H100 and other performance enhancing features, including a second-generation Transformer Engine that introduces FP4 alongside FP8, fifth‑generation NVLink/NVSwitch (up to 1.8 TB/s per‑GPU and 14.4 TB/s aggregate bandwidth), to boost higher throughput at presisi lebih rendah.

Throughput HGX B200 adalah 2.3x lebih cepat (FP16) daripada HGX H100. Kinerja komputasi yang ditingkatkan ini juga lebih hemat energi. Untuk inferensi AI, HGX B200 dapat sebanyak 15x lebih hemat energi. Itu adalah pengurangan energi 93% untuk beban kerja inferensi yang sama.

HGX B200 juga menghasilkan lebih sedikit emisi terkait manufaktur per jepit komputasi. Secara khusus, intensitas karbon yang diwujudkan untuk komputasi berkurang dari 0,66 GCO2E per exaflop dengan HGX H100 menjadi 0,50 GCO2E per exaflop dengan HGX B200 (diperkirakan berdasarkan presisi FP16). Ini adalah penurunan 24% secara keseluruhan antara dua generasi. Ini diperkirakan berdasarkan data PCF dan jumlah total kegagalan pada presisi FP16 yang dieksekusi selama masa pakai produk.

Grafik batang yang menunjukkan perangkat keras yang diwujudkan intensitas karbon komputasi di GCO2E/exaflop. HGX H100 menghasilkan 0,66 GC02E/exaflop dan HGX B200 menghasilkan 0,50 GCO2E/exaflop karbon yang diwujudkan. Penurunan 24% terjadi antara generasi. Ini diperkirakan berdasarkan data PCF dan jumlah total kegagalan pada presisi FP16 yang dieksekusi selama masa pakai produk.Grafik batang yang menunjukkan perangkat keras yang diwujudkan intensitas karbon komputasi di GCO2E/exaflop. HGX H100 menghasilkan 0,66 GC02E/exaflop dan HGX B200 menghasilkan 0,50 GCO2E/exaflop karbon yang diwujudkan. Penurunan 24% terjadi antara generasi. Ini diperkirakan berdasarkan data PCF dan jumlah total kegagalan pada presisi FP16 yang dieksekusi selama masa pakai produk.
Gambar 1. HGX B200 menghasilkan pengurangan 24% dalam intensitas karbon komputasi yang dibubarkan perangkat keras dibandingkan dengan HGX H100

Selain itu, ada penurunan bahan dan komponen – kategori penghasil emisi tertinggi untuk setiap alas tiang – antara HGX B200 dan HGX H100. Pengurangan yang paling menonjol adalah untuk komponen termal, IC, dan memori.

Grafik batang yang menunjukkan perbandingan kerusakan material yang diukur dalam MGCO2E/exaflop (presisi FP-16). Untuk HGX H100 angka adalah memori 276, ICS 164, komponen termal 118, komponen elektromekanis 26, PCB 4.6, komponen umum 5.3, komponen mekanik 3.9, dan interkoneksi 2.6. Untuk HGX B200 angka -angka adalah memori 245, ICS 140, komponen termal 60, komponen elektromekanis 10, PCB 5.5, komponen umum 5.0, komponen mekanik 1.5, interkoneksi 1.5. Ini diperkirakan berdasarkan data PCF dan jumlah total kegagalan yang dieksekusi selama masa pakai produk.Grafik batang yang menunjukkan perbandingan kerusakan material yang diukur dalam MGCO2E/exaflop (presisi FP-16). Untuk HGX H100 angka adalah memori 276, ICS 164, komponen termal 118, komponen elektromekanis 26, PCB 4.6, komponen umum 5.3, komponen mekanik 3.9, dan interkoneksi 2.6. Untuk HGX B200 angka -angka adalah memori 245, ICS 140, komponen termal 60, komponen elektromekanis 10, PCB 5.5, komponen umum 5.0, komponen mekanik 1.5, interkoneksi 1.5. Ini diperkirakan berdasarkan data PCF dan jumlah total kegagalan yang dieksekusi selama masa pakai produk.
Gambar 2. HGX B200 memberikan penurunan emisi yang signifikan untuk bahan dan komponen dalam berbagai kategori dibandingkan dengan HGX H100

Kombinasi kekuatan komputasi hemat energi HGX B200 dan mengurangi intensitas emisi yang terkandung dapat menyebabkan penurunan substansial emisi, terutama selama fase penggunaannya untuk beban kerja yang besar seperti pelatihan dan inferensi AI.

Dampak karbon operasional

Sementara ini berkurangnya intensitas karbon yang terkandung mencerminkan intensitas karbon hulu yang lebih rendah untuk HGX B200, peningkatan intensitas karbon hilir bahkan lebih jelas.

Misalnya, HGX B200 diproyeksikan untuk memberikan peningkatan 10x dalam efisiensi inferensi untuk model Deepseek-R1, yang diterjemahkan menjadi pengurangan 90% dalam emisi karbon operasional dibandingkan dengan HGX H100 untuk emisi karbon operasional GCO2E untuk memproses 1 juta token inferensi (100 TPS/pengguna).

Perhatikan bahwa data ini dihitung berdasarkan 2023 faktor emisi IEA yang ditimbang oleh konsumsi energi pusat data regional. Faktor emisi termasuk emisi hulu dan kerugian T&D yang terkait dengan produksi listrik.

Grafik batang yang menunjukkan emisi karbon operasional di kgco2e/juta token untuk inferensi Deepseek-R1. HGX H100 menghasilkan 16 kgco2e/juta token dan HGX B200 menghasilkan 1,6 kgco2e.Grafik batang yang menunjukkan emisi karbon operasional di kgco2e/juta token untuk inferensi Deepseek-R1. HGX H100 menghasilkan 16 kgco2e/juta token dan HGX B200 menghasilkan 1,6 kgco2e.
Gambar 3. Pengurangan 90% dalam emisi karbon operasional diamati antara generasi

Metodologi dan proses pengumpulan data

Kedua ringkasan PCF yang diterbitkan secara eksternal sangat bergantung pada data primer dari pemasok yang dikumpulkan untuk lebih dari 90% dari kedua produk berdasarkan berat, termasuk komposisi material dan konsumsi energi produksi.

Sumber sekunder diintegrasikan dengan data ini, seperti alat IMEC.Netzero untuk emisi terkait fabrikasi, serta database Ecoinvent 3.10 dan Sphera LCA (database profesional 2024 dan database ekstensi XI: Electronics 2024) untuk bahan pemodelan, transportasi, dan energi.

Diagram visual dari proses yang dilakukan untuk kedua laporan jejak karbon produk. Ringkasan keduanya didasarkan pada analisis cradle-to-gate yang terdiri dari inventaris emisi yang dihasilkan untuk ekstraksi dan penyempurnaan bahan baku, pembuatan komponen, dan perakitan.Diagram visual dari proses yang dilakukan untuk kedua laporan jejak karbon produk. Ringkasan keduanya didasarkan pada analisis cradle-to-gate yang terdiri dari inventaris emisi yang dihasilkan untuk ekstraksi dan penyempurnaan bahan baku, pembuatan komponen, dan perakitan.
Gambar 4. Lingkup jejak karbon produk cradle-to-gate HGX B200

Ringkasan PCF ini selaras dengan ISO Standard14040 dan 14044 pada penilaian siklus hidup dan ditinjau secara kritis sesuai dengan ISO Standard 14067 pada jejak kaki karbon.

Masa depan komputasi berkelanjutan

NVIDIA bertujuan untuk mengurangi jejak karbon produknya dengan setiap produk baru yang diproduksi, sambil memberikan kemajuan inovatif dalam kinerja. Praktik ini dalam transparansi melalui ringkasan PCF terperinci akan meningkatkan pemahaman tentang dampak komputasi yang dipercepat.

NVIDIA berkomitmen untuk bekerja untuk menerbitkan data tambahan yang dapat diandalkan tentang dampak lingkungan dari produk NVIDIA. NVIDIA akan terus berinovasi menuju masa depan komputasi berkelanjutan dan pengembangan AI, tanpa berkompromi pada kinerja dan skala.

Untuk mempelajari lebih lanjut, baca ringkasan jejak karbon produk untuk NVIDIA HGX B200.

[ad_2]

Nvidia hgx b200 mengurangi intensitas emisi karbon yang diwujudkan

Leave a Reply

Your email address will not be published. Required fields are marked *