Notice: Undefined variable: anahtar_kelimeler in /home/android/teknolojici.com/wp-content/themes/seub/functions-74.php on line 1735
Warning: Invalid argument supplied for foreach() in /home/android/teknolojici.com/wp-content/themes/seub/functions-74.php on line 1735
NVIDIA, Blackwell B200 işlemcisi için ilk MLPerf 4.1 sonuçlarını duyurdu. Yapılan testlerde, Blackwell GPU’nun Hopper mimarisine dayanan H100’den dört kat daha fazla performans sunduğu görüldü.
Detaylar
NVIDIA’nın açıklamasına göre, Blackwell tabanlı B200 GPU, saniyede 10,755 token üreten bir sunucu testinde ve saniyede 11,264 token üreten çevrimdışı bir testte başarılı sonuçlar elde etti. Bu sonuçlar, MLPerf Llama 2 70B benchmark testinde dört H100 GPU’nun performansıyla benzerlik gösterdi ve NVIDIA’nın iddialarını doğruladı: Blackwell, H100’den 3,7 ila 4 kat daha hızlı çalışıyor.
Ancak, bu performans artışının bir kısmı, Blackwell’in beşinci nesil Tensor Çekirdeklerinin desteklediği FP4 (dört bitlik kayan nokta) hassasiyeti kullanmasından kaynaklanıyor. Öte yandan, H100 sadece FP8 (sekiz bitlik kayan nokta) formatını destekliyor. FP4, FP8’e göre iki kat daha yüksek bir verimlilik sağladığı için Blackwell’in performansında belirleyici bir faktör olmuştur.
Karşılaştırma ve Değerlendirme
NVIDIA’ın tek bir B200 GPU’yu dört H100 GPU ile karşılaştırmasının objektifliği sorgulanabilir. Genellikle, tek bir GPU performansı, çoklu GPU performansından daha iyi olabilir. Ayrıca, H100 için tek GPU sonuçları MLPerf 4.1 kapsamında belirtilmemiş, bu da karşılaştırmanın tam objektif olmadığını gösterebilir. Tek bir H200 GPU ise saniyede 4,488 token üretebiliyor ki bu da B200’ün sadece 2,5 kat daha hızlı olduğunu göstermektedir.
Bellek kapasitesi ve bant genişliği de performans farklılıklarında önemli bir rol oynamaktadır. Test edilen B200 GPU, 180 GB HBM3E bellek kapasitesine sahipken, H100 SXM 80 GB HBM (bazı konfigürasyonlarda 96 GB’a kadar) bellek kapasitesine sahiptir. H200 ise 96 GB HBM3 ve 144 GB’a kadar HBM3E bellek kapasitesi sunmaktadır.
| Model | # of GPUs | Offline | Server | per GPU Offline | per GPU Server |
|---|---|---|---|---|---|
| NVIDIA B200 180GB HBM3E | 1 | 11264 | 10755 | 11264 | 10755 |
| NVIDIA H100 80GB HBM3 | 4 | 10700 | 9522 | 2675 | 2381 |
| NVIDIA H200 141GB HBM3E | 1 | 4488 | 4202 | 4488 | 4202 |
| NVIDIA H200 141GB HBM3E | 8 | 32124 | 29739 | 4016 | 3717 |
Sonuç ve Değerlendirme
NVIDIA şu an için Blackwell B200 performansını sadece MLPerf 4.1’deki Llama 2 70B modeli üzerindeki üretken AI benchmark testiyle paylaşmış durumda. Şirketin diğer testlerde elde ettiği performansı henüz açıklamamış olması, farklı testler üzerinde çalıştığı veya başka sebeplerden kaynaklanıyor olabilir. Sizce NVIDIA’nın Blackwell B200 performansı nasıl? Görüşlerinizi yorumlarda paylaşabilirsiniz.
0 Yorum