NVIDIA, Blackwell B200 İşlemcisi MLPerf 4.1 Sonuçlarını Paylaştı

NVIDIA, Blackwell B200 işlemcisi için ilk MLPerf 4.1 sonuçlarını duyurdu. Yapılan testlerde, Blackwell GPU’nun Hopper mimarisine dayanan H100’den dört kat daha fazla performans sunduğu görüldü.

Detaylar

NVIDIA’nın açıklamasına göre, Blackwell tabanlı B200 GPU, saniyede 10,755 token üreten bir sunucu testinde ve saniyede 11,264 token üreten çevrimdışı bir testte başarılı sonuçlar elde etti. Bu sonuçlar, MLPerf Llama 2 70B benchmark testinde dört H100 GPU’nun performansıyla benzerlik gösterdi ve NVIDIA’nın iddialarını doğruladı: Blackwell, H100’den 3,7 ila 4 kat daha hızlı çalışıyor.

Ancak, bu performans artışının bir kısmı, Blackwell’in beşinci nesil Tensor Çekirdeklerinin desteklediği FP4 (dört bitlik kayan nokta) hassasiyeti kullanmasından kaynaklanıyor. Öte yandan, H100 sadece FP8 (sekiz bitlik kayan nokta) formatını destekliyor. FP4, FP8’e göre iki kat daha yüksek bir verimlilik sağladığı için Blackwell’in performansında belirleyici bir faktör olmuştur.

Karşılaştırma ve Değerlendirme

NVIDIA’ın tek bir B200 GPU’yu dört H100 GPU ile karşılaştırmasının objektifliği sorgulanabilir. Genellikle, tek bir GPU performansı, çoklu GPU performansından daha iyi olabilir. Ayrıca, H100 için tek GPU sonuçları MLPerf 4.1 kapsamında belirtilmemiş, bu da karşılaştırmanın tam objektif olmadığını gösterebilir. Tek bir H200 GPU ise saniyede 4,488 token üretebiliyor ki bu da B200’ün sadece 2,5 kat daha hızlı olduğunu göstermektedir.

Bellek kapasitesi ve bant genişliği de performans farklılıklarında önemli bir rol oynamaktadır. Test edilen B200 GPU, 180 GB HBM3E bellek kapasitesine sahipken, H100 SXM 80 GB HBM (bazı konfigürasyonlarda 96 GB’a kadar) bellek kapasitesine sahiptir. H200 ise 96 GB HBM3 ve 144 GB’a kadar HBM3E bellek kapasitesi sunmaktadır.

Sonuç ve Değerlendirme

NVIDIA şu an için Blackwell B200 performansını sadece MLPerf 4.1’deki Llama 2 70B modeli üzerindeki üretken AI benchmark testiyle paylaşmış durumda. Şirketin diğer testlerde elde ettiği performansı henüz açıklamamış olması, farklı testler üzerinde çalıştığı veya başka sebeplerden kaynaklanıyor olabilir. Sizce NVIDIA’nın Blackwell B200 performansı nasıl? Görüşlerinizi yorumlarda paylaşabilirsiniz.