NVIDIA’dan 120 GB’lık ekran kartı!

NVIDIA, Hopper teknolojisini veri merkezi araçları için üretti. Şirket, yüksek performanslı bilgi işlem sistemlerini birinci sınıf Hopper H100 ekran kartı ile donatıyor. Hatta NVIDIA CEO’su tanıtım sırasında yalnızca 20 adet H100 GPU ile tüm dünyanın internet trafiğinin kontrol edebileceğini iddia etmişti.

NVIDIA, bilgi işlem mimarisi konusunda iddiasını ortaya koyuyor

16 bin 896 veya 14 bin 592 CUDA çekirdeğine sahip olan bu mimari yüksek performanslı bilgi işlem sistemleri için tasarlanmış durumda. Her iki verisyon da 5120 bit arabirimle gelirken, HBM3 belleği kullanan SXM5 sürümü 3.0 Gbps ve PCIe sürümü ise HBM2E belleği ile 2.0 Gbps hız sunuyor.

Her iki sürüm de şimdiye kadar 80 GB’lık kapasite ile sunuluyordu. Ancak yakın zamanda bu durum değişebilir. Gelen bilgilere göre NVIDIA, 120 GB’lık yeni bir Hopper H100 ekran kartı ve PCIe sürümü üzerinde çalışıyor.

Çinli “s-ss.cc” isimli internet sitesinden paylaşılan görsele göre, H100 PCIe kartının 120 GB’lık versiyonu yakında kendisini gösterebilir. NVIDIA, yeni versiyon ile 120 GB’lık belleğin yanı sıra daha üst düzey diğer özellikler ile birlikte GH100 yongasının zirvesini temsil etmeyi planlıyor.

Görüntüleri internete sızdıran internet sitesinde yeni versiyonun normal H100 PCIe SKU‘ya göre bellek kapasitesi ve performansta önemli bir yükselme içerebilir. Bu sayede daha karmaşık görevler ve daha performanslı işlemler için NVIDIA imzalı yeni ekran kartı tercih edilebilir.

HPC iş yüklerinin boyutu ve karmaşıklığı arttıkça, daha iyi performans için daha yük bellek ihtiyacı doğuyor. Büyük Bilgisayar Dil Modellerindeki (LLM’ler) son gelişmelerle birlikte, yapay zeka iş yükleri eğitim, için çoğu NVIDIA H100 gibi GPU’larda trilyonlarca parametre kullanılıyor. Bu tür durumlarda yüksek bellek oldukça fazla önem arz ediyor.

Peki siz NVIDIA‘nın yüksek performanslı bilgi işlem sistemleri için ürettiği ekran kartları hakkında ne düşünüyorsunuz? Görüşlerinizi yorumlar kısmında bizimle paylaşabilirsiniz.