NVIDIA GH200, firmanın paylaştığı bültene göre en karışık ve yüklü üretken suni zeka harekâtlarının üstesinden gelebilecek, vektör, önerici ve büyük çaplı dil modelleri için kullanılabilecek. Öte yandan yonga, firmanın şu anki en güçlü suni zeka yongayı H100 ile aynı grafik harekâtçısını taşıyacak.
Yonga, H100 grafik operasyoncusuyla aynı operasyoncuyu taşıyacak olsa da bu üniteden 3,5 kat daha fazla hafıza 282 GB sunacak. Bu hafıza, H100’de bulunan dördüncü nesil Tensor çekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yüksek harekât eforu sunacak.
Ayrıca değişen şey yalnızca hafıza ölçüyü olmayacak. GH200 ile yeni HBM3e hafıza da kullanıma sunulacak. Bu hafıza hakkında henüz bilgiler paylaşılmamış olsa da bir evvelki nesile göre %50 daha süratli olacak.
NVIDIA’nın H100 grafik üniteyi, saniyede 3,35 TB’a kadar bilgi aktarım sürati sunabiliyor. Bunu, standart harcayıcılar için günümüzün en güçlü grafik harekâtçısı karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB’a kadar aktarım destekliyor. GH200’de ise bu rakamın saniyede 10 TB’a çıkacak.
Üstelik NVIDIA’nın suni zeka yongaları tek başına kullanılan yongalar da değil. Firmanın “NVLink Switch System” teknolojisi sayesinde aynı anda 256 adet harekâtçı birbiriyle irtibatlı bir biçimde kullanılabiliyor. Saniyede 850 TB’dan fazla bilgi aktarımı yapılabiliyor H100 ivedisi bilgilerine göre. Böylece trilyonlarca parametreye sahip suni zeka sistemleri çalıştırılıyor, eğitiliyor.
