NVIDIA A100 ve A800 PCIe 4.0 Karşılaştırması

NVIDIA A100 Tensor Core GPU, yapay zeka, veri analitiği ve yüksek performanslı bilgi işlem (HPC) uygulamaları için dünyanın en yüksek performanslı elastik veri merkezlerine güç sağlamak için her ölçekte benzersiz hızlanma sunar. NVIDIA veri merkezi platformunun motoru olan A100, önceki NVIDIA Volta™ nesline göre 20 kata kadar daha yüksek performans sağlar. A100, esnek veri merkezlerinin değişen iş yükü taleplerine dinamik olarak uyum sağlamasına olanak tanıyan birleşik bir platform sağlayarak, Çoklu Örnek GPU (MIG) ile verimli bir şekilde ölçeklendirilebilir veya yedi izole GPU örneğine bölünebilir.

NVIDIA A100 Tensor Core teknolojisi, her iş yükü için tek bir hızlandırıcı sağlayarak çok çeşitli matematik hassasiyetlerini destekler. En yeni nesil A100 80GB, GPU belleğini ikiye katlar ve saniyede 2 terabayt (TB/sn) ile dünyanın en hızlı bellek bant genişliğini sunarak en büyük modeller ve en büyük veri kümeleri için çözüme ulaşma süresini hızlandırır.

A100, NVIDIA NGC™ kataloğundan donanım, ağ, yazılım, kitaplıklar ve optimize edilmiş AI modelleri ve uygulamaları genelinde yapı taşlarını içeren eksiksiz NVIDIA veri merkezi çözümünün bir parçasıdır. Veri merkezleri için en güçlü uçtan uca yapay zeka ve HPC platformunu temsil eden bu platform, araştırmacıların gerçek dünyaya ait sonuçlar elde etmesine ve çözümleri geniş ölçekte üretime yerleştirmesine olanak tanır.

• NVIDIA Amper MimarisiBir A100 GPU’yu daha küçük örneklere bölmek için MIG veya büyük ölçekli iş yüklerini hızlandırmak için birden çok GPU’yu bağlamak için NVLink kullanarak A100, en küçük işten en büyük çok düğümlü iş yüküne kadar farklı boyutlardaki hızlandırma ihtiyaçlarını kolaylıkla karşılayabilir. A100’ün çok yönlülüğü, BT yöneticilerinin veri merkezlerindeki her GPU’nun faydasını günün her saati maksimize edebileceği anlamına gelir.
• Üçüncü Nesil Tensör ÇekirdekleriNVIDIA A100, 312 teraFLOPS (TFLOPS) derin öğrenme performansı sunar. Bu, NVIDIA Volta GPU’lara kıyasla derin öğrenme eğitimi için saniyede 20 kat Tensor kayan nokta işlemi (FLOPS) ve derin öğrenme çıkarımı için saniyede 20 kat Tensor tera işlemi (TOPS) demektir.
• Yeni Nesil NVLinkA100’deki NVIDIA NVLink, önceki nesle kıyasla 2 kat daha yüksek verim sunar. NVIDIA NVSwitch ile birleştirildiğinde, 16 adede kadar A100 GPU, tek bir sunucuda mümkün olan en yüksek uygulama performansını ortaya çıkararak saniyede 600 gigabayta (GB/sn) kadar hızla birbirine bağlanabilir. NVLink, HGX A100 sunucu kartları aracılığıyla A100 SXM GPU’larda ve 2 GPU’ya kadar bir NVLink Köprüsü aracılığıyla PCIe GPU’larda mevcuttur.
• Çoklu Örnek GPU (MIG)Bir A100 GPU, kendi yüksek bant genişliğine sahip bellekleri, önbellekleri ve bilgi işlem çekirdekleriyle donanım düzeyinde tamamen izole edilmiş yedi adede kadar GPU örneğine bölünebilir. MIG, geliştiricilere tüm uygulamaları için çığır açan hızlandırma erişimi sağlar ve BT yöneticileri, her iş için doğru boyutta GPU hızlandırması sunarak kullanımı optimize edebilir ve erişimi her kullanıcı ve uygulamaya genişletebilir.
• Yüksek Bant Genişliğine Sahip Bellek (HBM2E)80 GB’a kadar HBM2e ile A100, 2 TB/sn üzerinde dünyanın en hızlı GPU bellek bant genişliğini ve %95 DRAM kullanım verimliliğini sunar. A100, önceki nesle göre 1,7 kat daha yüksek bellek bant genişliği sunar.
• Yapısal SeyreklikAI ağlarının milyonlarca ila milyarlarca parametresi vardır. Doğru tahminler için bu parametrelerin hepsine ihtiyaç yoktur ve bazıları, doğruluktan ödün vermeden modelleri “seyrek” hale getirerek sıfırlara dönüştürülebilir. A100’deki Tensör Çekirdekleri, seyrek modeller için 2 kata kadar daha yüksek performans sağlayabilir. Seyreklik özelliği yapay zeka çıkarımına daha kolay fayda sağlarken, model eğitiminin performansını da iyileştirebilir.

Aşağıdaki tablo, NVIDIA A100 GPU özelliklerini listeler.