深度學(xué)習(xí)訓(xùn)練
當(dāng)今的 AI 模型面臨著對(duì)話式 AI 等更高層次的挑戰(zhàn)，這促使其復(fù)雜度呈爆炸式增長(zhǎng)。訓(xùn)練這些模型需要大規(guī)模的計(jì)算能力和可擴(kuò)展性。
NVIDIA A800 Tensor Core 借助 Tensor 浮點(diǎn)運(yùn)算 (TF32) 精度，可提供比 NVIDIA Volta 高 20 倍之多的性能，并且無需更改代碼；若使用自動(dòng)混合精度和 FP16，性能可進(jìn)一步提升 2 倍。與 NVIDIA? NVLink?、NVIDIA NVSwitch?、PCIe 4.0、NVIDIA? InfiniBand? 和 NVIDIA Magnum IO?SDK 結(jié)合使用時(shí)，它能擴(kuò)展到數(shù)千個(gè) A800 GPU。
2048 個(gè) A800 GPU 可在一分鐘內(nèi)成規(guī)模地處理 BERT 之類的訓(xùn)練工作負(fù)載，這是非常快速的解決問題速度。
對(duì)于具有龐大數(shù)據(jù)表的超大型模型（例如深度學(xué)習(xí)推薦模型 [DLRM]），A800 80GB 可為每個(gè)節(jié)點(diǎn)提供高達(dá) 1.3TB 的統(tǒng)一顯存，而且吞吐量比 A800 40GB 多高達(dá) 3 倍。
NVIDIA 的領(lǐng)先地位在MLPerf 這個(gè)行業(yè)級(jí) AI 訓(xùn)練基準(zhǔn)測(cè)試中得到印證，創(chuàng)下多項(xiàng)性能紀(jì)錄。
深度學(xué)習(xí)推理
A800 引入了突破性的功能來優(yōu)化推理工作負(fù)載。它能在從 FP32 到 INT4 的整個(gè)精度范圍內(nèi)進(jìn)行加速。多實(shí)例 GPU (MIG) 技術(shù)允許多個(gè)網(wǎng)絡(luò)同時(shí)基于單個(gè) A800 運(yùn)行，從而優(yōu)化計(jì)算資源的利用率。在 A800 其他推理性能增益的基礎(chǔ)之上，僅結(jié)構(gòu)稀疏支持一項(xiàng)就能帶來高達(dá)兩倍的性能提升。
在 BERT 等先進(jìn)的對(duì)話式 AI 模型上，A800 可將推理吞吐量提升到高達(dá) CPU 的 249 倍。
在受到批量大小限制的極復(fù)雜模型（例如用于自動(dòng)語音識(shí)別用途的 RNN-T）上，顯存容量有所增加的 A800 80GB 能使每個(gè) MIG 的大小增加一倍，并提供比 A800 40GB 高 1.25 倍的吞吐量。
NVIDIA 產(chǎn)品的出色性能在MLPerf 推理測(cè)試中得到驗(yàn)證。A800 再將性能提升了 20 倍，進(jìn)一步擴(kuò)大了這種性能優(yōu)勢(shì)。
高性能計(jì)算
為了獲得新一代的發(fā)現(xiàn)成果，科學(xué)家們希望通過仿真來更好地了解我們周圍的世界。
NVIDIA A800 采用雙精度 Tensor Core，實(shí)現(xiàn)了自 GPU 推出以來高性能計(jì)算性能的巨大飛躍。結(jié)合 80GB 的超快 GPU 顯存，研究人員可以在 A800 上將 10 小時(shí)雙精度仿真縮短到 4 小時(shí)以內(nèi)。HPC 應(yīng)用還可以利用 TF32 將單精度、密集矩陣乘法運(yùn)算的吞吐量提高高達(dá) 10 倍。
對(duì)于具有超大數(shù)據(jù)集的高性能計(jì)算應(yīng)用，顯存容量增加的 A800 80GB 可在運(yùn)行材料仿真 Quantum Espresso 時(shí)將吞吐量提升高達(dá) 2 倍。極大的顯存容量和超快速的顯存帶寬使 A800 80GB 非常適合用作新一代工作負(fù)載的平臺(tái)。
高性能數(shù)據(jù)分析
數(shù)據(jù)科學(xué)家需要能夠分析和可視化龐大的數(shù)據(jù)集，并將其轉(zhuǎn)化為寶貴見解。但是，由于數(shù)據(jù)集分散在多臺(tái)服務(wù)器上，橫向擴(kuò)展解決方案往往會(huì)陷入困境。
搭載 A800 的加速服務(wù)器可以提供必要的計(jì)算能力，并能利用大容量顯存、超過 2 TB/s 的顯存帶寬以及通過 NVIDIA? NVLink? 和 NVSwitch? 實(shí)現(xiàn)的可擴(kuò)展性，處理這些工作負(fù)載。通過結(jié)合 InfiniBand、NVIDIA Magnum IO?和 RAPIDS?開源庫套件（包括用于執(zhí)行 GPU 加速的數(shù)據(jù)分析的 RAPIDS Accelerator for Apache Spark），NVIDIA 數(shù)據(jù)中心平臺(tái)能夠加速這些大型工作負(fù)載，并實(shí)現(xiàn)超高的性能和效率水平。
在大數(shù)據(jù)分析基準(zhǔn)測(cè)試中，A800 80GB 提供的見解吞吐量比 A800 40GB 高兩倍，因此非常適合處理數(shù)據(jù)集大小急增的新型工作負(fù)載。
為企業(yè)提高資源利用率
A800 結(jié)合MIG 技術(shù)可以更大限度地提高 GPU 加速的基礎(chǔ)設(shè)施的利用率。借助 MIG，A800 GPU 可劃分為多達(dá) 7 個(gè)獨(dú)立實(shí)例，讓多個(gè)用戶都能使用 GPU 加速功能。借助 A800 40GB，每個(gè) MIG 實(shí)例可分配多達(dá) 5GB，而隨著 A800 80GB 顯存容量的增加，此大小可翻倍至 10GB。
MIG 與 Kubernetes、容器和基于服務(wù)器虛擬化平臺(tái)的服務(wù)器虛擬化配合使用。MIG 可讓基礎(chǔ)設(shè)施管理者為每項(xiàng)作業(yè)提供大小合適的 GPU，同時(shí)確保服務(wù)質(zhì)量 (QoS)，從而擴(kuò)大加速計(jì)算資源的影響范圍，以覆蓋每位用戶。
注：與 NVIDIA 產(chǎn)品相關(guān)的圖片或視頻（完整或部分）的版權(quán)均歸 NVIDIA Corporation 所有。
