各種 AI 工作負載的通用系統
NVIDIA DGX A100 是適用于所有 AI 基礎架構(包括分析、訓練、推理基礎架構)的通用系統。該系統設定了新的計算密度,將 5 petaFLOPS 的 AI 性能裝進 6U 尺寸,用一個平臺代替所有 AI 工作負載的傳統基礎架構孤島。
DGXperts:集中獲取 AI 專業知識
NVIDIA DGXperts 是一個擁有 16000 多位 AI 專業人士的團隊,這些團隊成員在過去十年間積累了豐富的經驗,能夠幫助您更大限度地提升 DGX 投資價值。
更快的加速體驗
NVIDIA DGX A100 是在采用 NVIDIA A100 Tensor Core GPU 的系統。通過集成八塊 A100 GPU with up to 640GB of GPU memory,此系統可出色完成加速任務,并可針對 軟件和整套端到端 NVIDIA 數據中心解決方案進行全面優化。
的數據中心可擴展性
NVIDIA DGX A100 內置 Mellanox ConnectX-6 VPI HDR InfiniBand 和以太網適配器,其雙向帶寬峰值為 500Gb/s。此優勢是使 DGX A100 成為 NVIDIA DGX SuperPOD™ 等大型 AI 集群基礎構件的諸多因素之一,也是成為可擴展 AI 基礎架構企業藍圖的原因之一。
NVIDIA A100 Tensor Core GPU
NVIDIA A100 Tensor Core GPU 可針對 AI、數據分析和高性能計算 (HPC) 實現出色的加速,應對極其嚴峻的計算挑戰。借助第三代 NVIDIA Tensor Core 提供的巨大性能提升,A100 GPU 可高效擴展至數千塊,或在使用多實例 GPU 時,可將其分配為七個較小的專用實例對各種規模工作負載進行加速。
多實例 GPU (MIG)
借助 MIG,可將 DGX A100 中的八塊 A100 GPU 配置為多達 56 個 GPU 實例,每個實例都具有自己的高帶寬內存,高速緩存和計算核心,*隔離。這使管理員可合理調配 GPU 資源,確保多個工作負載的服務質量。
新一代 NVLink 和 NVSwitch
DGX A100 中的第三代 NVIDIA® NVLink® 使 GPU 至 GPU 直接帶寬提高一倍,達到600 GB/s,幾乎比 PCIe 4.0 高出 10 倍。DGX A100 還采用新一代 NVIDIA NVSwitch™,其速度是前一代的兩倍。
Mellanox ConnectX-6 VPI HDR InfiniBand
DGX A100 采用 Mellanox ConnectX-6 VPI HDR InfiniBand/以太網適配器,每個適配器的運行速度高達200 Gb/s,為大規模 AI 工作負載創建高速網絡結構。
優化的軟件堆棧
DGX A100 集成經過測試和優化的 DGX 軟件堆棧,包括通過 AI 調整的基本操作系統、所有必需的系統軟件以及 GPU 加速應用、預訓練的模型以及 NGC™ 提供的更多功能。
內置安全機制
DGX A100 采用多層方法為 AI 部署提供了大的安全性,該方法可以保護所有主要的硬件和軟件組件,包括自加密驅動、簽名軟件容器、安全管理和監控等。