针对大型模型提供高达 9 倍的 AI 训练速度

多专家模型（3000 亿个参数）通过结合可提供 900 GB/s GPU 间互连的互联模式、可跨节点加速每个 AI GPU 通信的切换系统，为小型企业到大规模统一 AI GPU 集群提供高效的可扩展性。

超大模型的 AI 推理性能提升高达 30 倍

AI 正在利用一系列广泛的神经网络解决范围同样广泛的一系列商业挑战。出色的 AI 推理加速器不仅要提供非凡性能，还要利用通用性加速这些神经网络,多项先进技术可将推理速度提高 30 倍，并提供超低的延迟,减少内存占用并提高性能，同时仍能保持大型语言模型的准确性。

百亿亿次级高性能计算

应用性能提升高达 7 倍

每秒浮点运算 (FLOPS) 提升 N倍， 提供 60 teraFLOPS 的 FP64 浮点运算。融合 AI 的高性能计算应用可以利用 TF32 精度实现 1 petaFLOP 的吞吐量，从而在不更改代码的情况下，实现单精度矩阵乘法运算,在动态编程算法上比仅使用传统双路 CPU 的服务器快 40 +倍

AI GPU加速计算的数量级飞跃

Cloud Computing Center

通过最为先进 AI GPU，在每个工作负载中保障出色性能、可扩展性和安全性。使用并联系统，可连接多达 256 个 GPU 来加速百亿亿级 (Exascale) 工作负载，另外可通过专用的 Transformer 引擎来处理万亿参数语言模型。与上一代产品相比，AI GPU 的综合技术创新可以将大型语言模型的速度提高 30 倍，从而提供业界领先的对话式 AI

Cloud Hosting Service

企业 每天都在产生和收集远胜以往的海量数据，而缺少 GPU 加速分析则会错失海量信息所蕴含的机遇。 搭载最新AI GPU 的加速服务器可以提供相应的计算能力，并利用 每个 GPU 3 TB/s 的显存带宽和可扩展性，凭借高性能应对数据分析以及通过扩展支持庞大的数据集。通过结合使用GPU 加速的  AI GPU算力中心平台能够以出色的性能和效率加速这些大型工作负载

算力中心主管设法更大限度地提高数据中心计算资源的利用率（峰值和平均值）。他们通常会通过动态重新配置来合理调整计算资源，从而满足正在处理的工作负载的需求。通过AI GPU 技术通过安全地将每个 GPU 分为 7 个独立实例，更大限度地提高每个 GPU 的利用率。凭借机密计算支持，AI GPU 可实现端到端多租户的安全使用，非常适合云服务提供商 (CSP) 环境。 基础架构管理员可对其 GPU 加速的基础架构作标准化处理，同时能够灵活地为AI  GPU 资源配置更精细的粒度，从而安全地为开发者提供正确的加速计算量，并确保其所有 GPU 资源得到充分利用。