英伟达 h100 首次亮相 mlperf，测试结果刷新纪录-凯发游戏

　　北京时间 9 月 9 日，mlcommons 社区发布了最新的 mlperf 2.1 基准测试结果，新一轮基准测试拥有近 5300 个性能结果和 2400 个功耗测量结果，分别比上一轮提升了 1.37 倍和 1.09 倍，mlperf 的适用范围进一步扩大。

　　阿里巴巴、华硕、azure、壁仞科技、戴尔、富士通、技嘉、h3c、hpe、浪潮、英特尔、krai、联想、moffett、nettrix、neural magic、英伟达、octoml、高通、sapeon 和 supermicro 均是本轮测试的贡献者。

　　其中，英伟达表现依然亮眼，首次携 h100 参加 mlperf 测试，并在所有工作负载中刷新世界纪录。

　　h100 打破世界记录，较 a100 性能提升 4.5 倍

　　英伟达于今年 3 月份发布基于新架构 nvidia hopper 的 h100 gpu，与两年前推出的 nvidia ampere 架构相比，实现了数量级的性能飞跃。黄仁勋曾在 gtc 2022 上表示，20 个 h100 gpu 便可以承托相当于全球互联网的流量，能够帮助客户推出先进的推荐系统及实时运行数据推理的大型语言模型。

　　令一众 ai 从业者期待的 h100 原本定于 2022 年第三季度正式发货，目前处于接受预定状态，用户的真实使用情况和 h100 的实际性能尚不可知，因此可以通过最新一轮的 mlperf 测试得分提前感受 h100 的性能。

　　在本轮测试中，对比 intel sapphire rapids、qualcomm cloud ai 100、biren br104、sapeon x220-enterprise，nvidia h100 不仅提交了数据中心所有六个神经网络模型的测试成绩，且在单个服务器和离线场景中均展现出吞吐量和速度方面的领先优势。

　　以 nvidia a100 相比，h100 在 mlperf 模型规模最大且对性能要求最高的模型之一 —— 用于自然语言处理的 bert 模型中表现出 4.5 倍的性能提升，在其他五个模型中也都有 1 至 3 倍的性能提升。h100 之所以能够在 bert 模型上表现初出色，主要归功于其 transformer engine。

　　其他同样提交了成绩的产品中，只有 biren br104 在离线场景中的 resnet50 和 bert-large 模型下，相比 nvidia a100 有一倍多的性能提升，其他提交成绩的产品均未在性能上超越 a100。

　　而在数据中心和边缘计算类别的场景中，a100 gpu 的测试成绩依然不俗，得益于 nvidia ai 软件的不断改进，与 2020 年 7 月首次亮相 mlperf 相比，a100 gpu 实现了 6 倍的性能提升。

　　追求 ai 通用性，测试成绩覆盖所有 ai 模型

　　由于用户在实际应用中通常需要采用许多不同类型的神经网络协同工作，例如一个 ai 应用可能需要理解用户的语音请求、对图像进行分类、提出建议，然后以语音回应，每个步骤都需要用到不同的 ai 模型。

　　正因如此，mlperf 基准测试涵盖了包括计算机视觉、自然语言处理、推荐系统、语音识别等流行的 ai 工作负载和场景，以便于确保用户获得可靠且部署灵活的性能。这也意味着，提交的测试成绩覆盖的模型越多，成绩越好，其 ai 能力更加具备通用性。

　　在此轮测试中，英伟达 ai 依然是唯一能够在数据中心和边缘计算中运行所有 mlperf 推理工作负载和场景的平台。

　　在数据中心方面，a100 和 h100 都提交了六个模型测试成绩。

　　在边缘计算方面，nvidia orin 运行了所有 mlperf 基准测试，且是所有低功耗系统级芯片中赢得测试最多的芯片。

　　orin 是将 nvidia ampere 架构 gpu 和 arm cpu 内核集成到一块芯片中，主要用于机器人、自主机器、医疗机械和其他形式的边缘嵌入式计算。

　　目前，orin 已经被用在 nvidia jetson agx orin 开发者套件以及机器人和自主系统生成模考，并支持完整的 nvidia ai 软件堆栈，包括自动驾驶汽车平台、医疗设备平台和机器人平台。

　　与 4 月在 mlperf 上的首次亮相相比，orin 能效提高了 50%，其运行速度和平均能效分别比上一代 jetson agx xavier 模块高出 5 倍和 2 倍。

　　追求通用型的 nvidia ai 正在被业界广泛的机器学习生态系统支持。在这一轮基准测试中，有超过 70 项提交结果在 nvidia 平台上运行。例如，microsoft azure 提交了在其云服务上运行 nvidia ai 的结果。