Nvidia表示，已通过今年早些时候推出的A100GPU芯片扩大了在MLPerfBenchmark上AI推理的领先优势。 Nvidia在第二版MLPerfInference中赢得了针对数据中心和边缘计算系统的六个应用程序测试中的每一个。这些测试是前两个计算机视觉基准测试的扩展-AI测试现在包括推荐系统，自然语言理解，语音识别和医学成像。行业观察家MoorInsights＆amp; Strategy的HPC和机器学习高级分析师Karl Freund评论说，这与Nvidia的演讲一样令人印象深刻。还应注意，一些原本希望参加MLPerf竞赛的公司没有参加。 。弗洛伊德说：“英伟达在激烈竞争的竞争对手中表现良好。”与（Nvidia）V100（GPU）相比，他们的A100令人惊叹，证明了其增强的Tensor核心架构的价值。我赞扬MLPerf添加了新的基准，这些基准越来越代表快速增长的推理机会，例如推荐引擎。 Freund说：“顺便说一下，竞争是因为客户项目太忙，或者他们的芯片还没有准备好。” “例如，SambaNova（人工智能系统平台）宣布与LLNL建立新的合作伙伴关系，而Intel Habana（可编程深度学习加速器）仍在酝酿中。如果我仍处于芯片启动阶段，我将等待运行MLPerf（一个昂贵的项目），直到获得一些信标客户为止。 Nvidia在其结果公告中表示，A100的AI推理速度比CPU快237倍。 Nvidia加速计算部门总经理兼副总裁Ian Buck表示：“每个行业都在寻找更好的方法来应用AI来提供新服务和发展业务。这是我们的转折点。 “我们为在MLPerf上实现这些结果而进行的工作使该公司的AI性能达到了一个新的水平，从而改善了我们的日常生活。 “ Nvidia表示，该公司及其合作伙伴使用Nvidia的加速平台（包括Nvidia数据中心GPU，EdgeAI加速器和Nvidia优化的软件）提交MLPerf0.7结果。 NvidiaA100于今年初推出，采用了第三代Tensor Core和多实例GPU技术，在ResNet-50测试中的领先优势得到了改善，比上一轮CPU（即6倍）高出30倍。该公司补充说，其在公共云中的GPU AI推理能力首次超过了CPU，并表示NvidiaGPU上的云AI推理总能力每两年增加了大约10倍。