英伟达:Vera CPU单线程性能卓越,引领AI自主优势
6 小时前 / 阅读约6分钟
来源:Tomshardware
英伟达的Vera CPU在特定工作负载下表现优异,单线程性能卓越。公司正在研发下一代Rigel CPU,将提供更高的单核性能。Vera的设计旨在AI推理任务中实现高单线程速度和多线程并行。

(图片来源:英伟达)

  • Facebook
  • X
  • WhatsApp
  • Reddit
  • Pinterest
  • Flipboard
  • Email
分享本文
0
参与讨论
关注我们
在Google新闻上将我们添加为首选来源
订阅我们的新闻通讯

近日,Phoronix有幸对英伟达即将推出的基于Arm架构的Vera CPU进行了试用体验。在特定工作负载下,这款芯片表现卓越,紧追其Xeon和Epyc x86系列竞争对手。在特定的单线程应用场景中,Vera展现出了“压倒性的优势”(此为笔者评价)。然而,AMD对Phoronix的测试结果提出了一些质疑,并提供了自家数据,显示在预计的100kW机架输出下,其硬件性能比Vera高出3.3倍。

英伟达已将目光投向未来。该公司透露,其下一代Rigel Arm v9.2 CPU核心将作为Rosa CPU的一部分亮相,通过“更优化的指令传输”、增大的L2缓存以及更高效的内存处理,在相同芯片面积内实现比Vera的Olympus核心更高的单核性能。

如今,英伟达通过提出一个全新的产品概念,再次强调了Vera在AI领域的独特优势:“大规模下的单线程性能王者”,而非单纯的并行处理强者。英伟达表示,Vera的88核一体化设计并非单纯追求每个插槽的核心数量最大化,而是致力于在负载下为每个核心提供强劲性能,确保每个核心拥有足够的内存带宽以维持数据供应,并实现可预测的延迟。

最新视频来自
观看完整视频:

英伟达指出,AI推理工作负载受单线程速度限制显著。例如,一个推理AI模型在进行计算时,每一步都需依赖上一步的输出,因此任何并行处理都无法加速这一过程——单线程的运行速度成为关键。在自主工作负载中亦是如此,因为代理B必须在了解代理A的结果后才能开始工作。

(图片来源:英伟达)

Vera的设计显然旨在平衡两方面需求:高单线程速度与大量可用线程。Vera采用88核设计,支持SMT技术,总计可提供176个线程。为确保每个核心获得充足带宽,英伟达表示Vera与LPDDR5X RAM的通信速度高达1.2 TB/s,且其一体化计算芯片通过3.4 TB/s的核心到核心带宽,确保核心间的数据传输畅通无阻,避免性能瓶颈。该公司宣称,这一数字是“其他任何数据中心CPU”的三倍。

由于衡量核心间带宽的方法多样,直接比较颇具挑战,但鉴于Vera专为AI推理任务设计,这一说法至少具有合理性。

英伟达在最新博客文章中重申了这一点,声称其新芯片在“代表自主执行的加载CPU工作负载”中,相比x86竞争对手性能提升1.8倍;在编码工作流中性能提升1.5倍;在数据库分析中工作速度提升3倍。

英伟达所宣称的数据均来源于实际应用场景。以Perplexity公司为例,该公司使用Vera进行编码代理工作,声称相比x86平台性能提升1.5倍,并发沙盒运行速度提升1.9倍。

在数据库工作负载方面,性能提升更为显著。Starburst(一家联邦数据库公司)在大规模SQL分析中实现了3倍的性能提升;而Redpanda的实时分析则实现了6倍的延迟降低。据英伟达介绍,所有这些性能提升均得益于Vera的特殊架构设计,该架构旨在在保持高线程数的同时,提供卓越的单线程性能。

需指出的是,对于供应商认可的基准测试结果,尤其是涉及每日可能涉及数万亿美元交易的硬件领域,我们应保持审慎态度。英伟达未透露Vera具体测试了哪些x86芯片,但合理推测它们应为中端至高端的英特尔Xeon和AMD Epyc型号。

尽管如此,英伟达在博客文章中描述了一个大多数服务器管理员都熟悉的问题:大型服务器芯片虽可集成大量核心,成为同时处理多个任务的理想选择,但核心越多,为控制热性能和功耗,其运行速度则需相应降低。然而,对于需要立即完成的任务而言,并行化处理并无助益。

此外,使用小芯片扩展至高核心数所涉及的架构决策亦非毫无代价。英伟达称之为“小芯片税”,并表示使用小芯片扩展会导致内存访问和性能不一致,而Vera的一体化设计正是为了避免这些问题。

我们一直强调高单线程性能对于客户端PC快速响应体验的重要性,而AI代理似乎也对硬件提出了类似需求。若自主AI的未来发展方向确实如此,那么英伟达针对Vera的特殊设计优化将比单纯追求核心数提升更具意义。因为对于旨在满足不同经济和客户需求的多功能服务器芯片而言,后者可能并非首要考量。

我们拭目以待,看英特尔和AMD是否会推出自家的“大规模下单线程性能王者”CPU。

在Google新闻上关注Tom's Hardware,或将我们添加为首选来源,以便在我们的订阅源中获取最新新闻、分析和评测。