英伟达发布NVIDIA L40S GPU及搭载OVX服务器系统,推进AI计算发展

近日,英伟达(NVIDIA)推出了全新的NVIDIA L40S GPU,并搭载于NVIDIA OVX服务器系统中。

d2b5ca33bd181631

这款全新的GPU和OVX服务器系统适用于多种用途,包括人工智能大模型的训练和推理、三维设计与可视化、视频处理、工业数字化等。它们能够强化生成式人工智能、图形和视频处理能力,满足不断增长的计算需求。

L40S GPU是L40的升级版,具备48GB GDDR6 ECC显存。它基于Ada Lovelace架构,内置第四代Tensor Core和FP8转换引擎,计算速度是上一代GPU的5倍。需要注意的是,L40S与上一代一样不支持NVLink。

d2b5ca33bd181853

官方表示,对于包含数十亿参数和多种数据模式(文本、视频)的复杂AI工作负载,L40S的生成式AI推理性能比A100高1.2倍,训练性能高1.7倍。

每台NVIDIA OVX服务器系统最多可安装8个L40S加速卡。其中,CoreWeave是首批提供L40S计算平台的云服务提供商之一。此外,英伟达还提供了多种软件,用于辅助AI模型训练、数据分析和生成式人工智能等应用。

根据官方介绍,英伟达L40S GPU将在今年秋季上市。华硕、戴尔、技嘉、HPE、联想、QCT和美超微等厂商将推出搭载L40S GPU的OVX系统。这些服务器有助于推动人工智能的发展和应用。

© 版权声明
THE END
喜欢就支持一下吧
点赞12 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容