NVIDIA L40S GPU是NVDIA推出的旗下GPU产品,NVIDIA L40S GPU基于NVIDIA Ada Lovelace架构。
专注于大规模GPU加速工作负载领域的CoreWeave是首批提供L40S实例的云服务提供商之一。
NVIDIA L40S GPU搭载第四代Tensor Core和FP8 Transformer Engine,可提供超过1.45 PFLOP的张量处理能力。对于拥有数十亿个参数和多种数据模式(如文本和视频)的复杂AI工作负载,与NVIDIA A100 Tensor Core GPU相比,L40S 能够将生成式AI的推理性能和训练性能分别提高1.2倍和1.7倍。