网站首页    AI服务器    浪潮弹性AI云服务器
NF5468M51

浪潮弹性AI云服务器

浪潮高密度推理服务器NF5468M5,面向超大规模数据中心,支持第二代智能英特尔® 至强® 可扩展处理器,在4U机箱内最多支持20片NVIDIA GPU加速卡,8片Xilinx Alveo U200 FPGA加速卡。NF5468M5是专用GPU设备,采用独立风道设计,保障最佳散热效果,适用于AI云,智慧城市,金融,通信,医疗等应用场景。

 

功能特性

  AI模型训练 高性能

  支持 8片NVIDIA V100 32G GPU,通过NVLink 2.0、RDMA、GPUDricet、32G HBM2等四大领先技术,提供强劲计算能力和极致通信延迟,GPU拓扑。

  AI推理计算 高效能

  可同时支持20片高效能比的Tesla T4 GPU和24个3.5英寸硬盘,单机可处理600路1080P视频流的结构化应用,将数据保存有效期延长至业界平均水平的9倍。

  AI多场景适配 高可靠

  支持10种以上GPU拓扑,且不开机箱即可灵活切换;CPU间通过3条UPI互联,提供业界最高通信带宽;支持4个2200W 80PLUS铂金电源模块及2+2冗余策略;适配各类AI应用场景。  

 

  

技术规格

型号

NF5468M5

工作温度

范围

5 - 35°C/41°F - 95°F

高度

4U

GPU扩展

支持8片NVIDIA® Tesla® NVLink & PCIe V100, V100s

支持8片NVIDIA® Quadro RTX 6000, RTX 8000

支持20片NVIDIA® Tesla® T4

支持8片Xilinx Alveo U200 FPGA卡

处理器

2颗2nd Generation Intel® Xeon® Scalable Processor, 3*UPI

内存

24条2933MHz内存插槽,支持DDR4 ECC

支持高级内存纠错、内存镜像、内存热备等高级功能

存储

24块2.5/3.5英寸硬盘(其中8个盘位支持NVMe SSD)+ 2片M.2 SSD硬盘

支持RAID 0、1、10、5、50、6、60等,支持Cache超级电容保护,提供RAID状态迁移、RAID配置记忆等高级功能

I/O扩展槽

最大支持20条PCIe 3.0扩展槽,同时内置2条Raid卡专用的PCIe扩展槽

网络

双万兆以太网光口,支持虚拟化加速、网络加速、负载均衡等功能

电源

4个1600W/2000W/2200W 80PLUS认证的铂金电源模块,支持2+2冗余策略

管理

集成BMC管理模块,可实现与操作系统无关的远程对服务器的完全控制,包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作,提供服务器健康日记、服务器控制台录屏/回放功能,能够提供电源监控,可支持动态功率封顶

GPU灵活拓扑

支持根据不同应用场景灵活切换CPU:GPU的拓扑结构,支持Common、Balanced、Cascade 三种拓扑结构