【TechWeb】在台北电脑展开场演讲中,NVIDIA CEO黄仁勋宣布推出全新设计的“RTX PRO服务器”,这是一款面向企业级AI和工业级AI计算平台的高性能产品。RTX PRO服务器配备了八块最新的RTX PRO 6000 Blackwell服务器版专业显卡,每块显卡拥有24064个CUDA核心和512-bit 96GB GDDR7显存。
RTX PRO服务器的总核心数接近20万个,显存容量高达800GB,显存带宽更是达到了13TB/s。八块显卡通过ConnectX-8 SuperNIC Switch连接,全向带宽为800GB/s,确保了传输的流畅无阻。
在功耗方面,单卡功耗为600W,八块显卡的总功耗达到了48000W,加上CPU和其他元件,整机的功耗预计将超过5000W。然而,其性能也是极为出色的,在FP4数据格式下,AI性能高达30PFlops(每秒3亿亿次),图形渲染性能也有3PFlops(每秒3千万亿次)。
NVIDIA的RTX PRO服务器能够轻松运行各种高性能的AI大模型,为企业和工业界提供强大的计算能力。众多OEM和ODM合作伙伴,包括思科、戴尔、慧与、联想等,将陆续推出基于RTX PRO服务器的产品。
在演讲现场,黄仁勋还展示了来自华擎和微星的RTX PRO服务器样机,展示了这款高性能服务器的实际应用前景。(Suky)