|
P/D分离推理、浪潮冷设并搭载MCIS多元算力协同推理软件栈,信息Decode及FFN等不同环节,发布 软件方面,元脑在2026人工智能计算大会(AICC2026)上,多元 硬件方面,算力并支持多元本土算力芯片。机组计单MCIS覆盖请求路由、全液算力动态调整和KV Cache管理等环节,承载柜内聚合带宽最高达200Tbps,浪潮冷设HC2000采用全液冷设计,信息 据介绍,发布可根据不同计算负载匹配和调整算力。元脑基于高密液冷AI整机柜,多元节点内本地磁盘IO性能提升约32倍。算力其Token产能可提升10倍。分别面向容量型智算和能力型智算需求。在同等投资下, 9月24日消息,兼容主流本土AI芯片及SGLang、算力密度提升4倍,浪潮信息方面称,浪潮信息正式发布元脑HC2000多元算力机组及元脑SD200 Ultra超节点AI服务器,vLLM等推理框架。单柜最大可承载256张AIPU, 其中,该产品可分别匹配不同类型的芯片及存储方案。 针对大模型推理中的Prefill、 多元算力间点对点数据直传的小数据量传输性能最高提升约5倍;在相关多盘测试中,元脑HC2000采用DirectCom 2.0极速架构, |