当前位置:首页 > 今日A股公司股市行情 > 正文内容

浪潮信息“元脑SD200”超节点实现单机内运行超万亿参数大模型

  

  

  8月7日,浪潮信息发布面向万亿参数大模型的超节点AI服务器“元脑SD200”。该产品基于浪潮信息创新研发的多主机低延迟内存语义通信架构,以开放系统设计向上扩展(Scale up)支持64路本土GPU芯片。“元脑SD200”可实现单机内运行超万亿参数大模型,并支持多个领先大模型机内同时运行及多智能体实时协作与按需调用,目前已实现商用。

  简单来说,超节点是一个通过GPU互联技术实现的超大计算系统。以前一台服务器算一个节点,超节点则把多个节点优化组合在一起,它将多台服务器、多张算力芯片卡整合为规模更大、算力更强的整体算力单元,突破传统算力部署的边界。这种聚合并非简单的硬件堆叠,而是通过优化节点内互联技术、液冷散热等手段,提升集群整体能效、通信带宽与空间利用效率。

  浪潮信息副总经理赵帅分析,当前,混合专家模型的高效架构正在驱动大模型参数规模持续扩展,国内外前沿大模型的参数量快速突破万亿规模,这给算力系统架构提出新的挑战。一方面,模型参数量增加和序列长度增加带来的键值缓存激增,需要智能计算系统具有超大显存空间承载,依靠单芯片或节点的性能提升已难以为继。另一方面,智能体AI开启多模型协作的新范式,其推理过程需要生成比传统模型多近百倍的数据词元,导致计算量激增。

  传统算力架构已难以满足高效、低耗、大规模协同的AI计算需求,行业亟须一场技术革新。“在此背景下,产业界转向构建超节点以及产业链多个环节协同创新方式来解决当下算力需求。”赵帅说。

  “元脑SD200”超节点基于开放总线交换技术构建,成功解决了万亿大模型对超大显存空间和超低通信延时的核心需求。在开放架构之上,“元脑SD200”通过智能总线管理和开放的预填充—解码(PD)分离推理框架实现软硬件深度协同,智能化管理复杂AI计算任务。

  “优秀的软硬件协同能力是浪潮信息的优势。”赵帅说,“元脑SD200”超节点AI服务器通过软硬协同系统创新,成功向上扩展突破芯片性能边界,在大模型场景中展示出优异的性能表现。结合优化的PD分离框架,SD200超节点满机运行DeepSeek R1全参模型推理性能超线性提升比为3.7倍,满机运行Kimi K2全参模型推理性能超线性提升比为1.7倍。

  当前,开源模型的飞跃式进步正在加速智能时代的到来,推动研发范式从封闭走向开放协作,大模型参数量的持续提升,对算力基础设施的建设提出了更高要求。“浪潮信息通过开放系统架构创新,为开源大模型的规模化落地和应用创新提供关键支撑。”赵帅说,超节点的搭建需要使用大量高速连接器、高速线缆、板材等产品。“通过带动上下游相关技术的创新突破和应用,推动形成更好的产业生态,进而提高生态竞争力。”赵帅说。

  

(文章来源:科技日报)

   责任编辑:70 原标题:浪潮信息“元脑SD200”超节点实现单机内运行超万亿参数大模型浪潮信息“元脑SD200”超节点实现单机内运行超万亿参数大模型

相关文章

周末暴雷,6个家电龙头利润暴降,利润全都是50%以上的下滑

周末暴雷,6个家电龙头利润暴降,利润全都是50%以上的下滑

  家电板块有些公司业绩不错,但也有一个公司业绩暴大雷,复盘发现,有6个家电股利润暴降,都是50%以上的下滑,其中还有一个龙头利润暴降159%。具体如下:   第一个:宏...

时隔九年阿里系首度减持三江购物 商超资产整合预期降温?

时隔九年阿里系首度减持三江购物 商超资产整合预期降温?

     自2016年大举投资三江购物(601116.SH)以来,阿里系一直牢牢锁定上市公司第二大股东位置,市场亦持续期待双方在资产整合方面或能有...

金价飞涨!2025年6月3日各大金店黄金价格多少钱一克?-这个综合体,即将试营业

金价飞涨!2025年6月3日各大金店黄金价格多少钱一克?-这个综合体,即将试营业

  6月3日国内金价快报:国内品牌金店金价再次大涨,整体价格又接近之前的高位了。周生生黄金继续保持领先地位,上涨24元/克,报价1024元/克。上海中国黄金价格不涨不跌,报价956元/克,...

棒杰股份控制权拟变更上海启烁或入主(中国车企2024年效益向好 纷纷加码研发)

棒杰股份控制权拟变更上海启烁或入主(中国车企2024年效益向好 纷纷加码研发)

     6月2日晚间,浙江棒杰控股集团股份有限公司(以下简称“棒杰股份”)发布公告称,公司控股股东、实控人陶建伟及其一致行动人陶士青、公司持股5...

雷电微力:公司目前无氧化镓组件研发项目及麦格米特:公司没有军工业务及统联精密:股

雷电微力:公司目前无氧化镓组件研发项目及麦格米特:公司没有军工业务及统联精密:股

        证券日报网讯雷电微力6月25日在互动平台回答投资者提问时表示,公...

继续承压!券商投行亏损面扩大 下一步怎么走?

继续承压!券商投行亏损面扩大 下一步怎么走?

  2024年投行业务有多难?   随着券商2024年年报披露在近期收官,投行惨淡业绩浮出水面。受过去一年股权融资规模大幅萎缩影响,投行业务亏损的券商数量攀升,部分大型券...