元脑企智一体机已率先完成对Kimi K2万亿参数大模型的适配支持

强川科技 本站 2025-07-22 10:43 6

全球TMT2025年7月21日讯)浪潮信息宣布元脑企智一体机已率先完成对Kimi K2万亿参数大模型的适配支持,并实现单用户70 tokens/s的流畅输出速度。Kimi K2是月之暗面推出的开源万亿参数大模型,创新使用了MuonClip优化器进行训练,大幅提升了模型的学习效率。Kimi K2的模型总参数量达1万亿,激活参数为320亿。K2模型1万亿的参数量对AI计算系统提出至少1TB的显存容量需求,384个路由专家所带来的专家负载不均衡性对推理速度有很大影响。

元脑企智一体机采用元脑服务器NF5688G7作为算力底座,其搭载FP8计算引擎,配备1128GB HBM3e高速显存,单台服务器即可支持K2万亿参数全量模型部署,为Kimi K2提供了专家间高速并行通信,最大化并行效率。浪潮信息已完成元脑企智一体机对K2的适配,支持64K上下文长度和多路用户实时并发访问。


HOT NEWS
  • 浪潮计算机与民航信息化企业联合发布“大模型一体机”

    近日,北京恒赢智航科技有限公司在成都成功举办了以“拥抱大模型,提质民航生产力”为主题的2024年度用户大会。作为创新技术领军企业,浪潮计算机受邀参会。会上,浪潮计算机服务器产品部总经理闫家乐与恒赢智航副总裁万鹏签署战略合作协议,双方还联合发布了“大模型一体机”。

    浏览74
  • 浪潮信息首创3秒智能控温技术,降噪30.4%

    浪潮信息服务器开机3秒智能控温技术,为数据中心运维人员解决了“服务器部署时启动时间过长,且风扇启动瞬间噪音过高,实现上电即开机,开机速度较业界平均速度最大提升1.2倍,助力业务快速上线,减少因为运维和维护造成的业务搁浅时间。

    浏览57
  • 专家:“AI+量子计算”是未来计算领域重要分支

      中新社重庆11月9日电 (梁钦卿)“量子计算是运用量子力学原理设计的,人工智能(AI)则是靠学习大量数据资源,量子计算作为一种新范式可解决AI资源消耗量大的难题。”欧洲科学院院士、欧洲人文和自然科学院外籍院士金石9日在重庆介绍,面向未来的计算领域,AI与量子计算相结合是重要分支,现在已有国家进行布局。

    浏览55
  • 浪潮云跻身中国数据要素市场领导者象限TOP3

    第三方调研机构赛迪顾问发布《2023中国数据要素流通市场研究报告》。结果显示,浪潮云跻身市场领导者象限,并在市场地位和发展能力方面位居TOP3。

    浏览54
  • 什么是浪潮负载均衡服务?

    浪潮负载均衡服务,即在多台云服务器间实现应用程序流量的自动分配。它可以扩展整个系统的处理能力并提供应用程序容错的能力,消除由于单台云服务器的故障对系统的影响,可实现故障自动切换,提高业务可用性,并提高资源利用率。

    浏览53
GUESS YOU LIKE
换一批
联系我们
在线咨询
QQ咨询 微信咨询
电话咨询
028-85047200 18380340451
提交项目需求 > 用户意见反馈 > 更多联系方式 >