公众号手机端

月之暗面开源最强模型Kimi K3!摩尔线程国产GPU完成Day-0极速适配

zhiyongz 1小时前 阅读数 1 #人工智能
快科技7月29日消息,日前,月之暗面正式开源2.8万亿参数模型Kimi K3,并同步发布模型权重与技术报告。同日,摩尔线程基于AI训推一体智算卡MTT S5000及MUSA软件栈,率先完成Kimi K3的快速适配与稳定运行。摩尔线程表示,此次适配不仅展现了MUSA软件生态面对前沿大模型的快速响应和全栈协同能力,也再次验证了国产全功能GPU支撑万亿级大模型创新的工程实力。
据介绍,在Kimi K3开源后,摩尔线程第一时间完成模型结构解析、权重加载、核心算子、缓存管理以及分布式运行链路适配。同时,摩尔线程还打通了从SGLang-MUSA推理框架,到MATE算子库、Triton MUSA、TileLang MUSA的完整适配路径。在底层能力方面,MTCC编译器和MUSA运行时可高效支持SGLang JIT及DSL算子在MTT S5000上快速部署运行,为Kimi K3的稳定推理提供支撑。
摩尔线程称,此次实现Kimi K3极速支持,标志着摩尔线程在极短时间内完成了对前沿架构的精准解构、全链路打通与稳定验证。据了解,Kimi K3是全球首个开源的3万亿级模型,也是目前Kimi能力最强的模型。该模型拥有2.8万亿参数,原生支持视觉理解,并具备100万token上下文窗口,主要面向长程编程、知识工作和复杂推理等前沿智能场景。
月之暗面开源最强模型Kimi K3!摩尔线程国产GPU完成Day-0极速适配 月之暗面 Kimi K3 Day-0 第1张
月之暗面开源最强模型Kimi K3!摩尔线程国产GPU完成Day-0极速适配
【本文结束】出处:快科技


版权声明

本站所有文章来源于本站原创或网络,如有侵权请联系删除。文章观点并不代表本站观点,请网友自行判断,如涉及投资、理财请谨慎应对!

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

热门