公众号手机端

兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B

zhiyongz 54分钟前 阅读数 #人工智能
文章标签 兆芯DeepSeek-R1

快科技2月24日消息,兆芯官方宣布,基于兆芯处理器的PC笔记本/台式机终端、工作站、服务器,已经全系成功实现DeepSeek-R1 Distill模型的本地部署,涵盖1.5B、7B、14B、32B、70B、671B等各种参数规模。操作系统方面,兆芯原生支持Linux、Windows、各家国产操作系统,并适配国产GPU AI加速卡。
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第1张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
KX-7000台式机本地部署DeepSeek-R1-7B模型
基于开先KX-7000桌面处理器的台式机,通过搭配国内显卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分发挥DeepSeek强大的语义理解和推理能力。通过与WPS Word、Excel、VSCode等常用工具的整合,可以实现智能文档处理、数据处理、智能编程等功能。
智能文档处理
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第2张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
智能数据处理
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第3张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
智能编程
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第3张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
KX-7000是兆芯新一代的高性能桌面PC处理器,采用全新的“世纪大道”自主内核微架构,以及先进的Chiplet互连架构,集成8个CPU核心,共享32MB 三级缓存,最高工作频率可达3.7GHz。
KH-40000/16工作站部署DeepSeek-R1-32B模型
基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。
该工作站配备了4块高性能的国产GPU推理加速卡,可提供高性价比、稳定高效的推理能力,而优化的CPU与多GPU间互连架构,可有效提升传输带宽,降低延迟。
它还采用了低功耗、静音设计,适合智能办公等桌面本地化AI推理场景。
联和东海XRS302 AI工作站
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第5张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
KH-40000/32双路服务器部署DeepSeek R1 671B模型
在服务器端,开胜KH-40000/32处理器可提供双路64核心的高性能计算能力,支持2TB海量内存,提供强大的扩展能力。
通过搭配国内加速卡,开胜KH-40000/32服务器已成功完成DeepSeek-R1-70B版本的适配和部署,适用于数学、编程、推理等应用领域。
兆芯服务器终端上成功部署DeepSeek-R1-70B版本
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B 兆芯 DeepSeek-R1 第6张
兆芯全系整机成功部署DeepSeek-R1:双路64核跑满血617B
同时,针对满血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情况下,开胜KH-40000/32处理器已经完成本地部署,完整验证了兆芯服务器CPU架构承载千亿参数模型的硬件能力。
【本文结束】出处:快科技

版权声明

本站所有文章来源于本站原创或网络,如有侵权请联系删除。文章观点并不代表本站观点,请网友自行判断,如涉及投资、理财请谨慎应对!

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

热门