公众号手机端

Intel全线进入AI PC时代!软硬一体 三大优势无敌

zhiyongz 9分钟前 阅读数 #英特尔
文章标签 Intel全AI PC时代

2023年底,伴随着代号Meteor Lake的一代酷睿Ultra处理器的发布,Intel正式提出了AI PC的新概念。彼时,乃至之后很长一段时间内,很多人都存在相同的疑问:AI PC和传统PC到底有何不同?它能替我的工作/生活/学习做什么?值得升级吗?事实上,不仅仅是广大消费者,从业者在AI PC兴起之初也有类似的迷茫。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第1张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
但是,困难的事总是要有人去做的,未知的路总是要有人去走的。作为AI PC的发起者,Intel凭借持续的路线图、扎实的技术、广泛的影响力、强大的号召力,联合整个业界一起,不断从软硬件各个角度推进AI PC,尤其是推动更多的应用开发、场景落地。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第2张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
令人欣喜的是,AI PC诞生还不到一年半,就已经取得了长足的进步:随着Intel酷睿Ultra 200系列全线布局完毕、锐炫B系列显卡崭露头角、至强6家族各系列陆续登场,AI PC无论硬件产品还是应用场景,都越来越丰富、越来越深入。虽然距离完全成熟为时尚早,但确确实实已经迈入了全新的、实用的阶段。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第3张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
尤其是这个新年,我们不止有“DeepFeed”、“DeepSleep”这些传统的吃吃喝喝、休闲放松,更有DeepSeek。DeepSeek的重大意义,一方面是中国AI一次革命性的突破,另一方面是通过开源、免费,加速了AI普惠,无论是政企学科等各种单位机构,还是个人,都可以灵活地部署自己的大模型,无论是满血版、蒸馏版,还是微调、再训练。DeepSeek的炸裂表现,无疑是AI历史上里程碑的一幕,掀起了一股新的浪潮,带来了更多的思考,也带来了更多的机遇。
【软硬全栈:Intel的大模型一体机部署方案】
随着AI大模型部署需求的高涨,尤其是DeepSeek的火爆,AI通用一体机逐渐为更多人所熟知,市场上也迅速出现了大量产品,不少都直接打出了“DeepSeek一体机”的标签。Intel自然没有错过这一波机遇,充分发挥了自己独特的软硬件“全家桶”优势。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第4张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
AI一体机包括训推一体、模型推理、模型应用等不同类型,主要面向政务、金融、医疗、教育、制造等垂直行业领域。
它的优点有三:
一是开箱即用:硬件、模型、算法、软件等全部集成,无需再单独采购、配置、安装、调优,买回来就能用,大大降低使用门槛,而且因为是本地化部署,延迟更低,响应更快,体验更流畅。
二是隐私安全:很多企业机构的数据是不能对外的,本地化部署一体机后,可以集成本地知识库、高效智能体,一切处理都可以在本地进行,不会外传。
三是高效优化:软硬件适配优化更深入,可大大提高AI模型的运行效率,从而提升工作效率。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第5张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
不过,DeepSeek等大模型的本地部署,也不是完全那么简单,要重点考虑多个因素,才能达成效率和经济的最优化。
比如模型大小,是满血?还是蒸馏?
比如数据精度,是更精确但更好资源的FP16/BF16?还是比较均衡的FP8?抑或速度更快的INT4/FP4?甚至更低比特?
比如上下文长度,16K-128K如何选择?
比如吞吐能力,能否满足时延要求?
比如响应能力,TTFT(首个token)生成时间有没有超过5秒?TPOT(token生成时间间隔)是否控制在100毫秒之内?
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第6张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel AI全家桶的优势恰恰就在于,无论你想部署什么样的模型,获得什么样的输出效果,无论是在边缘侧还是在端侧(当然也有云侧),都可以找到最适合自己的产品组合。
其中,至强一体机适合满血大模型,锐炫GPU显卡适合蒸馏模型,酷睿Ultra 200系列则适合蒸馏量化模型。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第7张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
酷睿Ultra系列的全新命名,当然不完全是改个名字那么简单,更是标志着开始真正进入AI的新时代。
第一代酷睿Ultra 100H系列(代号Meteor Lake),最高可提供36 TOPS算力,算是开始入门。
第二代酷睿Ultra 200系列直接提升了一个档次,200V系列(代号Lunar Lake)、200H系列(代号Arrow Lake-H)分别可提供最高120 TOPS、99 TOPS的算力,不但可以完全满足Windows 11 AI+ PC的需求,还为部署更大规模模型提供了支撑,14B蒸馏模型都可以直接搞定,保证流畅体验。
除了基础的硬件算力,Intel还有着成熟的AI工具链和生态支持,总能得到最先支持与最好用优化,这是竞品无法比拟的。
迄今为止,仅仅是在国内,Intel AI PC就已经得到了40多家ISV软件开发生的适配支持。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第8张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel的锐炫GPU显卡虽然在游戏市场占比不高,但是凭借先进的架构、大容量的显存、完善的工具链支持,也悄然成为AI部署的上佳之选。
最新发布的锐炫B系列,搭配酷睿Ultra 200系列处理器,单用户单卡即可部署14B模型(FP8/INT4),双卡的话可以支持32B+模型(INT4)。
上一代的锐炫A系列依然宝刀不老,搭配至强处理器可以组成四卡、八卡一体机,最高可以支持70B模型(FP8/INT4),这也是个非常流行的方案。
不过注意,系统内存容量也是个关键因素,建议不少于64GB。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第9张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第10张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
这是使用基于酷睿Ultra 200V系列处理器、32GB内存的轻薄本,本地部署DeepSeek 14B模型基础版,可以流畅执行知识问答、代码编写等任务,输出速度能达到每秒10 tokens左右。这里展示了两个俄罗斯方块游戏的生成,左侧是正常的基础版,右侧则是进阶版,每隔20秒左右就会出现两个新的随机方块,可能生成在任意落点,从而大大增加了游戏难度。
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第11张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第12张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第13张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
Intel全线进入AI PC时代!软硬一体 三大优势无敌 Intel全 AI PC时代 第14张
Intel全线进入AI PC时代!软硬一体 三大优势无敌
挑战本地部署DeepSeek R1 32B模型,内存也增加到64GB,可以分配大约36GB作为核显的显存,生成速度可以达到每秒14 Tokens。用它开发小游戏,比如打砖块、五子棋这种级别的,虽然速度说不上飞快,但依然完全在可接受程度内,生成的小游戏也都能正常运行。

版权声明

本站所有文章来源于本站原创或网络,如有侵权请联系删除。文章观点并不代表本站观点,请网友自行判断,如涉及投资、理财请谨慎应对!

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

热门