单路最强芯 英特尔至强W满足AI时代算力均衡需求
工作站自上世纪诞生以来,就成为了高性能生产力工具的主力产品,而且能够很好地参与到用户的日常工作、生产和学习当中。但是随着时间推移,当前工作站整体业务情况已经发生了很大变化,尤其是在渠道里的表现,已经与往日大为不同。这主要表现在五个方面:
第一,工作站市场容量稳定并增长迅速。工作站的需求一直在稳定增长,抛开疫情影响, IDC给出的预测可以达到年增长9%-10%。2023年MNC加上渠道客户方案的整体容量在120万台,其中渠道占1/4,并且增幅大于平均涨幅。
第二,渠道产品生产日趋成熟。上游和周边厂商的工作站业务的策略调整和定制化需求增多,渠道的参与度增强,周边产品生态已经成熟。比如说硬件上的主板、散热、机箱等, 以及本土化应用软件的普及等。
第三,政策对渠道方案友好。目前在相关政策的驱动下,国产品牌呈现明显的增长趋势,加持渠道工作站的业务。
第四,产品方案多种多样,加速渠道业务成长。定制化、云化、AI化等等都是近来的趋势,而且形态也由最初的卡式向多形态发展,比如说机架式、便携式等。
第五,热点应用加速渠道方案落地。热点应用的落地催生了各种各样的方案,尤其是去年下半年,AIGC在各个场景下的表现,给了工作站更为广阔的空间。
而在工作站领域,英特尔为其打造的至强W处理器平台,可以说是目前单路最强核芯,尤其是在AI以及AIGC的应用领域,至强W可以说是助力整个行业快速发展的基石。
当前,英特尔在这一领域已经汇聚了近50家核心企业。其中不仅包括像昱格电子这样的OEM,同时也包括像智微智能这样既是OEM又是ODM的企业,当然也有像璇米科技这样方案提供商,以及众多ISV合作伙伴。
·至强W为何是英特尔单路最强芯?
那么问题来了,至强W为何是英特尔单路最强芯?
对此,英特尔工作站品类产品经理葛林给出了答案。
至强W处理器(单路)与至强处理器(多路)的区别就是把UPI模块换成了PCIe模块。UPI 可以让两颗或者是多颗CPU构建双路甚至多路协同工作状态。而至强W聚焦于单路,因此英特尔将UPI换成了PCIe,而PCIe能够充分拓展通路,以应付算力均衡的需求。
从技术层面来看,至强W每颗核心与同级别至强处理器去比的话主频更高,尤其是在拥有相同核心数、相同加速器,且具备AI相关指令集、加速器的情况下,至强W具备更高主频和PCIe带来的更强扩展能力,从而带来了更加强劲的平台级计算能力,这是至强W被称为英特尔单路最强芯的根本原因。
此外,至强W对于企业用户而言有着更好的TCO(总体拥有成本),能够单独运行,扩展能力强,且算力补偿方面英特尔也做了优化,因此可以应对客户多样化的需求,为客户提供更好的经济性。
·至强W为何能玩转AIGC?
时下,AIGC应用已经成为工作站设备的典型应用场景。至强W对于“玩转AIGC”来说,是非常合适的硬件平台。
当前,AIGC的业务逻辑主要包含三类:
其一是像OpenAI,Stable Diffusion,Midjourney等等的大模型提供商;
其二是AIGC的使用者或消费者。
其三只专业服务提供商、运营商,如建筑设计、工业设计、加工等领域。
在三大类业务逻辑中,除了大模型提供商之外,另外两大类用户其实对算力的要求并不是那么极致,因此这类用户往往会选择经济性更好的单路至强W设备来获得更好的收益。
葛林介绍说,“从产品端,英特尔通过建立TSS部门来做相关验证。并根据验证结果对AIGC工作站和服务器提出了六个方向上的建议。”这些建议主要包括:
第一,核心。英特尔的最强芯不只是32核心,但因为核心再继续堆叠的情况下所带来的上升空间不大,所以“甜蜜值”是在16核到32核之间。
第二,频率的关系。在满足大核的核心数条件下,频率肯定是线性关系的,频率越高,效率越高。
第三,AMX加速器。根据英特尔实验室数据,有无AMX加速器的情况下,效率差距会达到4倍,可见其非常关键。
第四,内存。英特尔建议4通道起步,因为4通道至少可以支持到2T,应对各种各样参数的大模型时,如7B、13B甚至几十亿参数大模型时,大内存可以快速支持大模型数据的导入和导出。
第五,RDIMM DDR5 ECC内存的稳定支持。ECC内存自带纠错,其优势就在于稳定,联系运行数小时、数天、甚至更长时间,ECC内存都能保证稳定不宕机。
第六,PCIe通道数,这是支持到更多的加速计算卡工作的根本。比如一个加速计算卡需要占16x的通道,而加速计算卡堆叠越多性能越高,所带来的成本也越高。至强W平台的TCO就体现在这里,它能够提供足够的PCIe通道支持,可以支持4-6块加速卡,对于不需要超高算力客户来说,满足算力需求的同时也更加经济实惠。
·国内AIGC的主要挑战
AIGC是当前最为火爆的行业,那么AIGC到底能给人们带来什么?有哪些典型场景?在做这些场景的时候需要怎样的算力架构?英特尔中国AI架构师赵朝卿分享了自己的观点。
首先从技术脉络和算法来说,AI发展到今天经历了机器学习、深度学习阶段,而AIGC无疑是建立在这两个阶段之上,实现大众化应用的新阶段。因此,各类大模型数据的参数量一直 上升,并且达到10亿级甚至是更多。此时,更加庞大的算力需求接踵而至。
AIGC技术成熟度是从语音合成、识别开始的,这个在十年前没有解决的问题,现在已经解决掉了,再往后则是自然语言处理。而现在,随着ChatGPT等大语言模型的发布,文本类的生成也向前跨了一大步,而视觉、语音就要把各种模态整合到一起从而形成多模态。
赵朝卿认为,目前国内AIGC的主要挑战包含三个方面:
其一,构建一个大语言模型去做预训练,所谓的预训练就是从头训练所有参数。比如微软的模型都是千亿级别的,而训练这种模型一般都需要千卡、万卡,国内没有几家可以这么做,训练一个模型需要巨大的成本支出。
其二,对于国内来说,可以利用开源的预训练模型做行业的微调,但是哪怕是微调,我们依然需要大量的算力,一方面需要很多显卡来完成训练,另一方面需要花费大量时间去做训练。
其三,在部署阶段仍然需要算力。比如一个7B的大语言入门级模型,起码要有一张16G显存的显卡才能放进去,而且这是在做完量化的情况下。所以整体来说AIGC的算力要求很高,同时在效率和时间方面也都有着非比寻常的挑战。
·至强W满足算力均衡需求成本更加可控
赵朝卿还分享了三种AIGC应用场景,来说明算力需求的庞大。
首先是平面设计。原来一个设计师设计一个布料花色需要两周时间,还要不停去调整色彩方案和呈现。现在通过AIGC可以快速生成很多张不同配色的方案,时间可以压缩到2天左右。节省了大量人力、时间成本,而转化成算力成本, 需要很大的算力支撑。
其次是影视制作,比如OpenAI Sora的出现,它可以随便生成一个视频来使用,但对于影视来说不够专业,依然需要更加精细地打磨。比如《流浪地球》这部电影中,某一帧图像渲染时间达到了99个小时,算力消耗巨大。因此行业需要一个平台,能够把算力扩充起来,还要有图形化的渲染和编辑能力。
再者就是时下火爆的数字人。如数字主播或直播带货,它可以借助AI针对不同地区生成不同的语言。比如虽然说的是普通话,但不同地区用户听到的可能是阿拉伯语或者是英语,且还可以针对不同地区定制不同的数字人形象,这些都需要算力支持。
这三个典型应用场景都需要高性能的计算以及图形处理能力这样的专业需求。今年,发展新质生产力被写进政府工作报告中,所有企业都在做“AI+”的融合,因此要提供高性能计算和图形处理能力,CPU就需要具备高主频、多核心、高密度低异构的可扩展性。一张显卡不能只配一个核,而是要达到算力均衡,也就是CPU的算力需要与GPU匹配。而至强W平台高达112路线程,可以支持到6卡,内存支持DDR5 ECC高速内存,容量可以支持到4T,且整个平台比双路8卡成本相对更加可控,从而能够更好地满足客户对于更多AI算力场景的需求。
·至强W的实际解决方案分享
在近期举办的“英特尔单路最强‘芯’,助力玩转AIGC”活动上,璇米科技、昱格电子以及智微智能三家合作伙伴分享了至强W的应用案例,展现了“算力均衡”的优势。
璇米科技总经理李洪刚分享了其在3D体育赛事重建方面的经验。从北京冬奥会到CBA等大型赛事,璇米科技是唯一一家在比赛现场就能够实现赛事数据大量采集的公司。利用专业相机、高清摄影机、甚至手机采集数据,并将素材交付给由山景电子打造的至强W工作站,再借助二三十个核心以及高达4.8GHz频率的至强W平台,可以迅速实现由2D检测到3D重建的工作负载。
李洪刚说,“一个至强W可以支持16x的PCIe,也就是说可以带4-6块显卡。在实际使用中,如果可以带4块显卡,再加上2到3台这样的机器,就能够实时处理一场篮球比赛。现在与AIGC相结合,从2D图像到3D重建的过程中加入AIGC。也就是说,首先从图像中拿到2D的骨骼,这一步被称作检测。检测之后将2D重建为3D的人物形象和骨骼的过程,在引入AIGC之后,技术的跨越式发展进一步加速。”
昱格电子产品经理张康则分享了至强W在影视工作流方面的应用。从原来的720p、1080p到现在的4K 60帧、120帧,整个工作流中的效率如何解决,包括用手机或用笔记本在AIGC的情况下如何提高工作效率,是昱格电子需要思考的问题,并给出相应的解决方案。
昱格电子主要采用虚拟化的方式,因为虚拟化可以合理地分配至强W这样高主频多核心的处理器,做到算力均衡。如分8个核心给用户做剪辑,再分8个核心给用户做渲染。这样带来的好处是整体效率非常高,同时整个方案性价比也会非常高。
张康介绍说,“至强W系列在PCIe通道里额外增加了直连的PCIe,和双路至强相比,在全闪NAS中,我们也是用至强W的产品去做的。而且在我们的测试过程当中,同样的核心,相比双路至强,单路至强W速度会快一倍。做影视工作流的都知道,在4K或者是8K剪辑的时候,整个全闪的速度快一倍是非常恐怖的。”
其实不仅是影视后期,在诸如工程设计、人工智能开发中,都可以用到昱格电子的虚拟化系统。在昱格电子这套虚拟化系统中,通过远程访问这些高性能算力的同时,昱格电子的备份系统、永恒操作系统,在NAS层面可以给客户提供非常好的数据和算力支撑。在永恒操作系统当中还可以给客户提供非常强的多模型数据支撑,这就形成了昱格电子的高性能AIGC云工作站方案。此外,它不仅带来的是可靠性和算力的提升,还有数据安全的提升。
智微智能架构工程师王海利分享了智微智能基于单路最强芯至强W的整体硬件解决方案。
智微智能目前在多个细分行业做到了行业第一,比如消费电子、教育、零售等,并与国内近百家头部客户有深度合作。公司拥有500名研发人员,主要基于英特尔平台做各种各样的硬件开发。同时智微智能也有自主的工厂,是一家能为各行各业提供硬件解决方案的公司。
王海利说,“至强W在AIGC当中有多样的应用,大家也可以看到AIGC对算力的需求是很大的。算力需求主要会涉及几个方面,一是处理器核数的需求, 二是我们对多算力的需求。 我们的平台支持W34系列,最大可以支持60个核心。W34系列其实还有一个最主要的特点就是可以做超频。比如56核112线程的W9-3495X处理器,可通过睿频加速Max技术3.0实现最大睿频4.8GHz 。我们在机器上增加了硬件的超频系列,只要我们能解决散热问题,频率就可以不断提升,功耗释放可以达到600W左右。另外是支持DDR内存,目前我们支持8条内存条,全部都是主通道,最大容量支持到2T。刚刚英特尔专家也说了,在这个平台上支持ECC内存纠错功能。除此之外,我们还支持很多的功能,比如说RAS、内存加密技术等,这些技术都是为了提高我们整个的数据可靠性、稳定性等方面。另外,现场展示的这套方案支持12个硬盘盘位,它可以支持SATA 、SAS 、SSD相应的设备,包括U.2,为企业提供各种各样可配置的解决方案。”
基于至强W平台打造的智微服务器具备研制一体化,性能强劲;支持图形加速,深度学习;可靠、可管理、更安全以及灵活扩展特性,可轻松满足客户对计算的不同要求。
其实除了第四代至强W之外,英特尔将在今年8月份推出的第五代至强上继续强化AI计算支持。
·结语
当前,计算呈现出越来越专注化、针对化、云化、AI化的新特点。基于这样的背景,对于算力平台的要求已经由原来的总成开始往分散性组件去发展。根据IDC预测,单路计算规模已经占到了10%,这是总成化拆解的大趋势。
同时,CPU与GPU的算力均衡,以及相应平台的经济性也在AI时代被凸显出来。面对不同类型的用户提供不同类型的解决方案,而不是一股脑去通过多路方案解决问题,已经成为了市场发展的必然。至强W作为最强单路核芯,虽然不太擅长面对大模型训练需求,但是其强大的扩展性和自身的性能实力,却可以在AIGC消费端、运营商、服务商解决方案应用中提供足够可靠的算力支持。相比双路或多路的解决方案,拥有更好的TCO,同时也能与双路和多路方案一起,满足不同用户的多元化需求,并确保算力均衡,这是时代发展的必然,也是用户需求转变之后的必然。
(8622520)
忘掉他吧,我开这些车养得起你,月入好几千的那种
成人的世界,没有容易二字!这句我打心里我是认同的,社会上的确有很多生活不易的人,比如大白天总有铺着床垫盖着被子,躺在某个地下通道楼梯上睡觉,都流浪街头了,你说生活容易吗?
比起露宿街头,网约车司机生活更不易,为了接个好单凌晨4-5点上线,也可能是信了早起的鸟儿用虫吃这句话,凌晨总是可以逮到我这种打长途的乘客!有一次打车时,网约车司机兴奋的对我说,今天刚点上线就接了我这种几百块的大单(市内70公里),感觉今天他会在专车群里炫耀一阵子!
打的车越来越多,见过的网约车司机也多了,他们之中很小一部分是自由职业,大部分之前都在工厂上班,由于深受窃瓦拉格“打工是不可能打工的,这辈子都不可能”这种自由主义影响,脑海中早已没有9点打卡6点下班的概念!网约车刚兴起时的赚钱故事大家都听过,现在跑网约车还能赚钱养她吗?
问过不少网约车司机,一个月能赚多少钱的问题 ?他们都直言不讳的说,身边少部分人一个月流水有3万 ,但那基本是一个月无休在车上生活,多数人一个月流水就一万多点 。
车是自己买的吗,大概多久能回本?大部分都说是租的,紧凑型电动车一个月租金3800元 ,混动4500元 。一个月跑的勤快一点,扣掉租金收入也是大几千或者近万(平台抽20% ),但每天的休息时间就是充电的时候,至于吃饭上厕所(矿泉水瓶那种 )一般在车上。
电动车一般充电要多久?大部分人都说1-1.5个小时之间 ,一天充一次电 就够了。但有些司机抱怨,充电时坐在车上脚毛都是竖起来的 ,电动车有很大辐射 !我心想,这不是静电吗!
跑网约车大部分人都是靠充电时那个把小时休息 ,甚至到了晚上也不回家,找个好地方把车停在路边睡车里。
电动车一公里成本多少?又接着问到,大部分网约车司机说是2毛 ,混动大概3毛多 ,那电动车还是更划算吗!我说道,这时候网约车司机补充道,系统只会给电动车分配比较近的订单 (怕没电回不来),而且电动车大多是快车 (低端)。
混动和燃油车(2.0L)属于优享 ,价格高系统分配的订单也好些 。有一些租车的司机表示,以后想改租混动,租金也贵不了多少。
有没有自己买车跑网约车?也有,但大多是买中级轿车(天籁那种),我问车是怎么买的,他们说都是从网约车平台分期买 ,价格比市面上的车贵 (车价高利息也高)。我接着问为什么不自己从4S店买?他说自己买怕办不到营运牌照 ,或者手续很麻烦,网约车平台这些都包办 。有一点要提醒,网约车司机也要考证,价格不贵难度也不大!
开网约车能养她吗?看完上面这些信息,心里应该有答案了。但这里又有一个问题,什么车家用接单两不误,能追她还能养她?仔细一想,选择还真不多。
广汽丰田 凯美瑞
2.0E 精英版
不是凯美瑞混动不好,而是价格太高!凯美瑞2.0E 精英版指导价17.98万,混动2.5HG 豪华版指导价23.98万,5万块差价有点大。广东这样的日系车大本营,凯美瑞燃油版都有7000元的优惠,混动反而一毛钱都没有,5万多块钱揣在身上不好么?
新款凯美瑞换装了M20C发动机,变速箱也换成了最新的拟10速CVT,动力总成跟进口雷克萨斯ES规格一致。这套动力总成匹配很完善,变速箱足够聪明,发动机动力足够,而且市区开油耗也高不到哪去!
凯美瑞的面子工程做的也不错,入门版也不会让人感觉很寒酸!还有一个隐形优势,越老的凯美瑞相对越保值,哪天不想跑网约车,把车辆性质改成非营运(60万公里内),还是有很多人愿意接手。
北京现代 索纳塔插电混动
2.0 PHE智享版
又是一款入门版,不过索纳塔插电混动属于新能源,免税补贴什么都有,落地价跟凯美瑞入门版差不了多少。索纳塔插电混动在北京比较常见,但南方城市就比较少了,为什么会这样? 这跟租赁公司有关,路上的比亚迪和北汽电动车,主要还是因为租赁这块比较有优势。
索纳塔插电混动本身就是一款比较有竞争力的车,海外市场表现也很不错(省油价格相对低),但现代的混动名气不如丰田和本田高,国内销量不是很理想。索纳塔的混合动力系统,与比亚迪唐那套双模方案有些类似,不同的是,索纳塔搭载的是高效率阿特金森循环发动机,而它还有一个雅阁和凯美瑞混动没有东西,那就是6速自动变速箱,纯跑高速索纳塔油耗也不会高!
索纳塔插电混动电池容量大,纯电续航里程比同级别高,加上它本身有一套效率比较高的混合动力驱动系统,所以油耗比国产插电混动低。索塔纳插电混动跑网约车没有任何门槛,使用成本也低,价格更是完全不像合资车!
一汽丰田 卡罗拉
双擎 1.8L E-CVT GL-i先锋版
丰田最省油最环保的车叫普锐斯,但普锐斯国内名气不高,丰田为了让混动更容易被国内消费者接受,就将普锐斯的任务转交给了卡罗拉,卡罗拉在很多人心目中就是可靠的代名词,所以当卡罗拉都用混动时,说明这项技术已经非常成熟可靠。
卡罗拉双擎入门版都有TSS主动安全系统,这点真的不错!卡罗拉这套混动不用过多介绍了,大家可能比较关心混动更换电池的价格,据厂家人员透露,卡罗拉混动电池寿命跟车相等,但40-50万公里后,电池容量会有一定下降,这时候油耗会高一点。
一般营运车辆会考虑更换电池,换电池的费用包括工时费在内大约是15000元。换电池后每公里成本大概是3毛6分,不换电池就4毛出头了。
起亚 K3插电混动
1.6L 自动舒适版
起亚以前有款SUV一直霸占各种省油车型推荐榜单,应该有人猜到是极睿,进口车的身份国产车的价格,但最终没火!后来起亚才明白,新能源车免摇号免购置税才有吸引力,所以K3就推出了插电混合动力。
K3这套混合动力系统,基本与进口极睿一致,因为现代起亚集团就那么一两套混合动力驱动系统。这台1.6L发动机也是阿特金森循环,混动系统的结构与索纳塔类似,也是那种市区比较省油,高速相比更省油的车。
K3新能源的价格优势不如索纳塔那么明显,因为卡罗拉也有插电混动,而且起售价差不多。但前者是新款后者是老款,所以K3性价比还是高一点。
广汽本田 雅阁
锐·混动 2.0L 锐酷版
很多车入门版都是噱头或者套路,但雅阁混动入门版真能买到!更厉害的是,外观并不掉档次,配置也不少,最低配都带主动安全系统,这就很厚道了!
为什么凯美瑞混动不推荐转而推荐雅阁混动,雅阁混动入门版比凯美瑞便宜整整4万块,油耗跟凯美瑞差不多,动力还要更好一些,这价格难道不香?
雅阁混动落地价大概比凯美瑞2.0L 入门版贵3万左右,除非打算长期跑网约车,不然这油费两三年内都不一定能赚回来。雅阁1.5T入门版也不错,价格略低于凯美瑞2.0L入门版,但是拼价格天籁2.0L入门版才是大哥!
教授总结
开网约车,一个月轻松干赚个小几千不是问题,稍微努点力大几千万把块也是可能的,拼命的干两三万也是有可能,但听说拼命干一般跑三年就转行了,毕竟身体吃不消!总的来讲,在大城市跑网约车,努努力养她还可以的!