全球新消息丨第四代英特尔至强可扩展处理器和Habana Gaudi2展现领先的AI性能
中关村在线消息,在MLCommons近日发布的AI性能行业基准测试结果中,代号为Sapphire Rapids的第四代英特尔至强可扩展处理器和专用于深度学习AI训练的Habana Gaudi 2加速器展现了卓越的训练表现。
(资料图)
英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示:“自去年6月提交了领先的MLPerf行业测试结果以来,我们团队不断取得新的进步,这让我感到非常自豪。第四代英特尔至强可扩展处理器和Gaudi2 AI加速器支持广泛的AI功能,为有深度学习训练和大规模工作负载处理需求的客户提供业界领先的性能。”
在众多数据中心应用场景中,基于至强处理器的服务器平台可用于运行一系列机器学习(ML)和数据分析的复杂管道,而深度学习(DL)正是其中的一部分。同时,这些服务器平台亦可用于运行其他应用程序,并能够适应随时间变化的多种工作负载。在这些使用场景中,至强可扩展处理器能够极大程度地降低总体拥有成本(TCO),提高全年利用率。
第四代英特尔至强可扩展处理器内置全新AI加速器——英特尔高级矩阵扩展(AMX),旨在帮助用户通过扩展通用至强服务器平台,覆盖包括训练和微调在内的更多深度学习使用场景。AMX是一个专用的矩阵乘法引擎,内置于第四代至强可扩展处理器的每个核心。该AI引擎已经过优化,基于行业标准框架,可提供相较于上一代深度学习训练模型高达6倍的性能。
而在服务器或服务器集群主要用于深度学习训练和推理计算的场景中,Habana Gaudi2则是理想的加速器,针对这些专用场景,它旨在提供优异的深度学习性能并降低总体拥有成本。
关于至强处理器的测试结果:英特尔首先提交了涵盖一系列不同工作负载的第四代英特尔至强可扩展处理器产品线的MLPerf v2.1行业测试结果。作为唯一提交该测试结果的处理器,Sapphire Rapids再次被证实其优异的AI性能,使客户能够随时随地使用共享基础设施进行AI训练。内置英特尔AMX的第四代至强可扩展处理器在多个行业标准框架中为用户提供即时可用的性能,并集成了端到端的数据科学工具,以及来自生态伙伴广泛的智能解决方案,开发者仅需使用TensorFlow和PyTorch框架的最新版本,即可充分释放其性能。现阶段,英特尔至强可扩展处理器已经可以运行并处理全部AI工作负载。
测试结果显示,第四代英特尔至强可扩展处理器正通过扩大通用CPU在AI训练方面的覆盖范围,让客户能够充分利用已经部署在商业应用中的至强处理器完成更多工作,尤其是用于中小型模型的训练或微调,即迁移学习。DLRM的结果便很好地论证了Sapphire Rapids能够在不到30分钟(26.73)的时间内仅用四个服务器节点即可完成模型训练。即使是面对大中型模型,第四代至强处理器亦可分别在50分钟(47.26)和90分钟(89.01)内成功训练BERT和ResNet-50模型。开发者可在一杯咖啡的时间内便完成小型深度学习模型的训练,在一顿午餐的时间内训练中型模型,并同时利用这些连接到数据存储系统的相同服务器,在下午进行诸如经典机器学习的其他分析。这也意味着企业能够将诸如Gaudi2的深度学习处理器预留给更大、对性能要求更高的模型。
关于Habana Gaudi2的测试结果:Habana今年五月发布了用于深度学习训练的第二代Gaudi处理器——Gaudi2,在MLPerf v2.0训练10天后汇总的成绩中表现出了领先的测试结果。Gaudi2采用7纳米制程工艺制造,拥有24个Tensor处理器核心、片内封装容量达96GB HBM2e和24个100GB RoCE以太网端口。与英伟达的A100相比,Gaudi2在这项基准测试中再次展现了领先的8卡服务器性能。
Gaudi2在TensorFlow中训练BERT和ResNet-50的时间缩短了10%。而Gaudi2的PyTorch结果则显示,与5月的Gaudi1结果相比,其BERT和ResNet-50的训练时间分别缩短了4%和6%。这两组结果均在封闭和可用类别中提交。
这些优异表现突显了Gaudi2专用深度学习架构的独特性、Gaudi2软件的日益成熟以及Habana SynapseAI软件堆栈的扩展优势。值得注意的是,该软件堆栈针对深度学习模型开发和部署进行了优化。
与5月的测试结果一致,Gaudi2在BERT和ResNet-50模型训练方面始终优于英伟达A100,进一步证明了该测试结果的有效性。英伟达H100的ResNet-50训练速度仅比Gaudi2高11%,而尽管H100在BERT方面比Gaudi2快59%,但英伟达报告的BERT训练时间为FP8数据类型,Gaudi2的训练时间则为经过验证的标准BF16数据类型(在Gaudi2的软件计划中启用了FP8)。因此,与A100和H100相比,Gaudi2的性价比更高。
未来,英特尔和Habana团队非常期待再次提交的英特尔AI产品组合解决方案的MLPerf测试结果。
英特尔(Intel) i7-13700K 13代 酷睿 处理器 16核24线程 睿频至高可达5.4Ghz 30M三级缓存 台式机CPU
进入购买
标签: Intel
相关推荐:
最新新闻:
- 全球新消息丨第四代英特尔至强可扩展处理器和Habana Gaudi2展现领先的AI性能
- 当前关注:美洽亮相2022世界互联网大会,带来全新智能客服解决方案
- 暴雪官宣《炉石传说》将推出无障碍模式3全球播资讯
- 世界讯息:英特尔开拓全链路“减碳”新路径
- 因特网是什么?因特网的使用权是什么?
- 今日报丨FTX风暴继续,“币圈马斯克”发长文道歉:我搞砸了,孙宇晨此刻发声了
- 《宝可梦 朱/紫》新TVCM公布 11月18日正式发售3世界简讯
- 吉卜力工作室宣布 将与卢卡斯影业展开合作
- 当前速看:大奇迹之夜:木头姐涨出了个人记录,苹果涨出了美股记录
- 自从买了懒人神器,我越来越勤奋了
- 全球信息:杨紫琼主演《猎魔人》前传剧集《猎魔人:血源》新预告:舞剑吟游、血火残酷
- “接班人”失宠了?董明珠辟谣孟羽童“被炒”
- 天天快讯:Windows 11截图工具如何用?微软官微科普
- 天天日报丨双11购物狂欢节硬件优惠最终盘点:12代i5+3060整机2900元限量出售
- 用超大屏幕玩《战神:诸神黄昏》 奎爷也太大了
- 每日时讯!《战锤40K:暗潮》世界介绍预告 11月30日发售
- 精选!免费升Windows 11何时结束 微软给出了最终答案
- 香山智能体脂秤只要9.9元:限时抢购2天天微资讯
- 业务罚停下大批保代转会背后:平安、方正两券商整合前兆已显?4每日速讯
- 10月PS商城下载榜:《使命召唤19》称霸北美和欧洲
- 《战地2042》即将加入XGP Ultimate和EA Play
- 《模拟人生5》测试版截图泄露 新作看起来更精美
- 《使命召唤19》N卡新驱动上线 提升稳定性和性能
- 韩国携队带200公斤泡菜征战世界杯 孙兴慜初到欧洲曾为泡菜烦恼
- 英国央行开始出售所持英国国债3环球速递
- 《宝可梦:朱》发售前一周泄露 破解机已流畅游玩
- 《疾速追杀4》全新预告片 2023年3月上映
- 环球短讯!官方紧急补货!12代酷睿i9全能本双·11仅需5999元
- 锐龙9 7950X单核猛超7.2GHz 八核跑出6.5GHz2今日观点
- 环球报道:2022年TGA颁奖典礼候选名单将于下周一公开
- 明年上映动画电影《金之国 水之国》预告片发布
- 杨紫琼主演《巫师:血源》发布前导预告4全球消息
- 全球即时:真正的国产X86处理器来了:16nm工艺 自研32核心!
- 《极品飞车22》PC配置要求出炉:出乎预料的低0环球快讯
- 12月9日开播《龙腾世纪:赦免》发布正式预告
- 今日讯!3000元封顶!双·11真正便宜的轻薄本盘点
- 每日精选:赛博朋克roguelite动作游戏《方舟行者》公布
- 环球快讯:从游戏到课堂 育碧的游戏在世界各地教玩家学习
- 天天资讯:猎天使魔女:从历史级经典到“一款好游戏”
- 环球消息!《钢之崛起》DLC“卡利奥斯特罗的秘密”现已推出
- 布兰妮回应“小11”想演她的传记片:姐妹 我还没死1当前热讯
- Fami通周销榜:《喷射战士3》夺冠、SE种田新作《Harvestella》第二0头条焦点
- 发布两个月降价500!苹果AirPods Pro 2到手价仅1399元4最新资讯
- 重磅CPI超预期放缓 美股大幅高开
- 多人第三人称机械对战 《战争机器人:前线》公布2当前快播
- 双·11直降700元!AMD最畅销神U七折促销 到手仅2399元
- 《魔咒之地》新预告片展示探索和宠物部分
- Epic喜加一:《影子战术: 将军之刃》免费领
- 天天快看:影驰双十一天猫全球狂欢季开启! 4090星曜显卡上线!
- 简单办公必入!酷睿i7轻薄本双·11限时1108元
- 环球微头条丨迅雷发布Q3财报:总营收8830万美元 同比增长47.1%
- RTX 4090 Ti显卡大曝光:价格接近20000
- iPhone 14 Plus仅5999 限时立减1000
- 当前速看:惠普星15笔记本立减600元 到手3599
- 直降600元 惠普光影精灵RTX 3070仅需6999元1焦点热文
- 当京东11.11遇上三周年店庆重庆超体超值福利引爆巅峰28小时1每日简讯
- 这些基金经理逆势加仓了!
- 《后翼弃兵》女主亮相新片首映礼 露背长裙高挑优雅4全球视点
- SE《HARVESTELLA》MC站评分69:令人尴尬的缝合怪
- TBS电台节目主持人与播音员将参演《如龙8》
- 欧盟下周或敲定新的卫星互联网计划 投资60亿欧元2全球微动态
- 马龙,头号输家
- 看点:高妹太像了!《王冠》戴安娜情态与真实录像对比
- 《黑豹2》发布日本限定艺术海报 水墨风不失张力
- 雷蛇新游戏本泄露:18英寸、i9-13900HX4世界今头条
- 当前热门:Adobe 在 MAX 2022 创意大会中发布Lightroom Classic 的多项创新功能
- 周鸿祎:360基本不碰用户数据2当前观察
- 小米12S Ultra哭晕在厕所!徕卡旗舰手机发布:售价超1万元0天天消息
- 太缺人!富士康已进村招工
- 2699元!影驰新版RTX 3060 Ti显卡今晚开售2全球热门
- 环球资讯:中汽协:10月汽车企业出口创历史新高达33.7万辆,动力电池装车量同比增长98.1%
- 看完《万神殿》,我怀疑乔布斯会不会还“活着”3世界报道
- 索尼克配音演员感谢玩家支持《未知边境》:谢谢好评3每日报道
- 天天资讯:老干妈创始人陶华碧亮相直播间 现场让人唏嘘
- Redmi Note12潮流版今晚开售:3D悬浮工艺 2599元