英特尔以强大产品力,迎接生成式AI的广阔机遇|热门
生成式AI能够模仿人类生成的内容,在改变我们工作和生活方式的诸多方面提供了一个令人兴奋的机会。然而,这种快速演进的技术也揭示出,在数据中心成功利用AI需要极其复杂的计算。
英特尔面向未来进行了大量投资,希望每个人都能利用这项技术,并能轻松进行大规模部署。同时,英特尔正与产业伙伴接洽,以支持一个基于信任、透明和多种选择的开放式AI生态系统。
(资料图)
拥抱具有卓越性能的开源生成式AI
生成式AI例如GPT-3和DALL-E等语言模型已经存在一段时间了,但ChatGPT(一种可以进行类似人类对话的生成式AI聊天机器人)则引发巨大轰动,让人们开始关注传统数据中心架构的瓶颈。ChatGPT还加快了对硬件和软件解决方案的需求,这些解决方案使AI能够充分发挥其潜力。基于开放方法和异构计算的生成式AI使其更容易获得,并更经济地部署最优的解决方案。开放生态系统允许开发人员在优先考虑功耗、价格和性能的同时,随时随地构建和部署AI,从而释放生成式AI的力量。
网络研讨会:英特尔将举办数据中心和人工智能事业部投资者网络研讨会
英特尔正在积极采取措施,并通过优化主流的开源框架、库和工具来实现出色的硬件性能,同时消除复杂性,来确保自身是实现生成式AI的明智选择。近日,顶级机器学习开源库Hugging Face发布的结果显示了英特尔AI硬件加速器卓越的推理运行速度,该结果基于对包含1760亿个参数的BLOOMZ模型(一种基于转换器的多语言大型语言模型(LLM)和包含70亿参数的较小BLOOMZ模型进行推理。其中,对于包含70亿参数的较小BLOOMZ模型,Habana第一代Gaudi具有明显的性价比优势。此外,Hugging Face Optimum Habana库简化了大型LLM的部署,用户仅需对代码进行极小的修改。
英特尔研究院的研究人员还使用Habana Gaudi2在LMentry(一种最近提出的语言模型基准)零次学习设置下评估BLOOMZ。BLOOMZ的精度与GPT-3模型尺寸相似,如下图所示,最大的176BBLOOMZ模型的性能优于类似大小的GPT-3模型。
在100K LMentry提示上,BLOOMZ模型(最多1760亿个参数)使用HabanaGaudi加速器对生成的语言输出进行的自动评估。
此外,Hugging Face亦介绍了Stability AI的Stable Diffusion,这是另一个用于从文本生成图像的最先进生成式AI模型之一,也是流行的 DALL-E图像生成器的开放访问替代方案,Stable Diffusion在内置英特尔®高级矩阵扩展(英特尔AMX)的第四代英特尔至强可扩展处理器上运行的平均速度提高了3.8倍。这种加速是在不更改任何代码的情况下实现的。此外,通过使用英特尔Extension for PyTorch with Bfloat16(一种用于机器学习的自定义格式),自动混合精度可以再提速一倍,并将延迟减少到5秒——比初始基线32秒快了近6.5倍。用户可在HuggingFace网站上一个基于英特尔CPU(第四代至强处理器)的实验性Stable Diffusion演示中进行自行尝试。
Stability AI创始人兼首席执行官Emad Mostaque表示:“在Stability AI,我们希望让每个人都能构建自己的AI技术。英特尔已经使Stable Diffusion模型能够高效运行在他们的异构产品上——从第四代Sapphire Rapids CPU一直到像Gaudi这样的加速器,因此是实现AI民主化的一个绝佳合作伙伴。我们期待在下一代语言、视频和代码模型等方面与他们合作。”
OpenVINO进一步加速了Stable Diffusion推理。结合使用第四代至强CPU,它的速度几乎比第三代英特尔至强®可扩展CPU提高了2.7倍。Optimum Intel是OpenVINO支持的一个工具,用于加速英特尔架构上的端到端管道,它将平均延迟再降低3.5倍,总共降低近10倍。
解决价格、性能和效率问题
此外,为满足减少用电量的关键需求及不断增长的性能需求,还需要提供更加可持续的解决方案。一个开放的生态系统可以消除阻碍进步的障碍,使开发人员能够在每一项工作中都能够使用最好的硬件和软件工具进行创新。
Gaudi2与第一代Gaudi构建在相同的高效架构上,可助力大规模工作负载的性能和效率达到全新高度,并在运行AI工作负载时展现出强大的能效优势。
大规模AI工作负载还需要达到“一次构建、随处部署”方式,这种方式基于灵活、开放的解决方案,能够实现更好的能效。第四代至强处理器是英特尔最具可持续性的数据中心处理器,有着更高的能效和节能效果。凭借英特尔AMX这样的内置加速器,在广泛的AI工作负载和使用案例中,推理和训练性能可提高10倍,同时其每瓦性能相较英特尔前代产品最多可提升14倍3。
英特尔(Intel) i5-12400F 12代 酷睿 CPU处理器 6核12线程 单核睿频至高4.4Ghz 10400F迭代升级款
进入购买
标签:
相关推荐:
最新新闻:
- 英特尔以强大产品力,迎接生成式AI的广阔机遇|热门
- 亚马逊云科技17年引领Serverless持续进化 Serverless进入发展新范式|世界热议
- 当前消息!3R级红色激光 一键超链接 雷柏XR100无线激光演示器翻页笔上市
- 90后小伙京东开店 多番尝试找准智能手表赛道 世界聚看点
- 环球快看:《求是》杂志发表习近平总书记重要文章《在中央党校建校90周年庆祝大会暨2023年春季学期开学典礼上的讲话》
- 【环球聚看点】CDPR谈《巫师天狼星》重启:相信这是正确的决定
- 《FF16》新截图释出 游戏充分利用PS5手柄特性-全球新视野
- 房贷延期需要查征信吗?房贷延期要去之前贷款的银行吗?-世界观天下
- CDPR承认:使用虚幻5并没有加快《巫师》新作的开发
- 刺客信条15周年纪念扣针开启预售 一枚38元
- 天天实时:愚人节搞事情?白金工作室今晚公布新情报
- 热资讯!比亚迪电子早盘涨超9% 里昂维持其跑赢大市评级
- 基建游戏《重塑火星》正式在Steam推出 一起出发去火星搞建设!
- 今日要闻!《阿凡达》演员米歇尔·罗德格里斯表示无意回归续集
- MAXHUB携众多创新产品,亮相2023济南安博会
- 《时空勇士》Steam页面上线 国区售价298元
- 天天日报丨iPhone13成2022年中国最畅销手机!苹果霸占前三席
- 全球简讯:Epic表示《堡垒之夜》目前无法支持超过100名玩家
- 范迪塞尔:《速激》系列完结时与保罗沃克正式告别:全球快讯
- 《缺氧》百发齐放更新现已上线 新增更多流星雨玩法
- cr2是什么格式?CR2格式打开的方法是什么?
- 电脑自动休眠怎么取消?怎么取消电脑待机模式?
- 中药企业陆续发布年报,中药ETF、中药50ETF涨近3%-每日热门
- 什么是云计算?基本原理及几种流行的云计算技术介绍
- Redmi Note 12 Turbo首销:5分钟破纪录
- iPhone恢复模式是什么? 恢复模式怎样才能退出?
- 临时文件夹位置在哪?临时文件夹可以删除吗?
- 键盘按键失灵怎么办?键盘按键失灵修复方法
- 虚拟机是什么?图文详解虚拟机的含义及使用方法
- u盘不能格式化是为什么 u盘提示格式化怎么修复?
- 精灵虚拟光驱怎么使用?精灵虚拟光驱使用教程及注意事项
- CPA的缩写是什么意思?CPA仅仅是指注册会计师吗?
- 蓝屏代码0x000007b怎么解决?蓝屏原因及一般解决方法
- cad2010无法正常使用?cad2010激活码分享
- 梅捷主板怎么进入bios?梅捷主板进入bios的方法教程
- BAFTA 2023获奖名单公布 《吸血鬼幸存者》获得最佳游戏-资讯推荐
- 知情人透露:下一代Switch开发工具已送至开发者手中 世界新消息
- 英伟达RTX 4070国行售价大曝光:玩家直呼老黄良心了
- 【全球播资讯】数毛社评《艾尔登法环》光追功能:收益甚微 存在性能问题
- 视点!E3宣布取消 主办方ESA采访:明年是否举办没定论
- 杀毒软件哪个好?电脑安全软件哪个好用?360安全卫士杜绝安全隐患 世界快讯
- YVR亮相国际顶级学术会议IEEE VR 2023-天天动态
- 年薪600万+2年短约!巴萨报价梅西无诚意,一附加条款,尽显贪婪
- 全球热门:小米Redmi Note 12 Turbo首销卖爆了!5分钟刷新行业纪录
- 世界要闻:完美收官,八位堂(8BitDo)十周年创意征集活动成功举行
- 小米Redmi Note 12 Turbo今天开售:搭载二代骁龙7+、首销1999元_环球快报
- 发售四个月后 SE移除了《北欧女神》的D加密 焦点精选
- 《王国之泪》怪物设计或来源于中华文化!神似青铜器
- 世界观焦点:还是内味!《女神异闻录:夜幕魅影》战斗曲公开 P5主唱Lyn倾情助阵
- cpu主频越高越好吗?手机cpu主频高低的区别?
- 世界今亮点!《影之刃: 断罪者》Steam页面上线 支持简体中文
- 特别好评克系钓鱼冒险游戏《渔帆暗涌》今日发售
- 京东方解读魅族20和无界版屏幕,首发低功耗超高清护眼屏
- 世界最资讯丨万元以内全幅单反 佳能EOS 6D Mark II
- 集成灶品牌帅丰董事长获聘全国五金制品标准化技术委员会委员|全球看热讯
- ROG与ACRONYM联合推出ROG幻X-ACRNM RMT02-天天时讯
- 苹果MR头显真的要来了!无码组件曝光:环球速递
- 我们的家园|中国古羌城开城仪式上感受羌族礼仪文化|环球速看
- 击败《战神:诸神黄昏》《艾尔登法环》等强敌 《吸血鬼幸存者》斩获BAFTA年度最佳_每日头条
- PC《最后生还者:第一部》新补丁:修复内存占用过高等问题
- 《赛博朋克2077》2022年销量再创佳绩 CDPR利润大增|视点
- 什么是电容式触摸屏?电阻触屏好还是电容触屏好?
- 家庭局域网应该如何搭建?家庭局域网搭建的方法
- win7旗舰版怎么安装?安装win7旗舰版的详细操作方法
- win7复制文件提示错误参数不正确该怎么办?复制文件提示错误参数不正确解决方法
- UltraISO软碟通是什么软件?UltraISO软碟通绿色版和单文件区别
- 没有本地组策略编辑器 本地组策略编辑器怎么打开?
- dnf补丁安装教程 DNF怎么打补丁?
- 多玩魔盒和大脚现在哪个好用?怎么卸载多玩魔盒?
- 实用便携 小米双模无线鼠标69元好价
- 中国电信麦芒新机发布会将于4月3日举行,邀您一起“麦向新次元”
- 怎么把vcf导入iphone?vcf导入iphone的教程
- 怎么删除xmptipwnd进程?xmptipwnd进程的清除方法
- 洛奇英雄传怎么交易?洛奇英雄传在哪个平台?
- 浮萍式键盘怎么拆?介绍浮萍式键盘的清理方法及拆开技巧