NVIDIA推出DGX H100系统 领跑企业级AI基础设施
NVIDIA今日宣布推出第四代NVIDIA DGX系统,这是全球首个基于全新NVIDIA H100 Tensor Core GPU的AI平台。
NVIDIA DGX H100 Systems
DGX H100系统能够满足大型语言模型、推荐系统、医疗健康研究和气候科学的大规模计算需求。每个DGX H100系统配备八块NVIDIA H100 GPU,并由 NVIDIA NVLink连接,能够在新的FP8精度下达到32 Petaflop的AI性能,比上一代系统性能高6倍。
DGX H100系统是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基础设施平台的构建模块。新的DGX SuperPOD架构采用了一个全新的NVIDIA NVLink Switch系统,通过这一系统最多可连接32个节点,总计256块H100 GPU。
新一代DGX SuperPOD提供1 Exaflops的FP8 AI性能,比上一代产品性能高6倍,能够运行具有数万亿参数的庞大LLM工作负载,从而推动AI的前沿发展。
NVIDIA创始人兼首席执行官黄仁勋表示:“AI已经从根本上改变了软件的功能和产出方式。利用AI来革新自身所处行业的公司也意识到了自身AI基础设施的重要性。NVIDIA全新DGX H100系统将赋能企业AI工厂,助力其从数据中提炼出我们最具价值的资源,即‘智能’。"
全球运行速度最快的AI超级计算机——NVIDIA Eos
NVIDIA将率先使用突破性的新型AI架构来构建DGX SuperPOD,赋能NVIDIA研究人员的研究工作,推动气候科学、数字生物学和AI未来的发展。
“Eos”超级计算机将于今年晚些时候开始运行,共配备576台DGX H100系统,共计 4608块DGX H100 GPU,有望成为全球运行速度最快的AI系统。
NVIDIA Eos预计将提供18.4 Exaflops的AI计算性能,比日本的Fugaku超级计算机快4倍,后者是目前运行速度最快的系统。在传统的科学计算方面,Eos预计将提供275 Petaflop 的性能。
对于NVIDIA及其OEM和云计算合作伙伴,Eos将成为其先进AI基础设施的蓝图。
借助DGX H100系统、DGX POD和DGX SuperPOD,轻松扩展企业级AI
在企业从初始项目发展到广泛部署的过程中,DGX H100系统能够实现轻松扩展,满足企业的AI需求。
除了八块H100 GPU以及总计6400亿个晶体管之外,每个DGX H100系统还包含两个NVIDIA BlueField-3 DPU,以用于卸载、加速和隔离高级网络、存储及安全服务。
八个NVIDIA ConnectX-7 Quantum-2 InfiniBand网卡能够提供400 GB/s的吞吐量,可用于连接计算和存储,这一速度比上一代系统提升了一倍。第四代NVLink与NVSwitch相结合,能够在每个DGX H100系统中的各个GPU之间实现900 GB/s的连接速度,是上一代系统的1.5倍。
DGX H100系统使用双x86 CPU,能够与NVIDIA网络和NVIDIA合作伙伴提供的存储设备相结合,使DGX POD能够灵活用于各种规模的AI计算。
借助 DGX H100 系统,DGX SuperPOD可成为具有可扩展性的卓越的企业级AI中心。DGX SuperPOD中的DGX H100节点和H100 GPU由NVLink Switch系统和NVIDIA Quantum-2 InfiniBand连接,带宽速度可达70 TB/s,比上一代产品高11倍。NVIDIA合作伙伴提供的存储设备将经过测试和认证,以满足DGX SuperPOD AI计算的需求。
多个DGX SuperPOD单元可组合使用,为汽车、医疗健康、制造、通信、零售等行业提供开发大型模型所需的AI性能。
NVIDIA DGX Foundry托管的开发解决方案正在全球扩展,使DGX SuperPOD客户能够在他们的系统安装期间,立即获取先进的计算基础设施。北美、欧洲和亚洲的新增地点支持远程访问DGX SuperPOD(或其中部分)。
DGX Foundry中包含NVIDIA Base Command软件,后者能够使客户基于DGX SuperPOD基础设施,轻松管理端到端AI开发生命周期。
通过在全球各地的Equinix IBX(International Business Exchange)数据中心托管的NVIDIA LaunchPad实验室,符合资格的企业可以免费体验NVIDIA Base Command和DGX系统。
企业级AI软件MLOps助力客户提高AI采用率
为支持正在进行AI开发的DGX客户,NVIDIA DGX-Ready软件合作伙伴(包括Domino Data Lab、Run:ai和Weights&Biases等)提供的MLOps解决方案将加入“NVIDIA AI加速”计划。
参与活动的合作伙伴提供的MLOps应用程序将经过验证,为DGX客户提供企业级工作流以及集群管理、调度与编排解决方案。
此外,NVIDIA DGX系统现在包含NVIDIA AI Enterprise软件套件,该套件新增了对裸金属基础设施的支持。DGX客户可使用软件套件中包含的预训练NVIDIA AI平台模型、工具包和框架(例如NVIDIA RAPIDS、NVIDIA TAO工具套件、NVIDIA Triton推理服务器等)来加快工作速度。
DGX-Ready托管服务计划能够简化AI部署
随着企业AI采用率不断提高,客户正在寻求更多选择,以便添加实现业务转型所需的基础设施。NVIDIA推出新的DGX-Ready托管服务计划,能够为希望与服务提供商开展合作来监督其基础设施的客户提供支持。
德勤是率先与NVIDIA合作开展此计划的全球提供商,并将经过认证,可与区域供应商(CGit、ePlus、Insight Enterprises和PTC System)一起,为欧洲、北美和亚洲的客户提供支持。
德勤咨询首席合伙人兼AI与数据运营服务负责人Jim Rowan表示:“只有企业能够将技术集成到运营中时,AI才可能助推业务实现突破。借助新的DGX-Ready托管服务计划,客户可以轻松采用先进的AI技术以及由德勤全球专家管理的NVIDIA DGX系统和软件。”
DGX-Ready生命周期管理计划助力实现轻松升级
现在,客户可以通过新的DGX-Ready生命周期管理计划,借助新的NVIDIA DGX平台升级其现有DGX系统。
参加DGX-Ready生命周期管理计划的NVIDIA渠道合作伙伴将可以更新上一代DGX系统,以供新客户进行购买,并扩展用于AI基础设施的全球通用系统的获取途径。
供货信息
从第三季度起,NVIDIA的全球合作伙伴将开始供应NVIDIA DGX H100系统、DGX POD 和DGX SuperPOD。
客户还可以选择在由Cyxtera、Digital Realty和Equinix IBX数据中心等NVIDIA DGX-Ready数据中心合作伙伴运营的托管设施中部署DGX系统。
七彩虹iGame GeForce RTX 3060 Ti Ultra W OC LHR
进入购买
微星(MSI)万图师 GeForce RTX 3060 Ti VENTUS 3X 8G OC LHR 超频版 三风扇 次旗舰 电竞游戏设计电脑显卡
进入购买
丽台Quadro P1000
进入购买
相关推荐:
最新新闻:
- 怎么通过回收站还原误删文件?回收站还原误删文件方法
- 如何解决Foxmail邮箱不能发送邮件问题?Foxmail邮箱不能发送邮件解决方法
- GrooveMonitor.exe是什么进程?GrooveMonitor.exe可以禁用卸载吗?
- Svchost.exe是什么?Svchost病毒清除办法
- win7系统如何设置Guest账户密码?Guest账户密码设置方法
- WebFreer怎么用?webfree浏览器使用方法
- GG修改器如何修改与冻结应用数值?修改与冻结应用数值操作步骤
- RMVB是什么意思?rmvb解析
- 有线宽带路由器怎么使用?有线宽带路由器使用方法
- 豆丁网上的文档怎么复制?豆丁网上的文档复制方法
- 安全更新补丁怎么下载?win7系统安全更新补丁KB4022722下载地址
- au_.exe是什么进程?au_.exe文件怎么删除?
- 卡盟是什么?为什么会有这么多的卡盟出现呢?
- cmd.exe是什么?cmd.exe有什么作用?
- 如何注册电脑上windows live的ID?windows live的ID注册步骤
- 如何解决Excel数据透视表无法分组问题?Excel数据透视表无法分组解决方法
- 黑莓10怎么使用代理?黑莓10使用代理的方法
- 如何使用网易云音乐Sati空间功能?网易云音乐Sati空间功能使用方法
- sqlwriter.exe进程是什么?sqlwriter.exe进程可以关闭吗?
- index.dat文件如何查看?使用工具查看index.dat文件
- 即时看!北约秘书长:乌克兰总有一天会加入北约,俄罗斯没有否决权
- 每日速看!《传送门》RTX版DLSS 3特性展示:开启前后的画面、帧数对比
- 58岁张曼玉参加纪念梅艳芳活动 穿V领碎花裙依旧优雅迷人
- 《漫威暗夜之子》官方发布预告片现已推出! 每日速讯
- 环球微头条丨歌手Hozier将参与本届TGA 与《战神》作曲家带来表演
- 《壮志凌云2》限时重返院线上映 12月2日至15日:天天看热讯
- 天天观天下!B站否认会推出贴片广告 陈睿回应接手B站游戏业务
- 天天快资讯丨亚马逊计划年投入10亿美元用于电影制作 推出12~15部
- 全球球精选!闲鱼卖二手,破财难消灾
- 《圣斗士星矢》真人电影先导预告和海报 过于霸气:环球即时
- FS社员工称工资不高有加班 但工作像玩黑魂有成就感:今日关注
- 热门:尹锡悦准备“量身定制”福利以吸引特斯拉超级工厂入驻韩国
- TI后更新来了 《DOTA2》7.32d平衡性更新上线:今日聚焦
- 热点评!《鬼怪》编剧新作 宋慧乔与前夫宋仲基“复仇之战”
- 分不清“事实与观点”的讨论,只是在浪费时间
- 出厂即6GHz i9-13900KS上架了 价格很贵
- 天天要闻:4款N卡停产 以后新卡只能买30系和40系了
- 环球动态:NUC玩跨界!英特尔公版NUC X15游戏本预售5999元
- 冠脉支架集采提价超25%,医药行业预期改变了吗?| 见智研究-全球焦点
- 《孤岛惊魂6》开启免费体验12月6日推出异界DLC
- 沉寂十年之后,大宗商品对冲基金强势归来
- 全球新消息丨类银河恶魔城射击游戏《魔骑少女》现已正式上市
- 动态焦点:华硕ROG幻16 2023款曝光 或将搭载13代酷睿和RTX 40显卡
- 损失严重!苹果iPhone产量极具下滑:预计减少5%至10%:环球快看点
- 每日热门:威尔士0-3不敌英格兰!英格兰队世界杯总进球数破百
- 补贴十三年,肥了谁?废了谁?|焦点精选
- 今日播报!高性价比推荐!一线大牌15.6英寸轻薄本3499元秒
- 特斯拉开始从它降价!每千瓦时降约0.35元
- 199元!网易UU加速盒2发布:支持所有游戏主机、VR
- SE公布《浪漫沙加:吟游诗人之歌》8名主角介绍预告:每日速读
- 快讯:影驰全家桶:冬日装机,纯白平价优选,颜值实力兼具
- 保护用户不力!Meta欧洲被罚2.65亿欧元_当前要闻
- 谷歌手机广告造假 连带广告公司被FCC起诉
- RGB控制一键超频 耕升GW-SOUL软件详解
- 当前视讯!韩国罢工潮愈演愈烈!与工会谈崩后,政府下达强制开工令
- 一边办世界杯,一边狂“卖气”!卡塔尔与德国达成一份15年天然气供应协议
- 出险房企等来了红包_全球快看点
- 天天快资讯:法拉利首款SUV停止接单!已经供不应求了
- 《如龙维新极》冈田以藏介绍:沉默寡言的危险剑客
- 【独家】传闻:《使命召唤》以幽灵为主角的内容正在开发
- 《传送门RTX》12月8日发售 DLSS 3特性展示_天天快看
- 快播:苹果AirPods Pro 2耳机-500 只要1399
- 天天通讯!小米12 Pro降到2599 小米12s Ultra也只要4999
- 上财校长称40万博士生月收入仅3000元 建议提高博士生的收入_微动态
- C919大型客机获颁生产许可证_天天速读
- 天文学家痛斥:美国一卫星比天上99.8%的星星都亮
- 世界快看点丨第二春?《大镖客2》Steam在线人数超6.6万创下新高
- 世界焦点!《亚当斯一家》真人剧《星期三》豆瓣开分8.1
- 《木卫四协议》前期2个小时视频被泄露
- 每日讯息!如何在卡牌游戏里体验“满清十大酷刑”?
- 布兰妮在社交媒体疯狂输出 粉丝:她的眼神让人毛骨悚然
- 每日热文:《FF7核心RE》新预告:预购开启、12月13日正式推出
- 角逐元宇宙,索尼也来了!推出360美元可穿戴VR设备 焦点简讯
- 微软收购动视暴雪获得沙特、巴西和塞尔维亚的批准|快报
- 《瞬息全宇宙》获哥谭奖“最佳影片”