H800国内首发 腾讯云发布最新高性能计算集群_天天热头条
4月14日,腾讯云正式发布新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用腾讯云星星海自研服务器,搭载英伟达最新代次H800 GPU,服务器之间采用业界最高的3.2T超高互联带宽,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。
实测显示,腾讯云新一代集群的算力性能较前代提升高达3倍,是国内性能最强的大模型计算集群。
2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。
(资料图片)
大模型进入万亿参数时代,单体服务器算力有限,需要将大量服务器通过高性能网络相连,打造大规模算力集群。通过对处理器、网络架构和存储性能的全面优化,腾讯云攻克了大集群场景下的算力损耗问题,能为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。
网络层面,计算节点间存在海量的数据交互需求,随着集群规模扩大,通信性能会直接影响训练效率。腾讯自研的星脉网络,为新一代集群带来了业界最高的3.2T的超高通信带宽。实测结果显示,搭载同样的GPU卡,3.2T星脉网络相较前代网络,能让集群整体算力提升20%,使得超大算力集群仍然能保持优秀的通信开销比和吞吐性能。并提供单集群高达十万卡级别的组网规模,支持更大规模的大模型训练及推理。
存储层面,几千台计算节点同时读取一批数据集,需要尽可能缩短加载时长。腾讯云自研的文件存储、对象存储架构,具备TB级吞吐能力和千万级IOPS,充分满足大模型训练的大数据量存储要求。
底层架构之上,针对大模型训练场景,新一代集群集成了腾讯云自研的TACO Train训练加速引擎,对网络协议、通信策略、AI框架、模型编译进行大量系统级优化,大幅节约训练调优和算力成本。
腾讯混元大模型背后的训练框架AngelPTM,也已通过腾讯云对外提供服务,帮助企业加速大模型落地。
目前,腾讯混元AI大模型,已经覆盖了自然语言处理、计算机视觉、多模态等基础模型和众多行业、领域模型。
在腾讯云上,企业基于TI平台的大模型能力和工具箱,可结合产业场景数据进行精调训练,提升生产效率,快速创建和部署AI 应用。
此前,腾讯多款自研芯片已经量产。其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用,性能指标和综合性价比显著优于业界。其中,紫霄采用自研存算架构,增加片上内存容量并使用更先进的内存技术,消除访存能力不足制约芯片性能的问题,同时内置集成腾讯自研加速模块,减少与CPU握手等待时间。目前,紫霄已经在腾讯头部业务规模部署,提供高达3倍的计算加速性能,和超过45%的整体成本节省。
目前,腾讯云的分布式云原生调度总规模超过1.5亿核,并提供16 EFLOPS(每秒1600亿亿次浮点运算)的智算算力。未来,新一代集群不仅能服务于大模型训练,还将在自动驾驶、科学计算、自然语言处理等场景中充分应用。
以新一代集群为标志,基于自研芯片、星星海自研服务器和分布式云操作系统遨驰,腾讯云正通过软硬一体的方式,打造面向AIGC的高性能智算网络,持续加速全社会云上创新。
标签:
相关推荐:
最新新闻:
- 天天新动态:0.8秒极速拍摄!小米13 Ultra新增徕卡街拍模式
- H800国内首发 腾讯云发布最新高性能计算集群_天天热头条
- 【播资讯】国产FPS《边境》发布之路坎坷:服务器出现紧急BUG
- 视点!2023年未来游戏展夏季展示定于6月11日举行
- 环球最资讯丨山西同世缘贸易有限公司
- 真人剧《斗破苍穹之少年归来》首支预告:斗者气概不灭 热血少年归来!
- 椰树模特展台跳舞被指营销擦边 网友:劝你不要多管闲事 视焦点讯
- 小米13 Ultra跑分曝光:毫无惊喜-环球热议
- 亚马逊云科技推出创新成长企业加速中心 携手合作伙伴赋能成长型企业_环球看点
- 视点!市场上的国产电视机价格怎么样?不同品牌的国产电视机价格
- 什么是鼠标手?鼠标手有什么症状?
- 当前速递!电灯开关如何安装?安装电灯开关的方法有哪些?
- 踢脚线暖气片安装方法有哪些?踢脚线暖气片安装步骤介绍
- 如何更改电脑语言设置?如何添加自己的语言?
- 升技主板bios怎么升级?升技主板bios升级具体流程介绍
- 以差异化产品构筑高品质生活,金帝辰星系列荣获15项国家专利!
- 道客巴巴怎么免费下载?下载流程介绍-环球实时
- 世界头条:iPhonex尺寸多大?史上屏幕最大的苹果手机
- 中柏笔记本电脑怎么样?中柏笔记本电脑有哪些不足之处?
- “算网赋能·数智未来”,移动云城市峰会福建站成功举行:天天微速讯
- 什么是拖库攻击?Strusts2高危漏洞是什么?
- 世界速递!qsv格式转换mp4怎么操作?qsv格式转换mp4步骤
- 苹果闹内斗?MR头显又要跳票啦!-全球新视野
- 支付宝蚂蚁花呗利息如何计算?支付宝蚂蚁花呗利息计算方法-天天实时
- 每日播报!常见HTTP状态码都有哪些?分别表示什么意思?
- 全球今头条!索尼LT26i容量是多少?索尼LT26i容量介绍
- 联想A60怎样刷机?联想A60刷机方法介绍:焦点关注
- 【PHP培训】如何学好PHP?PHP学习方法有哪些? 热点聚焦
- 家用空气净化器哪个牌子好?除雾霾效果好的品牌有哪些?_天天观热点
- PS CS6如何破解?photoshop CS6破解教程
- 焦点报道:内存卡无法格式化怎么办?内存卡无法格式化的解决方法
- 世界今热点:新手如何建立网站?网站建设的主要流程是什么?
- 焦点热文:相机存储卡格式化了数据能恢复吗?相机无法格式化存储卡怎么办?
- PSVita连接至电脑怎么升级?PSVita连接至电脑升级的方法
- 爱奇艺vip激活码怎么获取?获取方法大全
- CAB软件安装不成功的原因有哪些?手机软件游戏安装方法:天天速读
- pdf如何在线编辑和修改?具体方法步骤
- 如何打开远程服务器端口?WinXP打开服务器端口方法
- 如何自学编程?自学编程的方法技巧
- 今日播报!ios15.3怎么退回?恢复之前的系统备份很重要
- 【世界新要闻】java下载web文件有哪些方法?java如何下载web文件?
- 康派集成灶优势有哪些?康派集成灶性能优点
- 千元平板电脑有什么推荐?千元平板电脑排行榜 环球观焦点
- 单卡手机怎么变双卡双待?单卡手机变双卡双待的方法流程_世界热议
- ipad越狱后怎么还原?ipad越狱之后恢复教程-环球快报
- 安装MAC系统必备工具 关于安装MAC系统的3种变色龙
- 怎么配置V530交换机?Xshell下载及安装软件教程
- 什么是微信公众平台?微信公众平台接口开发指南_今日要闻
- 4月美服PS+二三档游戏大小总结:《毁灭战士永恒》PS5约84GB
- 微信公众号助力活动怎么做?制作教程来啦 世界短讯
- 鸿蒙3家族再度壮大:24款新机型加入:环球快报
- 1999元!OPPO A1开售:120Hz高刷高亮屏+12GB大运存-全球快播
- 4799元起!七彩虹RTX 4070显卡开售_每日热闻
- 财鑫闻丨A股一季报行情已展开,54股预计一季报净利翻倍,机构聚焦三条主线
- legacy和uefi什么区别?legacyBIOS开机引导过程是什么?
- 淘宝店铺旺旺交易量怎么查询?淘宝交易额查询方法
- 电脑QQ浏览器临时文件夹在哪里?如何修改缓存?
- 浓浓跨界范儿 别克Electra E4申报图曝光
- 决策天机手机版有什么用?决策天机应用功能及使用方法
- win10删除Thumbsdb文件的方法是什么?如何删除微软账户?
- warmh基于魔兽有什么用?warmh使用说明
- 京东组织架构调整!2023刘强东回归三把火:低价、“平权”与Big Boss:今热点
- 《地平线:西之绝境》DLC战斗实机公布!埃洛伊暴打机械兽! 世界热讯
- 3岁以下孩子不宜吃蛋白粉-环球观天下
- 《最终幻想16》25分钟实机公布:少年克莱夫登场 BOSS战超酷! 当前资讯
- mrs什么意思中文意思_mrs什么意思
- 当前资讯!JBL蓝牙动圈降噪耳机309元
- 新款特斯拉Model 3实车首曝:不到20万:每日动态
- 全球视讯!飞利浦新LED灯泡再节能40%
- 掌机有福了!微软试验在Win11中添加“手持模式”
- 4月18日发布!小米Pad 6系列平板电脑官宣:号称“超强势生产力工具”-天天速看
- 世界球精选!育碧免费多人射击《不羁联盟》现已开启封闭测试
- 魔法射击系游戏《不朽者传奇》公布 7月20日发行
- 摩托竞速游戏《极速骑行5》公布 截图和预告片分享
- 【全球报资讯】《塞尔达传说:王国之泪》官网上线!林克、塞尔达、盖侬介绍公布!