Rambus GDDR6 PHY——加速智能世界的数据价值-焦点热闻
以ChatGPT为代表的生成式AI让人们看到了智能世界的无限可能,指数级增长的多元化数据为千行百业的AI场景化奠定了基础,而如何有效地采集、存储、传输、处理数据和模型则成为实现高质量AI的关键。在Rambus大中华区总经理苏雷看来,AI大流行的时代,训练和推理都需要海量的数据支持,对于内存产品来说,首先是满足高带宽的要求,其次就是要考虑成本和复杂性,“GDDR技术在带宽、成本和方案复杂性的各因素之间,提供了一种完美的折中技术方案。”
Rambus大中华区总经理苏雷
(资料图片仅供参考)
作为一家领先的芯片和半导体IP供应商,Rambus致力于使数据传输更快更安全,关注产品的产品和方案的易用性,通过一站式的解决方案以及完善的服务机制,使产品方案变得更容易在客户端集成使用。产品方面,Rambus的内存接口芯片不断提高数据中心内存模块的速度和容量,数据安全方面,Rambus有着丰富的安全IP产品线,对用于静态数据和动态数据安全保护都有专门的产品方案,包括安全信任和MACsec和Ipsec等等,整体来说,Rambus的产品应用领域聚焦于服务器、主内存、智能网卡、网络服务和交换机,以及面向未来的内存扩展和池化等市场。
AI技术的深入应用推动了场景化智能的快速发展,数以千亿计的参数模型越来越多,对处理器和带宽提出了更高的要求,很多企业都开始研发定制化的处理器产品,以更好地满足神经网络和特定应用。然而,算力的显著增长并未带来带宽的同步改善,很多GPU资源没有得到充分的使用。把多样化的数据进行分析、导入模型训练之后,会在应用场景端进行推理,NLP、数据库管理等应用越来越多的出现在边缘环境中,数据传输量和响应延迟大幅下降。
“随着AI推理的应用不断向边缘端迁移,我们会把已经训练过的系统实现更快的处理方式,处理速度的提高是非常大的迁移到边缘端的优势。正是在这个变化的趋势过程中,GDDR6也开始发挥作用。”Rambus IP核产品营销高级总监Frank Ferro谈到,“作为更加理想的方案,GDDR6有着高带宽和低时延的特性,能够帮助边缘端更好地处理数据。”
Rambus IP核产品营销高级总监Frank Ferro
如今,GDDR在AI/ML场景(如AI推理等)中有着广泛的使用,还会应用于图形计算、网络等场景。与DDR相比,GDDR在带宽、速度、功耗等方面有着显著优势,吸引了更多的客户将其结合到各类先进设计中。通过Rambus GDDR6 PHY,客户可以获得24Gb/s的数据传输速率,为每个GDDR6内存设备带来96GB/s的带宽。作为系统级解决方案的一部分,Rambus GDDR6可以为AI/ML、图形和网络应用提供高效益、高带宽、低延迟的内存接口解决方案。同时,RambusGDDR6 PHY还有着更优的功耗管理表现。
Rambus的产品实现了PHY和控制器的完整集成,其内存接口系统包括PHY物理层、控制器、DRAM和客户端ASIC,其中,PHY的物理层与DRAM直接相连,接口由两个16位插槽组成,共32位,另一侧的DFI接口与内存控制器连接,控制器会直接接入整个系统的逻辑控制。Rambus会提供下图中的蓝色部分——即完整的子系统(与Rambus GDDR6数字控制器IP相结合),使得客户可以根据场景所需进行定制化使用。此外,Rambus可以保障良好的系统级信号完整性和电源完整性(SI/PI),并且支持LabStation开发环境,能够快速建立系统,进行特性分析和调试。
GDDR6内存接口子系统(控制器+PHY)
在GDDR6时代,有更多的产品开始采用16位双读写通道,可以显著增加数据的传输速度和效率,使得GDDR6内存中的8个双读写通道能够实现256位的数据传输宽度,进一步提升了系统层的效率、优化了功耗,还可以在边缘环境中大幅降低设备对DDR数量的要求。在AI推理场景中,通常的带宽需求在200-500Gb/s之间来,每个GDDR6设备的带宽可以达到96Gb/s,通过将4-5个GDDR6设备进行组合,就能轻松满足500Gb/s及以下的带宽需求。
如果是在云端进行AI训练,对成本因素不敏感的话,也可以选择更大带宽的HBM,如果是边缘端则使用GDDR6效益更好,原因在于,HBM3设备能提供接近800Gb/s的带宽,远超AI推理所需的500Gb/s,考虑到其内存设计和制造难度较高,以及高度集成性(会使用一些中间插入层来处理和传输数据),并且可能需要更多的板卡空间,会导致成本会提升数倍。
除此之外,Rambus还有着更多的特性,包括clamshell模式,即每个信道可以支持两个GDDR6的设备,相当于该模式下整个容量翻倍。GDDR6支持先进的FinFET工艺节点,并且会针对PCB和封装提供相关的参考设计。在开发GDDR6子系统的时候,首先会对数据流进行模拟和建模,这一过程要确保最佳的数据输出量和吞吐量,控制器、优化器会进一步管理内存数据,利用Look-Ahead技术,可以更好地通过数据顺序内存位置进行精准预测,提供更优的数据路径规划,提前了解下一批进入DRAM的数据类型,优化应对机制。
Rambus能够提供灵活的解决方案和一站式服务,包括PHY和控制器集成解决方案,以及全套的测试软件用于快速启动、校准和调试,使用交钥匙的方式把集成测试好的子系统交付给客户,加速芯片产品上市时间。如果客户已经拥有控制器IP,只需要PHY IP授权,Rambus也可以单独授权,并会提供后续相关的集成支持。今年夏季,Rambus GDDR6预计会推出完整的最终硅片,并计划在2025-2026年有厂商会上市使用GDDR6 IP的芯片。“GDDR会应用在图形处理器、自动驾驶、AI、5G基础架构等场景中。Rambus24Gbps GDDR方案的推出,将这些应用提供更高级别的性能和更多的选择。”苏雷说。
标签:
相关推荐:
最新新闻:
- 山西一煤炭集团换帅!
- Rambus GDDR6 PHY——加速智能世界的数据价值-焦点热闻
- 伸向基站的“黑手” 为什么盯上了这块“肥肉”?-世界微动态
- 北纬科技:融资余额1.99亿元,创近一年新低(05-31) 天天微头条
- 债市收盘资金面趋于收敛,银行间主要利率债收益率窄幅波动不足1bp-报资讯
- 眼睛下长疙瘩图片(眼睛下长疙瘩) 天天快讯
- 公安部印发通知进一步加强打击防范证券犯罪工作
- 环球热资讯!“茶和天下·童庆端午”中法少儿雅集活动在巴黎举行
- 热门看点:构建“生育友好”社会须稳住一孩“基本盘”
- 关注:知名资源下载站点RARBG宣布关站 无力继续负担开支
- 中国招教网官网_中国招教网
- 全球快播:游戏性别歧视研究 男性NPC台词是女性NPC的两倍
- 服务站点让户外劳动者享受贴心关爱
- 天天热消息:法律规定信用卡多久会逾期?信用卡逾期会上征信吗?
- 股市早8点丨行情在绝望中产生 世界观热点
- 吹填工程是什么意思(土方吹填是什么意思) 微速讯
- 各位小朋友、大朋友,节日快乐! 全球今亮点
- 下载新商盟官方app4.2.0_下载新商盟
- 我区扎实推进未成年人思想道德建设走深走实
- 即时:科技托起绿色牧场
- 全球观天下!动视CEO锐评微软收购案 成功对行业有利
- 2023年全民禁毒宣传月活动启动 传播禁毒正能量
- 每日观点:萌娃参观警营
- 当前速读:中国最具人才吸引力城市百强榜发布 沈阳大连成为全国前50强城市
- 商业化网游代练行为应受到法律规制-天天新消息
- 英雄索向!索泰携重磅新品及多款明星产品亮相2023台北电脑展
- 当前信息:破发!瀚铠RX 7600显卡1999元
- 皖维高新(600063):5月31日北向资金减持18.91万股 焦点报道
- 环球速读:麻雀虽小五脏俱全 磐镭“掌中宝”WI-7迷你主机上市
- 新潮流?微星发布背部接口主板_世界微速讯
- 永赢基金管理有限公司关于新增蚂蚁(杭州)基金销售有限公司为永赢昌利债券型证券投资基金代销机构的公告 环球聚焦
- 天天简讯:广东举办第三届职业技能大赛
- 世界看点:618大促开启!华为官方限时特惠800元、多款旗舰机
- 高通拟为客户提供比特币期货清算服务
- 《街头霸王6》经典角色服装可免费解锁_天天实时
- 《战神》美术总监现已加盟网飞 开发原创3A游戏_焦点速看
- 《漫威暗夜之子》开发商Firaxis和CDPR各裁员30人
- 火影中比鸣人还能开挂的人,鸣人的挂是官方给的而他是自己开发的
- 贺繁星决意分手,元宋一句挽留让人心疼,网友:太虐!
- 姹紫嫣红(姹紫嫣红的嫣是什么意思) 今日报
- 交通银行长治太东支行筑牢反诈“防火墙”
- 看热讯:比亚迪元Pro上市:价格低于10万
- 太卷了!RTX 30系显卡降至两千元出头-天天报道
- FF91发布 贾跃亭欢迎李想来FF洛杉矶总部交流指导 新动态
- 博主造谣比亚迪起火烧坏特斯拉:已经道歉了
- 全球快消息!保利联合(002037):5月31日北向资金减持47.42万股
- vivoS17顶配不到3000元:比iPhone 14还轻薄
- 环球微头条丨合新铁路淮河特大桥双向架梁
- 每日看点!rh_d血型_rhd_bg_rh d血型是什么意思
- 焦点资讯:淘宝无线开放平台(关于淘宝无线开放平台介绍)
- 带“土”结构的字_请写出带土字结构的字|环球观速讯
- 头条:新济公活佛下部演员表(新活佛济公演员表)
- 全球观天下!两年6万公里保养,两年4万公里保养项目
- 焦点滚动:手机上怎么改路由器密码视频教程 手机上怎么改路由器密码
- 宝石萝莉翼语装备强化思路 全球微速讯
- 快看:ue4是什么引擎_ue4是什么
- 十年一剑什么意思_shinianyijian
- 今日视点:农产品期货市场前景如何_农产品期货市场
- 如何点亮腾讯公益_如何点亮腾讯公益
- 如何变更营业执照经营范围网上(如何变更营业执照经营范围)
- 智慧沃家光猫wifi密码(智慧沃家光猫wifi设置)
- 峨眉山市气象台发布大风蓝色预警信号【IV级/一般】【2023-05-31】
- 头条焦点:织金县金凤街道:组织召开地质灾害防治培训会
- 按察使具体是做什么的?除了分管刑狱,还有一个重要职掌_快看点
- “白色石油”不再吃香?全球第二大锂生产国:2025年后或供应过剩
- 高水平大学有哪些学校 高水平大学有哪些
- 天天观天下!尊(关于尊的基本详情介绍)
- 木果果木品牌介绍_木果果木女装-焦点精选
- 山东利津舜丰村镇银行副行长高桂宝获任职资格
- 昆仑能源公布2022财年年度权益分配方案
- 环球快播:【-MILGRAM-】二审 中文空耳/谐音 06
- 讯息:【画师分享】みふる
- 南京迈特望科技股份有限公司拟定向发行股票
- 大病救助给多少钱_大病救助包括哪些病
- “还以为真打起来了!”今天,韩国首尔市民陷入惊慌和混乱,手机上接连响起一连串警报声