高带宽内存成新宠 三大巨头加码“押注”
2023-07-29 06:11:18 来源:中国经营网
ChatGPT在全球的关注度持续火热,再次将AI产业推到聚光灯下,而在这一领域一直盘踞着两大巨头,硬件层面英伟达独领风骚,而OpenAI凭借GPT模型在软件层面独占鳌头。但随着AI产业迎来“iPhone时刻”,为满足海量数据存储以及日益增长的繁重计算需求,半导体存储器领域也迎来新的变革,高带宽、低功耗内存HBM“粉墨登场”,SK海力士、三星等存储厂商也收获颇丰。
《中国经营报》记者从多位业内人士处了解到,DRAM(动态随机存取存储器)分为三个类型:标准DDR、移动DDR以及图形DDR,HBM属于最后一种,即图形DDR。作为一种新兴的标准DRAM解决方案。HBM的优点显而易见,它可以显著提升数据传输速度。其在数据中心中的应用已经很成熟,并且由于人工智能、机器学习的需求而使用量不断增长,但缺点是高昂的成本。
【资料图】
各方抢购
在当前DRAM的整体颓势之中,HBM实现了逆市增长。
HBM全称为High Band width Memory,即高带宽内存,是一种新兴的标准DRAM解决方案。高带宽内存方案最初是由三星、AMD和SK海力士提出来的。HBM技术可实现高于256GBps的突破性带宽,同时降低功耗。它具有基于TSV和芯片堆叠技术的堆叠DRAM架构,核心DRAM芯片位于基础逻辑芯片之上。第一个HBM内存芯片由SK海力士于2013年生产,第一个使用HBM的产品是2015年的AMD Fiji GPU。
去年年底以来,ChatGPT 引爆AI概念,AI 相关需求呈快速增长态势。而 AI 的快速发展,对数据量和算力的需求也有大幅拉动,拉动相关半导体需求的持续提升。
民生证券指出,处理器性能不断提升,“内存墙”成为计算机系统的瓶颈,而HBM通过3D堆栈可提供更高的内存带宽和更低的能耗,适用于高存储带宽需求的应用场合,如HPC、网络交换设备等。
半导体分析师王志伟对记者表示,“内存墙”指的是内存性能严重限制CPU性能发挥的现象。存储器与处理器性能差异正随时间发展逐渐扩大,当存储器访问速度跟不上处理器数据处理速度时,存储与运算之间便筑起了一道“内存墙”。而随着人工智能、高性能计算等应用市场兴起,数据量指数级增长,“内存墙”问题也愈发突出。
据悉,英伟达与AMD最新的高端GPU产品H100以及MI300中,都配备了目前最新的HBM3。并且,微软、亚马逊等多个科技巨头也都在排队抢购SK海力士的第五代高带宽内存HBM3E。
AMD CEO苏姿丰表示,HBM采用堆叠式设计实现存储速度的提升,大幅改变了GPU逻辑结构设计,DRAM颗粒由“平房设计”改为“楼房设计”,所以HBM能够带来远远超过当前GDDR5所能够提供的带宽上限。
TrendForce 最新报告预计,2023年AI服务器出货量(含GPU、FPGA、ASIC等)预估在120万台,年增长率近38%。AI芯片出货量同步看涨,预计今年将增长50%。与此同时,目前高端AI服务器GPU搭载HBM芯片已成主流,预计2023年全球HBM需求量将年增近六成,达到2.9亿GB,2024年将再增长30%。
而根据Omdia 数据,2020 年全球 HBM 市场规模为 4.58 亿美元,预计 2025 年市场规模将达到 25 亿美元,年复合增长率高达 40.38%。
不仅是AI,AR 和 VR市场的不断增长也在推动HBM市场的增长。根据 Astute Analytica 的数据,截至 2021 年,全球企业 VR 和 AR 市场价值为 189 亿美元,预计到 2030 年将达到 3649 亿美元,2022 年至 2030 年间的复合年增长率为 39.2%。
王志伟分析认为, VR 和 AR 系统需要更高分辨率的显示器。这些显示器需要更多的带宽来在 GPU 和内存之间传输数据,这正是 HBM 的用武之地。HBM 能够提供高达传统内存解决方案三倍的带宽,已成为高分辨率显示器的理想选择。
三分天下
过去,HBM的需求仅占整体DRAM市场的不到1%,而随着市场需求的进一步提高,各大存储厂商也展开了对这一市场的争夺。
HBM市场目前由三大DRAM原厂占据,根据TrendForce统计,2022年三大原厂HBM市场占有率分别为SK海力士占50%、三星约40%、美光约10%,而SK海力士是唯一实现了量产HBM3的厂商。预计2023年SK海力士将受益新世代HBM3产品的量产,其市场占有率有望提升至53%。
今年4月SK海力士又推出24GB HBM3产品(HBM3E),容量再度提升且采用更薄的DRAM芯片垂直堆叠,实现了与16GB产品相同的高度,而这也是头部公司争相向SK海力士申请样片测试的原因。
而这也让SK海力士在相对萎靡的存储市场得以支撑。财报显示,SK海力士第二季度合并收入为7.31万亿韩元,环比增长44%,同比下降47%;营业亏损2.88万亿韩元,环比增长15%,同比由盈转亏;净亏损2.99万亿韩元,环比下降16%,同比由盈转亏。2023财年第二季度营业亏损率为39%,净亏损率为41%。
SK海力士表示,尽管消费者需求持续疲软,但生成式AI市场的扩张已迅速推高了对AI服务器内存的需求。因此,HBM3和DDR5等高端产品的销量增加,从而推动公司第二季度收入环比增长44%,而营业亏损收窄15%。
不仅如此,SK海力士已明确明年上半年生产HBM3E,并将HBM4的生产目标时间定在了2026年。
另一存储巨头三星也计划投资1万亿韩元(约合7.6亿美元)扩产HBM,目标明年年底之前将HBM产能提高一倍,已下达主要设备订单。据当地券商KB Securities称,到2024年,HBM3将占三星芯片销售收入的18%,高于今年预计的6%。据韩媒报道称,三星负责芯片业务的设备解决方案部门总裁兼负责人 Kyung Kye-hyun 在今年7月早些时候的公司会议上表示,三星将努力控制一半以上的 HBM 市场(现在40%)。
作为三大原厂中市场份额占比最小的美光也不甘人后,美光的管理层在早前的发布会上声称,他们不仅会在 HBM3上迎头赶上,而且还会超越目前的领先者。
美光指出,客户现在正在试用其新的 HBM3 产品,并表示该产品比竞争解决方案具有明显更高的带宽,并在性能和功耗方面建立了新的基准。
值得注意的是,日前,美光已宣布已出样业界首款8层堆叠的24GB容量第二代HBM3内存,基于1β DRAM制程节点高带宽内存(HBM)解决方案,带宽超过1.2TB/s,引脚速率超过9.2GB/s,比现有HBM3解决方案性能可提升最高50%。美光介绍,第二代HBM3产品与前一代产品相比,每瓦性能提高2.5倍,可帮助缩短大型语言模型(如GPT-4及更高版本)的训练时间,降低总体拥有成本(TCO)。
(文章来源:中国经营网)
标签:
相关阅读
精彩推荐
- 高带宽内存成新宠 三大巨头加码“押注”2023-07-29
- 2-0!实力吊打韩国组合,冯彦哲黄东萍晋级2023-07-29
- 新世界发展(00017.HK):7月28日南向资金2023-07-29
- 拉花是什么样子的(拉花是什么意思)2023-07-29
- 2023年7月28日甘肃省电解镍板价格最新行情2023-07-29
- 360qq下载(360qq)2023-07-29
- 股票行情快报:致远互联(688369)7月28日2023-07-29
- 成都大运会|今夜成都,焰火璀璨2023-07-28
- 成都大运会|开幕式独家揭秘之一:倒计时为2023-07-28
- 成都大运会|开幕式独家揭秘之二:“蜀中瑰2023-07-28
- 粤 水 电: 独立董事关于使用闲置自有资2023-07-28
- 众生药业: 关于部分限制性股票回购注销完2023-07-28
- 平安银行: 独立董事独立意见2023-07-28
- S25静天高速公路张家川段有望年底通车2023-07-28
- 【中国那些事儿】外国运动员点赞成都:太有2023-07-28
- 足坛15笔过亿转会:内马尔贝尔C罗领衔,皇2023-07-28
- 大运会开幕式,为什么从12倒计时?2023-07-28
- 大运会开幕式倒计时从“12”开始,象征太阳2023-07-28
- 华锡有色: 广西华锡有色金属股份有限公司2023-07-28
- 内蒙华电: 内蒙古蒙电华能热电股份有限公2023-07-28
- 罗平锌电: 关于股东开展融资融券业务的补2023-07-28
- 万里石: 2023年第二季度装修装饰业务主要2023-07-28
- 蔚来起诉车圈百万大V,一审获赔30万!车企2023-07-28
- 西城区与列宁区共庆结好5周年并签署备忘录2023-07-28
- 国家金融监督管理总局发布《银行保险机构操2023-07-28
- 大运正当时 | 跟着蓉宝逛蓉城2023-07-28
- 今年上半年我国物流运行情况如何?一组数据2023-07-28
- 中国正能量,点燃奋斗新时代的精神火炬2023-07-28
- 大运来了!一起在大运村里体验中医魅力2023-07-28
- 2022年我国“三新”经济增加值占GDP比重达12023-07-28