随着ChatGPT的火爆和AGI行业的蓬勃发展，英伟达正在以前所未有的速度疾驰前行，这一势头不仅推动了GPU市场的繁荣，同时也使得HBM内存的关键地位日益凸显，其热度始终维持在高位。
    近日，继美光和SK Hynix宣布今年自家HBM产能已全部售罄之后，美光与三星也相继推出了全新的HBM产品，试图在日趋激烈的市场竞争中占据一席之地。美光方面不仅带来应用于英伟达GH200的新品，还预告将于2024年3月推出36 GB 12-Hi HBM3E产品；而三星则透露，公司新发布的HBM3E 12H将性能和容量提升超过50%，再次刷新行业标准。
    HBM领域的竞争日趋白热化，它已然成为决定AI芯片生死存亡的关键因素。资深专家Timothy Prickett Morgan指出，谁能掌控HBM技术，谁就掌握了AI训练的核心。
    Timothy Prickett Morgan在其分享正文中强调，驱动Nvidia数据中心GPU加速器在2024年发展的关键并非硬件架构的飞跃、充足的芯片供应量，甚至不是广受赞誉的Nvidia AI Enterprise软件堆栈及其CUDA编程模型和众多库。真正主导Nvidia业务跃进的，在于其雄厚的资金实力。截至2024财年初，英伟达坐拥近260亿美元的现金及银行投资，并预计在本财年内实现破纪录的1000亿美元收入，其中一半以上以净利润形式流入金库，即便扣除税收、大规模研发投入以及日常运营成本后，仍能为公司积累约500亿美元的巨额财富。
    这笔巨资赋予了Nvidia独特的优势，使其在采购用于数据中心级GPU的昂贵HBM堆栈DRAM内存时具备了无可比拟的底气。尽管HBM内存的速度、密度和带宽持续改进，但其进步速度却并未跟上AI加速器所需的步伐。在美光科技加入SK海力士和三星的供应商阵营后，HBM供应虽有所改善，但需求的增长远超供给，导致HBM内存价格随市场需求攀升。
    在GenAI繁荣期，客户愿意不惜重金购买数百至数万个数据中心GPU，这种趋势无疑对Nvidia GPU加速器业务形成有力支撑。以“Hopper”H100 GPU为例，其在2022年3月发布时，特别是在配备80 GB HBM3内存、拥有3.35 TB/秒速度的SXM配置版本中，售价高达3万美元以上。而在H100基础上内存容量提高76.3%、带宽提升43.3%的H200设备，凭借141 GB HBM3E内存和4.8 TB/秒运行速度，Nvidia完全有可能设定出比H100高出1.6至1.9倍的价格。
    在这个背景下，深入探讨HBM领域的发展状况显得尤为关键。SK海力士展示了16层高的HBM3E堆栈，每个堆栈提供48 GB容量和1.25 TB/秒带宽，AMD即将推出的"Antares" Instinct MI300X GPU加速器，搭载192 GB HBM3内存、带宽高达5.2 TB/秒，两者竞相追逐，不断推动HBM技术革新。
    然而，无论市场如何风云变幻，有一点毋庸置疑：拥有充足资金者将制定规则。无论是Nvidia凭借充裕的现金流在HBM内存采购上的强势地位，还是竞争对手AMD在HBM技术和价格策略上的针锋相对，都揭示了一个残酷的事实：在关乎GPU和HBM生死存亡的竞争格局中，掌握核心资源和技术优势的一方将决定整个AI训练乃至人工智能产业的发展节奏与定价权。