| 代码 | 名称 | 当前价 | 涨跌幅 | 最高价 | 最低价 | 成交量(万) |
|---|
随着AI计算对内存需求不断扩大,全球存储技术创新也进入“加速期”。
据韩国经济日报报道,SK海力士近日在IEEE(电气与电子工程师协会)全球半导体大会上发表论文 ,提出了一种全新的存储架构 。据悉,该架构名为“H³(hybrid semiconductor structure) ”,同时采用了HBM和HBF两种技术。
在SK海力士设计的仿真实验中 ,H³架构将HBM和HBF显存并置于GPU旁,由GPU负责计算。该公司将8个HBM3E和8个HBF置于英伟达Blackwell GPU旁,结果显示 ,与单独使用HBM相比,这种配置可以将每瓦性能提升高达2.69倍 。
图源:SK海力士
实验结果显示,H³架构在AI推理领域尤其具有优势。推理的核心是键值缓存 (KV cache) ,它用于临时存储数据,以理解 AI 服务与用户之间交互的流程和“上下文”。然而,随着 AI 性能的提升 ,KV缓存容量不断增长,以至于HBM和GPU逐渐应接不暇 。
因此,HBF被视作上述架构的核心。与堆叠DRAM芯片的HBM类似,HBF通过堆叠NAND闪存而制成。被称作“HBM之父”的韩国科学技术院(KAIST)教授金正浩类比道 ,HBM与HBF就好比书房与图书馆 。前者容量虽小,但使用起来方便;后者容量更大,但也意味着延迟更高。
通过在HBF中存储KV缓存 ,GPU和HBM可以减轻存储KV缓存的负担,从而专注于它们在高速计算和创建新数据方面的优势。SK海力士模拟了HBF处理高达1000万个令牌的海量键值缓存的场景,结果表明 ,与仅使用HBM的配置相比,该系统处理并发查询的能力提升了高达18.8倍 。以前需要32个GPU才能完成的工作负载,现在只需两个GPU即可完成。
从产业层面来看 ,SK海力士、三星 、闪迪等均在推进HBF技术研发。SK海力士计划最早于今年推出HBF1(第一代产品)样品,该产品预计采用16层NAND闪存堆叠而成。三星电子和闪迪则计划最快在2027年底或2028年初将HBF技术应用于英伟达、AMD和谷歌的实际产品中 。
广发证券认为,当前大模型的参数规模已经达到万亿级别 ,上下文长度普遍超过128K,HBM的容量已难以满足AI大模型对于内存容量的要求。在研的HBF存储容量有望达到现有HBM的8至16倍,有望将GPU的存储容量扩展至4TB,或成为满足AI大模型内存容量要求的最佳方案。
东方证券表示 ,利基存储不仅是存量市场,更是增量市场,AI需求有望为利基存储打开增量空间 。SLC NAND有望应用于AI SSD产品 ,以高效处理AI推理中的数据;SLC NAND未来也可能应用在HBF(高带宽闪存)中。利基存储产能持续被主流存储挤压,涨价有望持续。
(文章来源:科创板日报)
网上股票配资开户:怎么办理加杠杆炒股-7月10日晚间沪深上市公司重大事项公告最新快递
炒股平台:股票投资管理-SK海力士、三星加速HBF商业化进程 “HBM之父”:最快明年用于英伟达产品
股票配资开户费用:十倍杠杆股票-二十届四中全会公报解读:坚持扩大内需战略基点 科技自立自强水平大幅提高
股票杠杆开户:配资炒股股票-李强:加大高质量科技供给和政策支持 着力推动生物医药产业提质升级
正规股票杠杆平台:证券配资APP-SK海力士拔得HBM4头筹:与英伟达谈拢 价格较上代涨50%
网上股票配资平台:炒股10倍杠杆软件-多期财报披露不准确 星星科技连收监管函、警示函
还没有评论,快来说点什么吧~