
不是黑龙江保温护角专用胶厂,Flash 不是很慢吗?SanDisk 和 SK 海力士怎么拿它喂大模型了???
IEEE 新刊发了条挺反常识的新思路:大模型的内存焦虑,可能要靠 U 盘里的同款技术来缓解了。
没错,就是NAND Flash。
在不少人的印象里,Flash 大的特点是便宜、容量大、断电还不丢数据,但要说速度,尤其是拿来驱动大模型理,似乎怎么都不像正经案。
但现在,SanDisk 和 SK 海力士正在动种新东西:High Bandwidth Flash(带宽闪存),简称 HBF。
它的思路很直接:把 HBM(带宽内存)那套封装和芯片堆叠的法,搬到 NAND Flash 上。
换句话说,就是让原本负责存东西的闪存,也能参与到 AI 理的速数据供给里。
根据 SanDisk 公开资料,HBF 预计可以堆叠多16 颗NAND Flash 芯片,目标单个堆栈容量可达 512GB,目标读取带宽可达 1.6TB/s。
后续二代、三代路线图里,读取带宽还会进步提升到 2TB/s 和 3.2TB/s。
这个数字虽然还追不上顶 HBM,但已经不是传统闪存那种"慢吞吞存储"的状态了。
这技术突围的背后,可能是全球存储行业亟待化解的供应紧缺困局。
就在前几天(北京时间 7 月 11 号),韩国存储巨头 SK 海力士的席执行官郭鲁正曾在美股纳斯达克秀之日公开表示,全球存储行业预计将在 2027 年面临史上严重的供应短缺,该言论迅速引爆资本市场与产业舆论。
在此背景下,SK 海力士携手 SanDisk 出 HBF,或许正是他们为了缓解存储供应紧张交出的份技术答卷。
起来看看吧。
Flash 不是很慢吗,怎么能给 AI 用?
问题来了,Flash 不是出了名的写入慢吗?怎么突然能给 AI 用?
半体市场研究机构 Objective Analysis 总监 Jim Handy 在 IEEE Spectrum 采访中就提到,很多人反应也是这个:这怎么说得通?Flash 明明慢得离谱。
但关键在于,Flash 慢,主要慢在写入。
NAND Flash 通过浮栅晶体管里的电荷来存储数据,并按块和页进行组织。这种机制使其断电后仍能保留数据,需像 DRAM 那样不断刷新,因此适长期存储,兼具密度与低成本的优势。
不过代价就是,写入数据时,需要把电荷进或移出缘栅,这个过程比给电容充放电慢得多。
所以在传统计视角下,Flash 很难和 DRAM、HBM 这类速内存放在个桌上讨论。
但如果只看读取,事情就不样了。
按新 ONFI 6.0 闪存接口标准,单颗 die 理论带宽可以到 4.8GB/s。
单看这个数字,确实不夸张。
但DDR5 单条 DIMM 可到 70.4GB/s,HBM4E 单堆栈是能到 3.6TB/s,和单颗 NAND 闪存芯片相比大约是750 倍量差距。
HBF 要做的,就是通过 3D 封装和垂直堆叠,把多个 NAND Flash die 包到起,显著提总读取带宽。
SK 海力士内存系统研究总裁 Hoshik Kim 指出:"通过将的 3D 封装和垂直堆叠技术应用于 NAND 闪存,HBF 能够实现远标准 NVMe 存储的带宽。"
正如 HBM 堆叠 DRAM 芯片样,HBF 则通过堆叠 NAND 闪存裸片,造出存储密度的芯片。
他们想做的,从来不是让单颗 Flash 突然变快,而是通过堆叠和封装,把读取通道堆出来。
HBF 不是要取代 HBM,它找准了自己的定位
HBF 真正有意思的地,不在于它要取代 HBM。
而在于它找准了个很适 Flash 的场景:AI 理黑龙江保温护角专用胶厂。
训练和理,对内存的要求并不样。
训练大模型时,系统要不断读取权重、计误差,再通过反向传播新权重;
这个过程既要大量读,也要大量写,对 Flash 非常不友好;
因为 Flash 写入慢,写多了还涉及寿命和擦写管理问题。
但理阶段就不样了。
在这个阶段,模型已经完成训练,权重基本冻结,大多数时候,系统需要的是把这些庞大的模型权重快速读出来,而不是频繁改写它们。
这正好落在 Flash 相对擅长的侧。
SK 海力士内存系统研究总裁 Kim 表示:"在理环境中,诸如静态的数十亿参数模型权重或预计的 KV 缓存(precomputed KV cache)等海量、读密集型数据,均可稳妥地存放于 HBF 层。"
这样来,昂贵且容量有限的 HBM 就能被释放出来,万能胶厂家门充当速暂存区。
这个架构有点像给 AI 加了层"大容量只读内存池"。
HBM继续负责紧急、频繁的速计数据交换。
HBF则负责装下那些体量巨大、但不怎么改动的模型参数。
对当下的大模型理来说,这个思路很有现实意义。
因为当前大模型理所面临的困境早已不止于力短缺,内存不够、带宽不够、能耗太、部署成本太贵等多重压力正交织叠加。
尤其是在模型规模持续膨胀的大背景下,单卡显存容量不足与 HBM 成本昂正成为制约其发展的显著因素。
很多时候,不是 GPU 不动,而是模型装不下,或者数据喂不过来。
而 HBF 如果能在容量、带宽和成本之间找到平衡,就可能让大的模型以低的成本跑起来。
512GB 堆栈,AI 服务器或可少用几张卡
SanDisk 给出的代 HBF 目标参数,为 512GB 容量、1.6TB/s 读取带宽。
这个组很关键—— HBM 的优势是速度快,但容量昂贵且有限;HBF 虽然速度低些,却能提供大的容量和低的单位成本。
这意味着,未来 AI 服务器在部署大模型理时,可能不定要把所有权重都塞进 HBM。
部分冷点、静态点、读多写少的数据,可以放在 HBF 里。
△作愉快
这样做的潜在收益有几个:
,缓解 HBM 容量瓶颈。
二,减少为了装下模型而堆多加速卡的需求。
三,降低理系统整体成本和能耗。
Kim 的判断是:HBF 与 HBM 并不是竞争对手,而是互为补充的工具。
他指出:" HBF 能够在不牺牲数据供给速度的前提下,有缓解 HBM 面临的严峻容量瓶颈,从而有望减少运行大规模模型所需的加速器数量。"
在此基础上,他预计该案还将提升能并降低成本,进而助力数据中心进步扩展其 AI 理硬件规模。
这也是 HBF 值得关注的产业逻辑:它不是为了让 Flash 变成 HBM,而是让 AI 系统里的不同数据,待在适自己的位置里。
热数据继续放 HBM;大容量、静态、读密集数据放 HBF;低速、便宜的数据继续放 SSD 或其他存储。
如果这套分层成立,AI 理硬件的内存架构可能会多出个新层。
规模化落地尚远,但大模型内存体系已现分工新信号
当然,HBF 目前还不是个成熟的产品。
据 IEEE Spectrum 报道,HBF 至少还需要年才可能出货,距离大规模部署可能还要几年。
今年 2 月 25 日,SanDisk 和 SK 海力士已联举办启动活动,宣布在开放计项目 OCP 下动 HBF 标准化工作。
作为数据中心硬件域重要的开放产业组织,OCP 主制定了大量服务器、机柜、电源及加速器相关规范,如服务器规范 DC-MHS、加速器规范 OAI-OAM 等。
但目前,HBF 标准还在进中,正式发布时间尚未确定——这也意味着,HBF 在短期内还不会马上改变 AI 服务器市场。
它像是个提前浮出水面的信号:AI 理正在逼着存储和内存体系重新分工。
过去,大模型硬件的关注点集中在 GPU、HBM 和互联。
但当模型越来越大、理请求越来越多,瓶颈就会从"得快不快",扩展到"装不装得下""读不读得动"以及"电费扛不扛得住"。
HBF 切入的,正是这个缝隙。
AI 内存战争,可能不只属于 HBM
有意思的是,SK 海力士本身就是 HBM 大赢之。
HBM 正在给它带来创纪录收入,按理说,出种便宜的替代技术,似乎不太符商业直觉。
但从系统角度看,HBF 并不定会 HBM 的饭碗。
AI 服务器未来需要的不是单内存,而是分层内存。
让HBM负责致能,HBF负责大容量带宽读取,SSD负责低成本的大规模存储。
这套组如果跑通,反而会让 AI 理系统变得可扩展。
简单说就是:不是每份模型数据,都值得住进 HBM 的"豪宅"。 有些数据,只需要个容量够大、读取够快、成本低的位置。
HBF 想做的,就是这个位置。
从 U 盘、SD 卡里的 NAND Flash,到 AI 服务器里的带宽模型权重池,听起来跨度很大,但大模型的问题已经很清楚:参数越来越多,理越来越贵,HBM 越来越紧。
而解决案,未只来自贵的内存,也可能来自把熟悉的老技术,重新封装遍。
参考链接:
[ 1 ] https://spectrum.ieee.org/high-bandwidth-flash?itm_source=homepage&itm_medium=hero&itm_campaign=hero-2026-07-15&itm_content=hero6
键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
� � 点亮星标 � �
科技前沿进展每日见相关词条:铁皮保温 塑料挤出机 钢绞线 玻璃卷毡厂家 保温护角专用胶
奥力斯 泡沫板橡塑板专用胶报价 联系人:王经理 手机:18232851235(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述黑龙江保温护角专用胶厂,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。
