AI存储架构重构:带宽池化、数据路径前移与存算网融合实践

Feng 9 阅读 大数据

大模型训练把压力从 GPU 转移到了数据供给链路上。单轮训练要吞掉几十 TB 样本,checkpoint 每隔几分钟就得落一次盘,推理侧还盯着首 token 的毫秒级响应。传统存储那套以容量和可靠性为中心的架构,撑不住这种节奏。存储被推到了算力供给的前端,不再是机房角落里等着被读的容器。

性能坐标系整体平移

企业存储过去看容量、IOPS、可靠性等级。这套指标诞生于数据库和虚拟化时代,负载以随机小 IO 为主,容量增长可预测,瓶颈一般卡在磁盘寻道或控制器队列上。

AI 负载把这套坐标系整个挪了位置。训练数据加载是大块顺序读、高并发、多轮重复扫描;checkpoint 是周期性的大块顺序写突发,写的时候还要跟训练数据读取抢同一套网络和后端带宽;推理侧又是另一副面孔,KV Cache 读写对延迟敏感,并发一上来就非线性膨胀。

于是带宽密度顶替容量密度,成了首要设计指标。工程上表现为三个取向。

并行文件系统加对象存储的分层组合。热数据走并行文件系统拿聚合带宽,冷数据和归档样本沉到对象存储,靠命名空间或元数据服务做统一视图。分层依据从”访问频率”改成了”训练阶段”——同一份数据在预处理、训练、评测三个阶段可能落在不同层级。

元数据路径独立化。千万级小文件是图像、多模态语料的常态,元数据操作往往比数据 IO 更早成为瓶颈。元数据服务单独部署、支持水平扩展,已经是主流选择。

本地 NVMe 的角色要重新估。节点本地盘不只是缓存,还承担数据预取、样本解码、checkpoint 暂存,形成”本地高速层 + 远端共享层”的两级结构。

带宽池化不等于堆硬盘。聚合带宽能不能吃满,取决于客户端并发模型、网络协议栈、存储服务端的锁与队列设计。多数实现项目的主要调优工作量,恰恰花在这些非存储本体的环节上。

这里有个容易踩的坑:并行文件系统的客户端挂载参数直接决定带宽能否兑现。以 Lustre 为例,lnetctl 配置的路由若未覆盖训练节点所在网段,客户端会报 OST 不可达,表现为挂载成功但写入吞吐只有理论值的零头。排查时先看 lctl get_param lnet.* 确认路由表,再用 lfs df 核对各 OST 的可用空间分布是否均衡。NFS over RDMA 则是另一类问题,rsize/wsize 未与 MTU 对齐时,单流吞吐会莫名塌陷,用 nfsstat -m 检查实际协商的传输参数,配合 iperf3 单独压测 RDMA 链路,能把网络问题和存储问题切开。

数据位置开始决定任务去向

第二重变革更根本:存储从被读取的对象,变成参与调度的一方。

传统架构里,计算任务被调度到有算力的节点,然后自己去拉数据。AI 集群经常反过来——数据在哪,任务就该放到哪。跨节点搬 TB 级样本的时间成本,可能比计算本身还高。

几个实践方向值得关注。

数据本地性与调度器耦合。把数据集分片位置、缓存命中情况作为调度输入,让训练任务优先落到已缓存所需分片的节点。这要求存储层向调度层暴露拓扑信息,是典型的跨层协作。

近数据预处理。解码、tokenize、增强这些 CPU 密集型环节下沉到存储侧或邻近节点,传的是已处理样本而非原始文件。网络流量能显著下降,代价是存储节点要具有异构算力,运维复杂度跟着涨。

checkpoint 异步化与分层落盘。训练中断恢复时间直接对应 GPU 空转成本。先写本地高速层再异步上传共享层,能缩短写入阻塞窗口。但可靠性边界必须算清楚:本地盘故障时的数据丢失窗口,要么被明确接受,要么用副本策略覆盖。量化方法不复杂——统计本地层到共享层的异步上传延迟分布,取 P99 作为最坏丢失窗口,再对照训练任务的 checkpoint 间隔评估可接受性。若窗口超过间隔的一半,单副本本地暂存就不该上线。

推理侧缓存协同。KV Cache 的复用与淘汰本质是存储问题:哪些会话状态值得留、留在哪级介质、何时失效。当成纯显存管理问题,高并发下必然撞容量墙。

这些方向的共同点是:存储不再是算完去取的下游,而是算之前就要协商的上游。存储团队和 AI 平台团队的职责边界在模糊,SLA 从”可用性百分比”扩展到”数据供给就绪时间”。

融合的落点与规模阈值

存算网融合被提了很多年,AI 场景下第一次有了明确的工程含义:三者得在同一套资源视图下联合规划,而不是各自扩容。

网络层,从连通到可预期。AI 集群普遍用高带宽互联,但带宽峰值不等于有效吞吐。拥塞控制、多路径、RDMA 部署质量,直接决定聚合带宽能否被训练任务实际拿到。融合的第一步是把存储流量纳入网络规划和 QoS 体系,别让它跟业务流量挤尽力而为的通道。

资源层,统一命名空间与统一配额。训练、推理、数据处理往往分属不同团队,各维护独立存储池,就会出现一边闲置一边告警的结构性浪费。统一命名空间让数据跨池流动,统一配额让成本可归集。难点不在技术,在组织和计费口径。

运维层,端到端可观测。融合架构的故障定位成本高于分离架构。训练变慢,可能是 GPU、网络、存储元数据服务,也可能是客户端并发配置。建立覆盖应用—客户端—网络—存储服务端的链路级指标,是融合能长期运维的前提。缺这一层,融合会退化成故障时互相举证。

融合不适用于所有场景。数据量有限、训练任务偶发的中小团队,分离架构的简单性可能优于融合的复杂度。判断阈值可以粗略看两个量:集群节点数是否超过单跳网络能覆盖的范围,以及数据规模是否大到跨池搬运成为常态。两个条件都不满足时,融合带来的跨层排障成本会盖过收益。融合的价值随集群规模、数据规模、任务密度上升而上升,没有普适标准,得结合具体负载评估。

方向性判断

存储的核心 KPI 会继续向”单位算力对应的数据供给效率”收敛,容量和 IOPS 退成约束条件,不再是目标函数。

数据编排能力将成为 AI 平台的核心组件,重要性可能超过单一存储系统的选型。

存算网融合的竞争点从架构图转向可观测性与可运维性。能不能快速定位跨层瓶颈,是融合方案长期存活的分水岭。

推理侧的存储问题被低估了。长上下文和多轮会话普及后,会话状态管理会从显存问题演化为分层存储问题。

三重变革本质是一次评价体系的重写:从存得下、不丢,到供得上、供得快、供得准。带宽池解决决供得上,数据路径前移解决供得快,存算网融合试图解决供得准——让合适的数据在合适的时间出现在合适的算力旁边。三者不是替代关系,是同一条演进路径上的三个阶段。工程上更现实的做法,是先厘清自身负载的数据形态和瓶颈层级,再决定在哪一层投入。融合是方向,可运维的渐进式改造往往比架构图上的彻底重构走得更远。

ID:7698

Feng
这位作者很神秘,还没有填写简介。