随着端侧AI走向深度落地,AIPC、AIAgentHost等设备本地运行大模型的需求愈发普遍,不少开发者在实际部署中都会遇到共性难题:MoE架构模型海量专家参数占用过多资源、推理过程中KVCache数据快速膨胀挤占内存空间,再加上存储I/O交互延迟偏高,直接拉高DRAM配置门槛与整机硬件成本。作为深耕行业多年的存储企业江波龙围绕端侧AI推理全链路痛点,搭建起iSA™存储智能体与SPU™存储处理单元的软硬件协同架构,并落地搭载全套技术的AISSD™产品,系统性优化数据调度逻辑,为终端大模型稳定运行提供可行的存储解决方案。

iSA™存储智能体精准调度,化解大模型推理资源消耗难题
iSA™作为江波龙自研的智能存储调度引擎,也是整套方案的核心调度中枢,专门针对端侧AI推理过程中的资源浪费问题做算法优化,也是存储智能体技术的核心载体。iSA™可执行动态MoE专家卸载机制,将低频调用的专家权重下放至AISSD™,仅把活跃计算参数留在DRAM中,减少内存长期占用;面对多轮对话、长文本生成带来的KVCache持续扩容,引擎能够实时智能清理、分层缓存KVCache数据,避免缓存冗余拖慢推理速度;同时搭配智能预取算法,预判AI算力单元的数据读取需求,提前完成数据调度,有效降低存储I/O延迟。整套调度逻辑无需占用处理器算力,全程后台静默运行,最大化释放端侧AI推理的硬件性能,从软件层面打通存储与内存的数据流转壁垒。
SPU™硬件底层减负,AISSD™落地完整端侧AI存储方案
如果说iSA™负责智能决策,SPU™则承担硬件执行的功能,二者形成“软件调度+硬件落地”的闭环,通过两项能力减少DRAM依赖、控制终端存储成本。其一为存内无损压缩技术,在SPU™芯片内部独立完成模型文件、缓存数据包的无损压缩,平均压缩比例可达2:1,不损耗读写性能的前提下提升SSD有效容量;其二是HLCache™高级缓存技术,自动区分AI运行产生的热、冷数据,将非实时运算的温冷数据下沉至AISSD™,缓解终端设备内存配置压力。江波龙将iSA™调度算法、SPU™硬件算力全部集成于AISSD™之中,打造一体化AI专用固态硬盘,直接适配AIPC、AIAgentHost主流终端。
在生态落地层面,江波龙已完成与AMD平台的深度联合调优,在基于AMD锐龙AI Max+395打造的AI智能体主机上完成实测,搭载AISSD™全套方案后,即可流畅承载超大参数模型本地推理,超长上下文交互场景下运行稳定性显著提升,验证了整套方案在商业化场景中的实用价值。

在端侧AI算力持续下沉的行业背景下,存储的价值早已不再局限于简单的数据存放。江波龙以存储企业的技术积淀,通过iSA™存储智能体、SPU™专用处理单元与AISSD™硬件产品的组合,直面MoE、KVCache、DRAM占用等行业卡点,用软硬件协同的方案降低端侧AI部署门槛。后续品牌还会持续迭代软件算法与硬件架构,拓展更多芯片平台适配范围,让高效、降本的端侧AI存储方案覆盖更多智能硬件终端,助力人工智能技术在消费级与行业级设备中规模化普及。
|