12 篇文章
  • KV Cache 制约 AI 推理并发收益,LoongStore 国产分布式存储提供落地方案

    2026 年大模型推理瓶颈不再是 GPU 算力,而是KV Cache 显存占用过高,导致并发低、算力闲置、成本高昂。本文解析 KV Cache 显存制约痛点,详解 LoongStore 国产分布式存储如何通过 NVMe 缓存池、RDMA 高速卸载、海量小块数据承载能力,无损兼容主流推理框架,在不新增 GPU 的前提下大幅提升推理并发与集群吞吐,提供国产化 KV Cache 加速落地方案。

    40 2026-08-19
  • KV Cache 制约 AI 推理并发收益,LoongStore 国产分布式存储提供落地方案

    2026 年大模型推理瓶颈不再是 GPU 算力,而是KV Cache 显存占用过高,导致并发低、算力闲置、成本高昂。本文解析 KV Cache 显存制约痛点,详解 LoongStore 国产分布式存储如何通过 NVMe 缓存池、RDMA 高速卸载、海量小块数据承载能力,无损兼容主流推理框架,在不新增 GPU 的前提下大幅提升推理并发与集群吞吐,提供国产化 KV Cache 加速落地方案。

    80 2026-08-19
  • 复旦大学人类表型组研究院

    龙存科技针对研究院需求,定制异构整合 + 新购扩容的统一存储解决方案,满足了研究院的海量科研数据存储的需求,并显著提升了数据处理效率,为研究院长期开展国际前沿生命科学研究提供稳定、高性能的存储底座支撑。

    65 2026-05-28
  • 复旦大学人类表型组研究院

    龙存科技针对研究院需求,定制异构整合 + 新购扩容的统一存储解决方案,满足了研究院的海量科研数据存储的需求,并显著提升了数据处理效率,为研究院长期开展国际前沿生命科学研究提供稳定、高性能的存储底座支撑。

    55 2026-05-28