← 資訊首页 | 货源大厅

KV Cache 主题文章

共 3 篇 · 由萬安算交所资讯持续追踪

• 덜 읽는 것으로 얻은 14배 추론 가속 — Corbenic의 Galahad가 SSD를 AI 메모리로 바꾸다
  2026-11-05 · 벨기에 스타트업은 vLLM, SGLang, Llama.cpp를 위한 정밀하고 암호화된 KV 캐시 재사용을 약속한다. 그러나 그 자리에는 LMCa
• Huawei, 클러스터당 KV 캐시 64PB 갖춘 AI 추론 스토리지 'OceanStor M900' 공개
  2026-11-04 · 상하이에서 열린 HUAWEI CONNECT 2026에서 공개된 이 스토리지 시스템은 클러스터당 64PB의 KV 캐시를 갖추고, AI 추론을 위한
• GPU 메모리 벽을 넘다… Lightbits Labs, AI 추론용 KV 캐시 엔진 'Inferra' 정식 출시
  2026-11-04 · NVMe over TCP의 선구자인 Lightbits Labs의 신규 소프트웨어 엔진은 키-값 캐시 데이터를 GPU 고대역폭 메모리 밖으로 옮겨

萬安算交所 AIXX · 进入货源大厅