首页龙虾技能列表 › Box-KVCache — 本地KV缓存压缩

Box-KVCache — 本地KV缓存压缩

v?

在本地对LLM的KV Cache做低秩分解+INT8量化,推理时GPU显存直降2-4倍,无需改动模型结构,开箱即用。

0· 43·0 当前·0 累计

运行时依赖

无特殊依赖

安装命令 点击复制

官方clawhub install box-kvcache
镜像加速clawhub install box-kvcache --registry https://cn.clawhub-mirror.com
数据来源:ClawHub ↗ · 中文优化:龙虾技能库
OpenClaw 技能定制 / 插件定制 / 私有工作流定制

免费技能或插件可能存在安全风险,如需更匹配、更安全的方案,建议联系付费定制

了解定制服务