港科、CMU 与岩山科技开源新模型：KV Cache 削减 99%，单卡支持 512 路长推理
热点事件持续更新
港科、CMU 与岩山科技开源新模型：KV Cache 削减 99%，单卡支持 512 路长推理
1 篇报道1 个报道来源2 小时前更新
先了解这件事
事实说明
据量子位 AI 资讯报道，香港科技大学、CMU 与岩山科技联合开源一款新模型，称通过大幅压缩 KV Cache（削减 99%），可在单张卡上同时运行 512 路长推理，单卡吞吐提升 6 倍。来源未披露模型名称、参数规模、开源许可证及具体测试条件。
最新进展10月26日 14:45
港科、CMU 与岩山科技开源新模型：KV Cache 削减 99%，单卡支持 512 路长推理报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- 量子位 · AI资讯精选港科、CMU 与岩山科技开源新模型：KV Cache 削减 99%，单卡支持 512 路长推理
据量子位 AI 资讯报道，香港科技大学、CMU 与岩山科技联合开源一款新模型，称通过大幅压缩 KV Cache（削减 99%），可在单张卡上同时运行 512 路长推理，单卡吞吐提升 6 倍。来源未披露模型名称、参数规模、开源许可证及具体测试条件。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。