量子位· 一水·· 6 小时前精选
岩芯矩阵联合港科大、CMU 开源 EdgeRock-4B
KV Cache砍掉99%，单卡吞吐飙6倍，港科CMU联手岩山科技开源新模型
事实摘要
岩山科技旗下岩芯矩阵联合港科大、CMU 等高校发布并开源 EdgeRock-4B，模型权重和推理代码均已开放，支持文本与图像推理。该模型基于 Qwen3.5-4B 分阶段转换而来，无需从头预训练，在 256K 上下文下 KV Cache 固定为 72 MiB，相比源模型减少 99.1%。
原文与核验
这条信号在站内保留事实摘要与战略研判。完整内容和上下文请以原文为准；融资、并购与技术效果以原始披露为准。
战略研判
基于公开信息为什么值得关注
EdgeRock-4B 把每条序列的注意力 KV 固定在 72 MiB，使长上下文推理的显存占用不再随长度增长，单卡并发与吞吐随之提升，端侧和智能体长任务的内存规划可以提前确定。
后续关注
512 路并发与 12124 tokens/s 的实测是否可被第三方复现；RMA 在更长上下文和更多参数规模上是否保持同等能力。
正文 · 原文摘要
一张卡，512路长推理同时跑
来源只提供摘要，完整内容请打开原文。
来源：量子位 · qbitai.com