创奇社

InternVL

10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型

CalibQuant团队 投稿 量子位 | 公众号 QbitAI 在InternVL-2.5上实现10倍吞吐量提升，模型性能几乎无损失。 最新1-bit多模态大模型KV cache…

资讯中心 2025.04.03 8人浏览