Google Research·· 2026-03-25精选AI 评分62
Google 发布 TurboQuant 等三种向量量化算法,将 KV cache 压缩至 3 bit
TurboQuant: Redefining AI efficiency with extreme compression
AI 导读
Google 发布 TurboQuant 压缩算法,并配套提出 QJL 与 PolarQuant,用于解决向量量化中的内存开销问题。
推荐理由
Google 提出 TurboQuant 等三种向量量化算法,可在不损失精度下把 KV cache 压到 3 bit,读者可了解其原理与实测结果。
来源:Google Research · research.google