跳到正文
原文
开源中国·· 6 天前AI 评分50

小米公开 MiMo-V3 核心架构 HySparse2:KV 共享升两级、Prefill 少跑一半

AI 导读

小米 MiMo 团队公开 MiMo-V3 的新推理架构 HySparse2,面向长程多轮 Agent,目标是减少 Prefill 计算、缩小 KV Cache 并提升长上下文检索精度。相比 MiMo-V2.6 的 Hybrid SWA,该架构将 KV 共享提升两级,Prefill 计算量减少一半。

来源:开源中国 · oschina.net