Kimi开源混合线性注意力架构Kimi Linear 性能效率双提升 成本降低
-
Kimi开源混合线性注意力架构Kimi Linear 性能效率双提升 成本降低
Kimi Linear通过KDA的细粒度门控与高效分块算法、3:1混合注意力架构，首次实现性能超越全注意力以及效率大幅提升的突破，且在100万个token长上下文、强化学习等场景中表现突出，使得其可以兼顾效…
