State Space Models

状态空间模型与线性注意力 · 从“注意力的代价随长度平方增长”出发，讲线性注意力与它的循环形式、状态空间模型的离散化与卷积视角、长程记忆、Mamba 的选择性机制、并行扫描、回忆与复制能力的边界，以及注意力与状态空间模型的混合架构。