AI 编程 › AI 资讯 › 正文

Balancing Memory Pathways: Analyzing and Improving Memory Utilization in Hybrid LMs

arxiv · arXiv · 2026-10-06 01:27 · 评分 87

论文研究混合语言模型中注意力层与循环层对记忆的互补作用:注意力支持早期token的精确回忆,循环层支持长上下文中的信息整合,并进一步提出改进记忆利用的方法。

原文:arXiv | 返回 AI 资讯列表