When Forgetting is not Catastrophic: On the Mechanics of Spurious Forgetting

arxiv · arXiv · 2026-10-07 01:25 · 评分 91

研究揭示语言模型微调中‘虚假遗忘’的机制：旧知识看似消失但实际仍可恢复，甚至出现先崩溃再恢复的双重动力学。通过最小联想记忆模型复现该现象，并识别共享键等多个要素，有助于判断遗忘何时并非灾难性。