Understanding and Exploiting Anisotropy in Post-Training

arxiv · arXiv · 2026-09-27 01:08 · 评分 85

研究LLM后训练中的各向异性现象：SFT的频率加权似然与RL的逆向KL目标会留下少数残差通道激活异常放大的痕迹。论文分析该现象的成因与作用，并探索如何在后训练中利用它。