A Systematic Study of Small Language Models on Abstract Reasoning Tasks

arxiv · arXiv · 2026-10-07 01:01 · 评分 75

系统研究小语言模型在 ARC-TGI 抽象推理基准上的行为，区分模型是学到可迁移规则还是拟合分布规律；通过超过 1000 次运行分析了 decoder-only、encoder-decoder 和 MoE 等模型家族。