Rethinking Circuit Evaluation: Do Circuits Explain Model Errors?

arxiv · arXiv · 2026-09-29 01:34 · 评分 86

论文重新审视电路验证法在机制可解释性中的有效性：经消融验证的电路虽能复现模型正确决策，却无法解释大部分错误，说明此类解释并未真正恢复潜在机制，应要求电路同时解释模型成功与失败的行为。