Telescopic Language Models

提出 Telescopic Language Model（TLM），用随机前缀监督与完整锚点训练嵌套容量 Transformer，使单个部署模型可服务多种推理算力预算，免去为每个预算单独训练或压缩。