探索索引

微参数缩放

一种允许在小模型上搜索最优超参数并直接迁移到大模型的框架,确保学习率等参数随宽度变化保持恒定。

暂时没有与该实体关联的公开内容。

微参数缩放 | Today for AI