缩放定律
scaling laws · 又作:scaling law、scaling laws、Scaling Law
描述模型效果如何随数据、参数或算力等投入增加而变化的经验规律。
英文scaling laws,通常用幂律曲线拟合模型表现与投入规模的关系,用来估算多投入多少资源能换来多少提升。@omarsar0推荐的一篇论文把它用在智能体强化学习的训练数据上,分别拟合了任务、环境、轨迹三个维度。
用法示例
- @omarsar0推荐的论文沿任务、环境、轨迹三个维度拟合缩放定律,环境维度的指数最高。