规模定律（Scaling Law）的概念在不同学科领域中有不同的应用，但在人工智能和机器学习领域，它主要用来描述模型性能如何随着模型大小、数据集大小和计算资源的增加而变化。随着模型中参数数量的增加，性能通常会按照幂律改善。更大的训练数据集通常带来更好的性能，也遵循幂律关系。用于训练的计算资源（浮点运算次数）与性能改善相关。