模型参数 / 权重

定义

参数（也称为权重）是存储在神经网络中的数值，编码了模型在训练过程中学到的内容。一个拥有 700 亿参数（70B）的模型存储了 700 亿个独立数字。更多的参数通常意味着更大的知识存储容量和处理复杂任务的能力，尽管效率改进使小型模型越来越具有竞争力。