用一个例子理解
把「难度适合初中生」写在要求里,是改变输入条件;微调模型中的参数,才是在改变模型的数值状态。这是两种不同层次的调整。
看图理解把过程看清楚
01训练前参数
初始数值
02数据与梯度
提供调整信号
03更新后参数
改变整体输出倾向
再深入一层
神经网络会把输入转换成数值表示,经过由参数控制的运算。单个参数通常不是一条可读的事实;能力来自大量参数和结构共同作用。训练可能更新全部参数,也可能只更新适配层等一部分。
它不能说明什么
参数量不是能力排行榜。数据、训练方式、结构、推理预算与任务类型同样重要。参数也不是用户设置里的温度、输出长度等运行选项。
接下来可以了解
资料依据
- PyTorch · Optimizing Model Parameters:批次、学习率、损失、梯度、SGD 更新与测试集评估。
- LoRA: Low-Rank Adaptation of Large Language Models:冻结预训练权重,训练低秩矩阵;参数高效适配方法。
资料核验于 2026-09-09;原论文用于说明机制,文中例子为教学示例。