对于机器学习初学者来说，可能会有很多看起来令人困惑的术语，重要的是要清除这种混淆以精通该领域。例如，“模型参数”和“超参数”。对这两个术语没有清晰的理解是初学者的共同难题。因此，为了消除这种混淆，让我们了解参数和超参数的区别以及它们如何相互关联。
什么是模型参数？
模型参数是模型内部的配置变量，模型自己学习它们。例如，线性回归模型中自变量的 W 权重或系数。自变量 SVM 的权重或系数，神经网络的权重和偏差，聚类中的聚类质心。
我们可以使用下图了解模型参数：
上图显示了简单线性回归的模型表示。这里，x 是自变量，y 是因变量，目标是拟合给定数据的最佳回归线，以定义 x 和 y 之间的关系。回归线可由下式给出：
y= mx+c
其中 m 是直线的斜率，c 是直线的截距。这两个参数是通过最小化 RMSE 来拟合线来计算的，这些被称为模型参数。
模型参数的一些关键点如下：
- 模型使用它们进行预测。
- 它们是模型从数据本身中学习的
- 这些通常不是手动设置的。
- 这些是模型的一部分，也是机器学习算法的关键。
什么是模型超参数？
超参数是用户明确定义以控制学习过程的那些参数。这些通常由机器学习工程师手动定义。人们无法知道给定问题的超参数的确切最佳值。最佳值可以通过经验法则或反复试验来确定。
超参数的一些示例是用于训练神经网络的学习率、KNN 算法中的 K 等。
模型参数与超参数对比表
| 模型参数 | 超参数 |
|---|---|
| 参数是模型内部的配置模型。 | 超参数是控制训练过程的明确指定的参数。 |
| 参数对于进行预测至关重要。 | 超参数对于优化模型至关重要。 |
| 模型参数是在训练模型时指定或估计的。 | 超参数是在模型训练开始之前设置的。 |
| 模型参数在模型内部。 | 超参数是模型外部的。 |
| 模型参数是由模型自己学习和设置的。 | 超参数是由机器学习工程师/从业者手动设置的。 |
| 模型参数取决于用于训练的数据集。 | 超参数与数据集无关。 |
| 参数的值可以通过梯度下降等优化算法来估计。 | 超参数的值可以通过超参数调整来估计。 |
| 训练后估计的最终参数决定了模型在未见数据上的性能。 | 选择或微调的超参数决定了模型的质量。 |
| 模型参数的一些示例是 ANN 中的权重、SVM 中的支持向量、线性回归或逻辑回归中的系数。 | 模型超参数的一些示例是用于训练神经网络的学习率、KNN 算法中的 K 等。 |
结论
在本文中，我们已经了解了模型参数的明确定义是超参数以及它们的区别。 简而言之，模型参数是模型的内部参数，并根据数据自动估计，而超参数是手动设置的，用于优化模型并帮助估计模型参数。
欢迎任何形式的转载，但请务必注明出处，尊重他人劳动成果。
转载请注明：文章转载自 有区别网 [http://www.vsdiffer.com]
本文标题：模型参数和超参数的区别,机器学习
本文链接：https://www.vsdiffer.com/vs/model-parameter-vs-hyperparameter.html
免责声明：以上内容仅是站长个人看法、理解、学习笔记、总结和研究收藏。不保证其正确性，因使用而带来的风险与本站无关！如本网站内容冒犯了您的权益，请联系站长，邮箱：，我们核实并会尽快处理。