一个强大的算法模型：SGD！！

大白话解释

基本原理

1. 初始化参数：首先，我们随机初始化模型的参数，就像开始时我们不知道任何关于猫和狗的信息。

2. 选择一个样本：然后，从我们的数据集中随机选择一个样本（一张猫或狗的图片）。

3. 计算梯度：用选定的样本来计算模型的梯度，这告诉我们如何调整参数以减小预测误差。

4. 更新参数：接下来，我们使用梯度信息来微调参数，以使模型更好地预测选定的样本。

5. 重复：然后，我们重复这个过程，不断选择不同的样本并更新参数，直到我们认为模型已经足够好地理解了数据。

详细的公式解释

• θ是模型的参数。
• α是学习率，它决定了参数更新的步长。
• ∇J(θ, xi, yi)是损失函数关于参数θ的梯度，它告诉我们如何调整参数以减小损失函数J(θ, xi, yi)。xi和yi是选定的训练样本。

利用Python/ target=_blank class=infotextkey>Python绘制示意图

这段代码将绘制一个简单的损失函数曲线，并演示了参数如何随着迭代次数的增加而更新。

再举一个案例

这个代码将创建一个三维图形，其中损失函数的表面用虚线表示，并且随机梯度下降的路径用红色线条表示。