Gradient descent为什么要加负号?

j举例f(x,y),y=(x-5)^2,在大于5的部分任取一点x_1, 此时partial derivative df/dx在这点是正的,所以加上负号通过iteration得到最小值,但是在小于5的部分任取一点x_2,此时partial derivarive df/dx在这点是指向最小值的,也就是说此时是负的,再加上负号就把原本负值变成正的了,这样iteration结果只能往上方走(uphill)啊?能否有人答疑解惑?
https://telegra.ph/file/ac215e9f34c44da66eadc.png?width=813&height=424
嗨_世界 新注册用户 (待解除) 嗨,我只是一不小心忘掉了自己的名字
Gradient Vector本身是Partial Derivatives Vector, 但如果你强调gradient descent, 那么可以在gradient vector前面加上负号来表示这个gradient "descent"。简单来讲,这些不过是定义问题,如果你定义gradient descent = - gradient,那么它就是这样表示的了。
盼望台湾民不聊生 观察 哈哈,我是赖皮鬼的魂魄,我喜欢的食物是导弹和鱼雷。
品葱现在这么可爱了吗哈哈,竟然有认真讨论物理学问题的。我也问一个,三价铁离子,氯离子,次氯酸根,碘离子,氧化性怎么排?
rowlandheights 尊包讨李,天诛国贼李克强
你都写descent了当然要加负号

而且gradient不是给多元函数的吗,你的y=x^2是一元函数
这个问题是我问的,我最后在论坛上找到了答案——gradient总是指向steepest ascend
source:https://math.stackexchange.com/questions/223252/why-is-gradient-the-direction-of-steepest-ascent
梯度为 - 时,x要向 + 方向变化;梯度为 + 时,x要向 - 方向变化。

要发言请先登录注册

发起人

状态

  • 最新活动: 2024-04-02
  • 浏览: 11864