作者vacuityhu (真空管)
看板Math
标题[微积] 最佳化的概念
时间Fri Sep 13 03:07:43 2024
抱歉大学学的东西不小心都还给老师了...请各路大神帮忙QQ
假设我有一组数据F_data
有一个函数F(a, θ, c) = a*cos(θ) + c
则可定义出我的objective function
min|| F-F_data ||_2, minimize的对象是a, θ, c, 且0<=θ<=2pi
为了求解这个最佳化问题
我可能可以选择Gauss–Newton algorithm
或是Levenberg–Marquardt algorithm
或其他不同的演算法等等
我的问题是, 当我选择不同算法的时候
这各种算法理论上应该要收敛到同一个最佳解吗?
我以为当objective function决定的当下, 最佳解就跟着决定了
而不同算法只是走着不同的路线往最佳解收敛
不知道我的理解是不是对的QQ
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.171.17.65 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Math/M.1726168065.A.3EF.html
1F：→ saltlake : 不同的起始点可能导致「收敛」到不同的解 09/13 07:15
2F：→ saltlake : 都看到「牛顿」法了。求根问题用牛顿法解，就知道 09/13 07:16
这可以理解, 但我对问题的定义应该已经让根只有一个了才是?
又或着我控制各算法的起始点也一致的话, 就能让大家都收敛到同一个解了吗?
※ 编辑: vacuityhu (1.171.17.65 台湾), 09/13/2024 09:24:16
3F：推 arrenwu : 欸 看你用什麽演算法。就我知道的演算法通常是收敛 09/13 10:10
4F：→ arrenwu : 到一个区域性的极值 09/13 10:10
5F：→ arrenwu : 但根据问题的性质，区域性的极值可能就是全域性的 09/13 10:10
6F：→ arrenwu : 极值。比如 comvex optimization problem 就有这种 09/13 10:11
7F：→ arrenwu : 性质 09/13 10:11
8F：→ mantour : 如果有几个不同的局部极值,即使起始点一样走不同路 09/14 16:43
9F：→ mantour : 径也有可能最後落在不同洞里阿 09/14 16:44
10F：→ mantour : 甚至用同一种算法, 比如梯度下降的步长不同也有可能 09/14 16:49
11F：→ mantour : 导致从同一个起点出发最後落在不同的山凹里 09/14 16:49
12F：→ saltlake : 高中数学，求函数极大极小值，要看可能的极值点 09/15 00:07
13F：→ saltlake : 要对函数做一次微分後求根。那些根包括极点和拐点 09/15 00:08
14F：→ saltlake : 先看只有一个资料点的情况，目标函数微分後出现正弦 09/15 00:09
15F：→ saltlake : 函数，所以零点和二拍是两选项。一次微分的括号里面 09/15 00:10
16F：→ saltlake : 因为C是代入资料点，一般有误差而不会满足 09/15 00:10
17F：→ saltlake : 零点和二拍代入於弦函数得相同值，又刚好在区间端点 09/15 00:12