※ 引述《vacuityhu (真空管)》之铭言： : 假设我有一组数据F_data : 有一个函数F(a, θ, c) = a*cos(θ) + c : 则可定义出我的objective function : min|| F-F_data ||_2, minimize的对象是a, θ, c, 且0<=θ<=2pi ^^^^^^^^^ 自变数 θ 仅在特定区间有定义 : 为了求解这个最佳化问题 : 我可能可以选择Gauss–Newton algorithm 这基本概念就是切线法，从初始猜测点做函数切线，看切线与水平轴 交点者何，再以该交点为猜测点做函数切线，直到结果收敛。 不管你是手工还是写程式去执行这个计算过程，请问当你的切线与水 平轴交点「超过 θ 的定义区间时」，你怎样处理? : 或是Levenberg–Marquardt algorithm : 或其他不同的演算法等等 这些有的没有的演算法，预设处理的对象是，自变数的值域在整条实数 轴，想要处理自变数值域受限的问题，必须另外修正。 : 我的问题是, 当我选择不同算法的时候 考虑个别演算法之前，请先确认所设定的受限制的优化问题是否有唯一解。 为此，就有自变数有区间限制条件的状况，可利用拉格朗日乘数把限制条件与 目标函数结合成为增广的目标函数，再透过卡鲁什-库恩-塔克定理 (Karush–Kuhn–Tucker theorem) 检查最佳解的存在与唯一性。讲白了就是 把前面的增广函数对各个自变数做偏微分而得到一组联立方程式。接着检查这方 程式的解之性质。 : 这各种算法理论上应该要收敛到同一个最佳解吗? 如前述，你列出的那些方法仅能处理未受限的优化问题。优化问题限制时，需要 先把目标函数透过拉格朗日乘数与限制条件结合，对各自变数取一皆偏微分後， 把原本受限优化问题转换成联立非线性方程组求解的问题，再寻找或套用适当的 演算法。 : 我以为当objective function决定的当下, 最佳解就跟着决定了 : 而不同算法只是走着不同的路线往最佳解收敛 : 不知道我的理解是不是对的QQ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 220.136.196.227 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Math/M.1726350796.A.980.html ※ 编辑: saltlake (220.136.196.227 台湾), 09/15/2024 08:32:57