假设我想近似一个假设函数：
def f(x):
return a * x ** 2 + b * x + c
a、b 和 c 是我不知道的值。
而且我有一些已知函数输出的点，即
x = [-1, 2, 5, 100]
y = [123, 456, 789, 1255]
（实际上还有更多的价值）
我想获得a、b 和c，同时最小化平方误差（同时获得平方误差）。
在 Python 中有什么方法可以做到这一点？
scipy、numpy 或类似的任何地方都应该有现有的解决方案。
【问题讨论】：
标签： python numpy machine-learning scipy scikit-learn
由于您要拟合的函数是多项式，您可以使用numpy.polyfit
>>> numpy.polyfit(x, y, 2) # The 2 signifies a polynomial of degree 2
array([ -1.04978546, 115.16698544, 236.16191491])
这意味着最佳拟合是 y ~ -1.05 x2 + 115.157x + 236.16。
对于一般函数，您对它了解得越多（例如，它是凸的、可微的、可二次微的等），您对scipy.optimize.minimize 的处理就越好。例如，如果您对它几乎一无所知，则可以使用它指定使用 Nelder-Mead 方法。那里的其他方法（请参阅文档）可以使用 Jacobian 和 Hessian，如果它们已定义，您可以计算它们。
就我个人而言，我发现将它与 Nelder-Mead 一起使用（几乎不需要参数）可以满足我的需求。
示例
假设您尝试将 y = kx 与 k 作为要优化的参数。你会写一个函数
x = ...
y = ...
def ss(k):
# use numpy.linalg.norm to find the sum-of-squares error between y and kx
然后你会在函数ss 上使用scipy.optimize.minimize。
【讨论】：