scipy.optimize 被困在局部最小值中。我能做什么？

Question

 from numpy import *; from scipy.optimize import *; from math import *
def f(X):
    x=X[0];    y=X[1]
    return x**4-3.5*x**3-2*x**2+12*x+y**2-2*y

bnds = ((1,5), (0, 2))
min_test = minimize(f,[1,0.1], bounds = bnds); 
print(min_test.x)

我的函数f(X)有一个x=2.557, y=1我应该能够找到的局部最小值。

上面显示的代码只会给出结果 where x=1。我尝试了不同的公差和所有三种方法：L-BFGS-B、TNC 和 SLSQP。这是到目前为止我一直在看的线程： Scipy.optimize：如何限制参数值

我怎样才能解决这个问题？

我正在使用 Spyder（Python 3.6）。

Answer 1

您刚刚遇到了局部优化的问题：它很大程度上取决于您传入的开始（初始）值。如果您提供[2, 1]它，它将找到正确的最小值。

常见的解决方法有：

• 在边界内具有随机起点的循环中使用您的优化

  import numpy as np
  from numpy import *; from scipy.optimize import *; from math import *
  
  def f(X):
      x=X[0];    y=X[1]
      return x**4-3.5*x**3-2*x**2+12*x+y**2-2*y
  
  bnds = ((1,3), (0, 2))
  
  for i in range(100):
  
      x_init = np.random.uniform(low=bnds[0][0], high=bnds[0][1])
      y_init = np.random.uniform(low=bnds[1][0], high=bnds[1][1])
  
      min_test = minimize(f,[x_init, y_init], bounds = bnds)
  
      print(min_test.x, min_test.fun)
  

• 使用可以摆脱局部最小值的算法，我可以推荐 scipy's basinhopping()

• 使用全局优化算法并将其结果用作局部算法的初始值。建议是 NLoptDIRECT或 MADS 算法（例如NOMAD）。在 scipy 中还有另一个shgo，我还没有尝试过。

Answer 2

尝试scipy.optimize.basinhopping。它只是简单地多次重复最小化过程并获得多个局部最小值。最小值就是全局最小值。

minimizer_kwargs = {"method": "L-BFGS-B"}
res=optimize.basinhopping(nethedge,guess,niter=100,minimizer_kwargs=minimizer_kwargs)