在 Python 中定义梯度和 Hessian 函数

Question

我想计算的Gradient，并Hessian与各变量以下功能x和y。任何人都可以帮忙吗？非常感谢。

我从github 中找到了一个用于计算 Rosenbrock 函数的相关代码。

def objfun(x,y):
    return 10*(y-x**2)**2 + (1-x)**2
def gradient(x,y):
    return np.array([-40*x*y + 40*x**3 -2 + 2*x, 20*(y-x**2)])
def hessian(x,y):
    return np.array([[120*x*x - 40*y+2, -40*x],[-40*x, 20]])

更新：

from sympy import symbols, hessian, Function, N

x, y = symbols('x y')
f = symbols('f', cls=Function)

f = (1/2)*np.power(x, 2) + 5*np.power(y, 2) + (2/3)*np.power((x-2), 4) + 8*np.power((y+1), 4)

H = hessian(f, [x, y]).subs([(x,1), (y,1)])
print(np.array(H))
print(N(H.condition_number()))

输出：

[[9.00000000000000 0]
 [0 394]]
43.7777777777778

如何获得梯度和Hessian | Sympy https://docs.sympy.org/dev/modules/vector/fields.html

Answer 1

有hessian表达式的函数和jacobian矩阵的方法。

以下是问题的函数和变量：

>>> from sympy.abc import x, y
>>> from sympy import ordered, Matrix, hessian
>>> eq = x**2/2 + 5*y**2 + 2*(x - 2)**4/3 + 8*(y + 1)**4
>>> v = list(ordered(eq.free_symbols)); v
[x, y]

我们可以为梯度编写我们自己的助手，它将创建一个矩阵并jacobian在其上使用该方法：

>>> gradient = lambda f, v: Matrix([f]).jacobian(v)

那么数量可以计算为：

>>> gradient(eq, v)
Matrix([[x + 8*(x - 2)**3/3, 10*y + 32*(y + 1)**3]])
>>> hessian(eq, v)
Matrix([
[8*(x - 2)**2 + 1,                  0],
[               0, 96*(y + 1)**2 + 10]])