R中的优化函数可以接受客观,梯度和粗麻布？

Question

我有一个复杂的目标函数,我希望优化.优化问题需要相当长的时间来优化.幸运的是,我确实有渐变和函数的粗麻布.

R中是否有可以采用所有这三种输入的优化包？"optim"这个类不接受Hessian.我已经扫描了CRAN任务页面进行优化,没有任何弹出窗口.

对于它的价值,我能够使用' fminunc '和'GradObj'和'Hessian'参数在MATLAB中执行优化.

Answer 1

我认为trust信任区域优化的包将起到作用.从文档中trust可以看出

此函数使用信任区域算法执行函数的最小化或最大化...(它接受)R函数,该函数计算要最小化或最大化的函数的值,梯度和Hessian,并将它们作为带有组件的列表返回价值,梯度和粗麻布.

实际上,我认为它使用了相同的算法fminunc.

默认情况下fminunc,如果您提供有趣的渐变并使用optimset将GradObj设置为"on",则选择大型算法.该算法是子空间信赖域方法,基于[2]和[3]中描述的内反射牛顿方法.每次迭代都涉及使用预处理共轭梯度(PCG)方法的大型线性系统的近似解.参见大规模fminunc算法,非线性最小化的信赖域方法和预处理共轭梯度法.