在 Julia 中使用 ForwardDiff 进行自动微分

Question

我在 Julia 中正确使用 ForwardDiff 包时遇到了一些问题。我设法在以下代码块中隔离了我的问题。

简而言之，我定义了函数：

using ForwardDiff

function likelihood(mu,X)

  N = size(X,2)

  # Calculate likelihood
  aux = zeros(N)
  for nn=1:N
    aux[nn] = exp(-0.5 * (X[:,nn]-mu)' *  (X[:,nn]-mu))[1]
  end

  # return log-likelihood
  return sum(log(aux))

end

然后我检查该功能是否有效：

# Check if function works at all
X = randn(2,3) # some random data
mu = [1.0;2.0] # arbitrary mean
@show likelihood(mu,X) # works fine for me

然后我尝试使用以下方法获得梯度：

ForwardDiff.gradient( ARG -> likelihood(ARG, X), mu)

不幸的是，这失败了，我在屏幕上看到：

错误: MethodError: converthas no method matching convert(::Type{Float64}, ::ForwardDiff.Dual{2,Float64}) 这可能是由于调用构造函数 Float64(...) 引起的，因为类型构造函数回退转换方法。最接近的候选者是：
call{T<:AbstractFloat}(::Type{T<:AbstractFloat}, ::Real, ::RoundingMode{T}) call{T}(::Type{T}, ::Any)
convert (::Type{Float64}, ::Int8) ... 可能 at none:10 匿名 at none:1

我究竟做错了什么？提前致谢。

Answer 1

我刚刚被告知这对我来说是一个粗心的错误，尽管对于未经训练的眼睛来说有点难以发现。

错误在于对零的调用：

aux = zeros(N)

将此更改为

aux = zeros(eltype(mu),N)

解决了这个问题。希望这对其他人有用。