小编ste*_*ano的帖子

我用c ++编写了自己的Array类,并重载了数组下标[]运算符,代码:

inline dtype &operator[](const size_t i) { return _data[i]; }
inline dtype operator[](const size_t i) const { return _data[i];}

其中_data是指向包含数组的内存块的指针.分析表明,这个重载运算符单独占用总计算时间的10%(在长蒙特卡罗模拟中,我使用g ++进行最大优化编译).这似乎很多,任何想法为什么会这样？

编辑:dtype是double,而_data是指向double数组的指针

我希望能够为我的损失函数计算更高阶导数.至少我希望能够计算Hessian矩阵.目前我正在计算Hessian的数值近似值,但这更昂贵,更重要的是,据我所知,如果矩阵病态(条件数非常大),则不准确.

Theano通过符号循环来实现这一点,请参见此处,但Tensorflow似乎还不支持符号控制流,请参见此处.在TF github页面上已经提出了类似的问题,请参见此处,但看起来似乎没有人对此问题进行了一段时间的跟进.

是否有人了解TensorFlow中更近期的发展或计算高阶导数(象征性地)的方法？