小编Leo*_*Leo的帖子

src_mask 和 src_key_padding_mask 的区别

我在理解变压器方面遇到了困难。一切都在一点一点地变得清晰,但让我头疼的一件事是 src_mask 和 src_key_padding_mask 之间的区别是什么,它在编码器层和解码器层的前向函数中作为参数传递。

https://pytorch.org/docs/master/_modules/torch/nn/modules/transformer.html#Transformer

transformer-model pytorch

6
推荐指数
3
解决办法
3581
查看次数

何时使用 @tf.function 装饰器,何时不使用?我知道 tf.function 构建图形。但是如何知道何时构建图呢?

我开始了 Tensorflow 之旅,当它已经来到 2.0.0 时,所以从来没有像在 version1 中那样使用过图形和会话。但是最近遇到了适合我的 tf.function 和 autographs。(但我知道它仅用于训练步骤)

现在在阅读项目代码时,很多人在想要构建图形时会在许多其他函数上使用 tf.function 装饰器。但我不完全明白他们的意思。如何知道何时使用图形,何时不使用?

谁能帮我?

machine-learning neural-network deep-learning tensorflow tensorflow2.0

5
推荐指数
1
解决办法
1324
查看次数