我在理解变压器方面遇到了困难。一切都在一点一点地变得清晰,但让我头疼的一件事是 src_mask 和 src_key_padding_mask 之间的区别是什么,它在编码器层和解码器层的前向函数中作为参数传递。
https://pytorch.org/docs/master/_modules/torch/nn/modules/transformer.html#Transformer
我开始了 Tensorflow 之旅,当它已经来到 2.0.0 时,所以从来没有像在 version1 中那样使用过图形和会话。但是最近遇到了适合我的 tf.function 和 autographs。(但我知道它仅用于训练步骤)
现在在阅读项目代码时,很多人在想要构建图形时会在许多其他函数上使用 tf.function 装饰器。但我不完全明白他们的意思。如何知道何时使用图形,何时不使用?
谁能帮我?
machine-learning neural-network deep-learning tensorflow tensorflow2.0