我一直在使用 TensorRT 和 TensorFlow-TRT 来加速我的 DL 算法的推理。
然后我听说过：
两者都“似乎”加速了深度学习。但我很难理解他们。任何人都可以用简单的术语向我解释它们吗？像这样：
TensorRT：这是一个由 NVIDIA 开发的库。它优化了 GPU 中的推理。这提供了低延迟、高吞吐量和减少内存消耗。
谢谢
Trax是由谷歌创建并被谷歌大脑团队广泛使用的深度学习框架。它配备作为替代TensorFlow，并PyTorch当谈到实现艺术的现成的，货架状态深度学习模型，例如变压器，伯特等，原则上对于自然语言处理领域。
Trax建立在TensorFlow和之上JAX。JAX是 Numpy 的增强和优化版本。关于JAXand的重要区别NumPy在于，前者使用名为 XLA（高级线性代数）的库，它允许NumPy在GPU和TPU上运行您的代码，而不是CPU像在普通中那样运行NumPy，从而加快计算速度。