标签: bandwidth

auto ts = std::chrono::system_clock::now();

cudaMemcpyAsync((void**)in_dev, in_host, 1000 * size, cudaMemcpyHostToDevice, stream_in);
cudaMemcpyAsync((void**)out_host, out_dev, 1000 * size, cudaMemcpyDeviceToHost, stream_out);

cudaStreamSynchronize(stream_in);
cudaStreamSynchronize(stream_out);

time_data.push_back(std::chrono::system_clock::now() - ts);

这是我为自己的教育目的制定的基准的结果。非常简单，程序的每个“周期”都会启动并行数据传输，并在获取时间戳之前等待这些操作完成。

内核版本添加了一个简单的内核，该内核对每个数据字节（也在不同的流上）进行操作。内核执行时间的趋势对我来说很有意义 - 我的设备只有这么多 SM/核心，一旦我要求更多，它就会开始花费更长的时间。

我不明白的是，为什么仅内存传输测试在与核心限制几乎相同的数据大小点上开始呈指数级增长。我的设备的内存带宽标榜为 600 GB/s。此处传输 10 MB 平均需要约 1.5 毫秒，这并不是给定带宽的餐巾纸数学建议的结果。我的预期是内存传输延迟周围的时间几乎是恒定的，但情况似乎并非如此。

为了确认这不是我的盗版时间戳方法，我使用 NSight Compute 运行了仅内存版本，并确认从 N=1000 KB 到 N=10000 KB 将平均异步传输时间从约 80 us 增加到约 800 us。

我对 D/H 内存传输性能缺少什么？获得良好带宽的关键是重叠大量小型传输而不是大型传输，还是会因为有限的复制引擎瓶颈而变得更糟？

我在配备 PCIe4 系统的 RTX 3070 Ti 上运行了此基准测试。

我们的网站似乎比以前慢了,我该如何测试呢？有没有办法找到原因？(例如游客太多).

谢谢.

以图片托管服务为例.为了减少带宽/您提供图像的次数,是否可以让刚刚查看过图像的客户端将相同的图像文件(或该文件的各个部分)发送给希望查看同一页面的另一个客户端/图片？是否有与安全相关的问题可以防止这种情况发生,或者我对技术缺乏了解,这使我无法看到为什么这样做不起作用的明显原因.

如果每个客户端提供相同数量的数据,则Web服务器只需一次为任何给定文件提供服务,其余带宽将由客户端提取.

编辑:我知道P2P和bittorrents.我问,为什么不将这个概念应用于一般的网上冲浪活动？

我有一个简单的网站,它有点使用jquery但它不是必需的所以我想跳过jquery下载,如果用户连接速度慢.

理想情况下,我会检测到连接速度慢,但我认为检测到手机可能是合理的代理.

如果这是可能的,那么我将删除使用jquery的页面部分,并在加载jquery时动态添加它们.

我考虑的选项是:

• 通过下载小图像来测试连接速度
• 下载jquery但在一秒左右后超时(我搜索了取消下载但没有找到任何内容)
• 将jquery全部放在一起,然后编写我需要的javascript(虽然我可能会对某些浏览器出错)
• 在一些javascript中包装jquery下载,检查andriod或iphone的useragent
• 尝试使用css媒体选择器来控制jquery下载

但我不确定该说服哪个.

此外,我不能使用服务器端技巧,因为它是一个静态页面(以避免appengine冷启动问题).

什么是"瓶颈",特别是在网络带宽方面使用时？

您好我想通过C#计算吞吐量HttpWebRequest.
我想在运行时请求一个大文件(500KB)System.Diagnostics.Stopwatch.
然后我可以计算KB/s速率.我现在有两个问题:
1.这有多准确？我可以依赖它,还是应该使用其他方法？
2.如何在可以硬编码的URL上托管文件,而不必担心服务器端问题？我可以以某种方式使用具有如此大小的文件,最好是谷歌或微软页面？

先谢谢你,
Alex

这是我真正好奇的事情,我真的不明白这是怎么可能的.

所以我要说我是Facebook(ahah)的所有者,我每天都有数百万人访问我的网站,成千上万的图像,视频,日志等.

如何存储所有这些数据？

我是否在世界各地的不同服务器中拥有更多数据库,然后从一个位置连接到它们？

我是否使用内部API系统来请求存储数据的其他服务器的信息？

例如,我知道Facebook在全球拥有大量数据中心和数百台服务器.

他们如何连接到这些服务器？配置文件是否存储在不同的位置,当我连接到我的配置文件时,我将使用该特定服务器？或者是否有一台主服务器支持全球其他数百台服务器？

有没有办法以一种方式使用PHP,我将连接到不同的服务器和不同的mySQL(???)数据库,以便随时存储和检索数据？

对不起,如果这看起来像一个愚蠢的问题,但由于它可能会在一个成功的网站上工作一天,我真的想知道我将要做什么,以及背后的逻辑是什么.

非常感谢你.

我有一个div是ex.500px乘500px我有一个10px乘10px的图像(纹理图像).我已将此图像设置为水平和垂直重复.我这样做是为了节省带宽,但问题是:这是节省带宽还是与我制作背景图像500×500 px相同??? (所以这个图像会被下载一次到客户端,或者它会被重复下载多次？)

html中两个img标签的相同问题,具有相同的src但不同的大小.

谢谢你的建议!

我写了一个并行java程序.它通常工作:

• 它需要一个String input输入;
• 然后input切成String inputs[numThreads]均匀;
• 每个都inputs[i]被分配来thread_i处理,并生成results[i];
• 在所有工作线程完成之后,main线程合并results[i]到result.

10核(物理核)机器上的性能数据如下.

Threads#    1 thread    2 threads   4 threads   8 threads   10 threads
Time(ms)       78           41          28          21           21

注意:

• JVM预热时间已经消除(前50次运行).
• 时间不包括线程开始/加入时间.

当存在超过8个线程时,内存带宽似乎成为瓶颈.

在这种情况下,如何进一步提高性能？我的并行Java程序中是否存在任何设计问题？

为了检查这个可伸缩性问题的原因,我在process(inputs[i])方法中插入了一个(无意义的计算)循环.这是新数据:

Threads#    1 thread      10 threads
Time(ms)     41000          4330

新数据显示了10个线程的良好可伸缩性,这反过来证实了原始(没有无意义的循环)存在内存问题,因此其可伸缩性限制为8个线程.

但无论如何要绕过这个问题,比如将数据预先加载到每个核心的本地缓存中,还是批量加载？

我正在使用iperf(https://iperf.fr/)通过IPv6 进行一些UDP带宽测试.使用具有以下命令行的Linux UDP客户端时,我的结果非常糟糕:

iperf -u -V -c fe80::5910:d4ff:fe31:5b10%usb0 -b 100m

调查Wireshark的问题我发现在客户端发送数据时存在一些碎片.更准确地说,我看到UDP客户端传出的数据包大小为1510字节和92字节,交替.例如,我看到的UDP数据包具有以下模式(大小):1510,92,1510,92,1510,92,...,1510,92,...

阅读iperf2文档我读了以下选项(-l):

要读取或写入的缓冲区的长度.iPerf通过多次写入len个字节数组来工作.TCP的默认值为8 KB,UDP的默认值为1470字节.注意UDP,这是数据报大小,当使用IPv6寻址到1450或更低时需要降低以避免碎片.另请参见-n和-t选项.

我尝试通过使用以下内容替换Linux iperf UDP客户端命令行来执行相同的带宽测试:

iperf -u -V -c fe80::5910:d4ff:fe31:5b10%usb0 -b 100m -l1450

我看到了很好的结果.看看Wireshark捕获,我看不到任何碎片了.

在IPv4上进行相同的测试我不需要更改默认的UDP数据报大小(我不需要使用'-l'选项)来获得良好的结果.

所以我的结论是碎片(通过IPv6)导致带宽性能不佳.

无论如何,我想知道在IPv6上将UDP数据报大小设置为1450时会发生什么.为什么我在IPv6上存在碎片,而不是在UDP上使用UDP数据报大小的默认值？此外,为什么在将UDP数据报大小减小到1450时没有碎片？

谢谢.