当超过32705个线程时,boost :: thread_resource_error

Question

我正在实现一个消息传递算法.消息通过图形的节点传播,阻塞直到它们已经从(其他邻居)接收到足够的信息来发送消息.

如果我将每条消息放在自己的线程中并使用boost :: condition来暂停线程直到所有必需的信息都可用,那么该算法很容易编写.我创建了数千个线程,但大多数线程在任何时候都是活动的.这看起来效果很好.

我的问题是,当单元测试我发现如果我创建超过大约32705线程,我得到

未知位置(0):"Tree_test"中的致命错误:std :: exception:boost :: thread_resource_error

我不知道是什么原因造成的,或者如何解决这个问题.

似乎有很多可用的内存(每个线程只有两个指针 - 消息在它们之间传递的对象).

从这个问题:Linux中每个进程的最大线程数？我认为以下信息是相关的(虽然我真的不知道它有什么意思......)

~> cat /proc/sys/kernel/threads-max
1000000

(我从60120增加了这个 - 我需要重启吗？)

 ~>ulimit -a
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 20
file size               (blocks, -f) unlimited
pending signals                 (-i) 16382
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 8192
cpu time               (seconds, -t) unlimited
max user processes              (-u) unlimited
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

我试着摆弄未决的信号(我的极限非常接近2*那个数字)和堆栈大小ulimit -S -i 8191- (我无法增加它)但这些变化似乎根本没有效果)

我是64位Ubuntu-10-10,如果这有帮助...

Answer 1

我认为系统上有32K线程,你应该看看除了如何拥有更多线程之外的潜在解决方案.例如,一个线程池(Boost为此提供了一些东西).

无论如何,在你的系统上,PID是不是限制在32768或某些这样的值？你迟早会跑出去,不妨设计系统以允许处理比最大线程数更多的项目,我想.

也就是说,查看/ proc/sys/kernel/pid_max以查看最大PID - 并尝试增加它.这可能会使您超过32K(但也可能导致意外行为,程序不是为非常大的PID设计的,所以要小心).

然后您可能受到堆栈空间的限制(而不是虚拟内存空间).如果您愿意,可以尝试使用较小的堆栈创建线程.