打开线程太多错误

Question

我正在使用开放目录项目 (ODP) 中的 URL 实现多线程 Wget。我收到以下错误：

java.io.FileNotFoundException: log (Too many open files)
at java.io.FileOutputStream.openAppend(Native Method)
at java.io.FileOutputStream.<init>(FileOutputStream.java:207)
at java.io.FileOutputStream.<init>(FileOutputStream.java:131)
at java.io.FileWriter.<init>(FileWriter.java:78)
at ODP.run(ODP.java:103)

我读到这是因为它超出了系统变量中指示的打开文件描述符的限制： cat /proc/sys/fs/file-max

有没有办法限制可以同时启动的线程数量？我认为它是根据可以运行 CPU 的线程数量自动完成的。

谢谢你！

编辑：这是主方法内的主循环：

        while (rs.next ()) {                
            // Process entry
            String rsc = rs.getString ("resource");
            String tpc = rs.getString("topic");             
            (new ODP(rsc, tpc, rs.getString("description"))).start();   
            BufferedWriter outLog = new BufferedWriter(new FileWriter("log", true));
    outLog.write(count + ": " + rsc + " | " + tpc  + "\n");
    outLog.close(); 
            ++count;                
        }

在ODP.run()方法中，我创建了一个 BufferedWritter：

        BufferedWriter out = new BufferedWriter(new FileWriter(cat.split("/")[1] + ".webtrec", true));
        out.write(webtrec);
        out.close();

Answer 1

在整个问题中，您似乎对线程和文件感到困惑。

大多数操作系统对给定进程可以打开的文件描述符的数量进行限制。这包括文件系统上的实际文件，通常还包括数据库或服务器连接等套接字。（这与进程中运行的线程数无关。）

如果您当前持有最大数量的打开文件句柄，您的进程将无法再打开。这通常是资源泄漏的迹象 - 即您没有正确关闭 I/O 资源。 极少数情况下，如果您的应用程序合法地需要同时读取数万个文件，则您需要增加操作系统限制。

在您的ODP.run方法中，您是否FileWriters在循环中创建，但未能调用close()它们？