Perl线程和不安全信号

Question

所以我最近想通过一个Perl程序来提高速度.收集网站列表,我想为每个网址启动一个帖子并获取每个网站的内容,然后在页面上查找公司描述.一旦一个线程找到了结果,或者所有线程都没有,我想退出,写下我的结果,并在我的下一个公司的URL中读取.

我看到的问题是我在创建线程时使用的函数内部使用Perl :: Unsafe :: Signals模块.我需要不安全的信号来中断被"卡住"的正则表达式.然而,这似乎会导致各种问题,主要是程序崩溃并显示错误信息"闹钟".

因此,有没有办法安全地使用Perl :: Unsafe :: Signals和线程？有没有办法通过向函数发送信号以另一种方式超时正则表达式(就像我在下面发送'KILL'信号？)谢谢.

注意:我将代码删除到所有相关部分,如果您需要更多,请告诉我.

use threads ('exit' => 'threads_only');
use threads::shared;
my @descrip;
share(@descrip);

my $lock;
share($lock);

URL:foreach my $url(@unique_urls) {
        #skip blank urls
        if(!$url) { next URL; }#if

        #find description
        my $thread = threads->create(\&findCompanyDescription, $PREV_COMPANY, $PREV_BASE_URL, $url);

#while a description has not been found and there are still active threads, keep looking
#there may be a better way to do this, but this seems to work for me
while(!@descrip && threads->list() != 0) {;}

#kill all threads, write output, read in next batch of urls
my @threads = threads->list();
foreach(@threads) { print("detaching\n"); $_->kill('KILL')->detach(); }#foreach

#######由线程创建的SUBRUTINE

sub findCompanyDescription {
    my($company_full, $base_url, $url) = @_;
    my($descrip, $raw_meta, $raw) = '';
    my @company;

    $SIG{'KILL'} = sub { alarm(0); threads->exit(); };

    eval {
        local $SIG{ALRM} = sub { die("alarm\n") }; # NB: \n required
        alarm(5);

        use Perl::Unsafe::Signals;
        UNSAFE_SIGNALS {

            while($company) {
            my @matches = ($content =~ m!.*<([\w\d]+).*?>\s*about\s+$company[\w\s\-_]*<.*?>(?:<.*?>|\s)*(.*?)</\1.*?>!sig);

            MATCH:for(my $ndx=1; $ndx<@matches; $ndx+=2) {
            ($raw, $descrip) = &filterResult($matches[$ndx], $company_full);

            if($descrip) {
                $company = undef;
                last(MATCH);
            }#if
        }#for

        #reduce the company name and try again
        $company = &reduceCompanyName($company);

        }#while

        alarm(0);
         };#unsafe_signals
    };#eval 

    if($@) {
        if($@ eq "alarm\n" && $DEBUG) { print("\nWebpage Timeout [].\n"); }#if
    }#if

    if($descrip) { lock($lock); {
       @descrip = ($PREV_ID, $company_full, $base_url, $url, 1, $raw, $descrip); } 
    }#if

Answer 1

通常,"不安全"信号对于单线程和多线程都是不安全的.你只是通过使用线程和不安全的信号增加了你的危险.Perl通常的安全信号处理程序设置标志signal_pending而不会有意义地中断执行.VM在操作码之间检查该标志.

您的正则表达式执行是一个"原子"操作码.当然,正则表达式本身是另一个具有自己的操作码的虚拟机,但我们目前没有对perl信号处理程序的可见性.

坦率地说,我不知道如何中断正则表达式引擎.它有一些全局C状态,在过去之前perl-5.10阻止它可以重入.像你一样尝试通用中断可能不安全.如果你真的希望它完全可以中断,你可能需要fork并让你的子进程执行regexp并通过管道传回结果.

require JSON;
require IO::Select;

my $TIMEOUT_SECONDS = 2.5; # seconds

my ( $read, $write );
pipe $read, $write;

my @matches;
my $pid = fork;
if ( $pid ) {

    my $select = IO::Select->new( $read );
    if ( $select->can_read( $TIMEOUT_SECONDS ) ) {
        local $/;
        my $json = <$read>;
        if ( $json ) {
            my $matches_ref = JSON::from_json( $json );
            if ( $matches_ref ) {
                @matches = @$matches_ref;
            }
        }
    }
    waitpid $pid, 0;
}
else {
    my @r = $content =~ m!.*<([\w\d]+).*?>\s*about\s+$company[\w\s\-_]*<.*?>(?:<.*?>|\s)*(.*?)</\1.*?>!sig;
    my $json = JSON::to_json( \ @r );
    print { $write } $json;
    close $write;
    exit;
}