使用Perl XML :: DOM模块的分析器错误,"对无效字符编号的引用"

Ple*_*hor 7 xml perl parse-error

我是一个完整的Perl newb,但我确信学习Perl比在awk中解析如何解析XML更容易.我想从这个数据集中解析.sgm文件:

http://kdd.ics.uci.edu/databases/reuters21578/reuters21578.html

这是十年前来自newswire的20,000条路透社文章的集合,是针对某些类型的文本处理的标准测试集.为了简化我的perl测试,我从第一个文件中抓取了前几百行并制作了test.sgm,直到我的脚本正常工作.它开头是这样的:

<!DOCTYPE lewis SYSTEM "lewis.dtd">
<REUTERS TOPICS="YES" LEWISSPLIT="TRAIN" CGISPLIT="TRAINING-SET" OLDID="5544" NEWID="1">
<DATE>26-FEB-1987 15:01:01.79</DATE>
<TOPICS><D>cocoa</D></TOPICS>
<PLACES><D>el-salvador</D><D>usa</D><D>uruguay</D></PLACES>
<PEOPLE></PEOPLE>
<ORGS></ORGS>
<EXCHANGES></EXCHANGES>
<COMPANIES></COMPANIES>
<UNKNOWN> 
&#5;&#5;&#5;C T
&#22;&#22;&#1;f0704&#31;reute
u f BC-BAHIA-COCOA-REVIEW   02-26 0105</UNKNOWN>
<TEXT>&#2;
<TITLE>BAHIA COCOA REVIEW</TITLE>
<DATELINE>    SALVADOR, Feb 26 - </DATELINE><BODY>Showers continued throughout the week in
the Bahia cocoa zone, alleviating the drought since early
January and improving prospects for the coming temporao,...
Run Code Online (Sandbox Code Playgroud)

我使用了来自http://www.xml.com/pub/a/2001/05/16/perlxml.html的perl脚本作为示例,最后得到了这个,extract.pl:

use XML::DOM;

my $file = $ARGV[0];

my $parser = XML::DOM::Parser->new();
my $doc = $parser->parsefile($file);

#print $doc->getElementsByTagName('DATE');

print "\n";
Run Code Online (Sandbox Code Playgroud)

我得到这个输出:

> perl extract.pl test.sgm

reference to invalid character number at line 11, column 0, byte 343 at /usr/lib64/perl5/vendor_perl/5.8.5/x86_64-linux-thread-multi/XML/Parser.pm line 187
>
Run Code Online (Sandbox Code Playgroud)

谷歌没有帮助(最热门的打击似乎是一个我遇到同样错误的页面),我的Perl黑客朋友仍然在拉斯维加斯的Blackhat.我有什么想法,或者我如何清理文件?我认为坏处发生在"未知"标签内,我甚至不需要.我真的只想从每篇文章中提取文本.如果您需要更多信息,请告诉我.

Ins*_*lah 7

数字字符引用"" 在有效的XML文档中不合法.我将向您推荐XML建议中的4.1字符和实体引用部分:

使用字符引用引用的字符必须与Char的生成匹配.

现在,如果我们按照链接查看Char制作:

Char :: =#x9 | #xA | #xD | [#x20-#xD7FF] | [#xE000-#xFFFD] | [#x10000-#x10FFFF]

我们看到有些字符在字面上既不能出现,也不能在有效的XML文档中作为数字字符引用出现.

奇怪的是; 我今天学到了一些关于XML的东西:).

有关可能的解决方法,请参阅XML中ASCII控制字符的此对话.