将 Xml 转换为 JSON 以获取大型 Xml 文件的 Node.js 示例

Question

我对 Node.js 比较陌生。我正在尝试将 83 个大小约为 400MB 的 XML 文件转换为 JSON。

每个文件都包含这样的数据（除了每个元素都有大量的附加语句）：

<case-file>
  <serial-number>75563140</serial-number>
  <registration-number>0000000</registration-number>
  <transaction-date>20130101</transaction-date>
  <case-file-header>
     <filing-date>19981002</filing-date>
     <status-code>686</status-code>
     <status-date>20130101</status-date>
  </case-file-header>
  <case-file-statements>
     <case-file-statement>
        <type-code>D10000</type-code>
        <text>"MUSIC"</text>
     </case-file-statement>
     <case-file-statement>
        <type-code>GS0351</type-code>
        <text>compact discs</text>
     </case-file-statement>
  </case-file-statements>
  <case-file-event-statements>
     <case-file-event-statement>
        <code>PUBO</code>
        <type>A</type>
        <description-text>PUBLISHED FOR OPPOSITION</description-text>
        <date>20130101</date>
        <number>28</number>
     </case-file-event-statement>
     <case-file-event-statement>
        <code>NPUB</code>
        <type>O</type>
        <description-text>NOTICE OF PUBLICATION</description-text>
        <date>20121212</date>
        <number>27</number>
     </case-file-event-statement>
   </case-file-event-statements>

我尝试了很多不同的 Node 模块，包括 sax、node-xml、node-expat 和 xml2json。显然，我需要从文件中流式传输数据并通过 XML 解析器将其通过管道传输，然后将其转换为 JSON。

我还尝试阅读了一些博客等，试图解释如何解析 Xml，尽管是表面的。

在 Node 世界中，我首先尝试了 sax，但我不知道如何以可以将其转换为 JSON 的格式提取数据。xml2json 不适用于流。node-xml 看起来令人鼓舞，但我无法弄清楚它如何以任何有意义的方式解析块。node-expat 指向 libexpat 文档，该文档似乎需要博士学位。Node elementree 做同样的事情，指向 Python 实现，但没有解释已经实现的内容或如何使用它。

有人可以指出我可以用来开始的例子吗？

Answer 1

虽然这个问题已经很老了，但我正在分享我的问题和解决方案，这可能对所有试图转换XML为JSON.

这里的实际问题不是转换，而是处理巨大的 XML 文件而不必立即将它们保存在内存中。

使用几乎所有广泛使用的软件包，我遇到了以下问题 -

• 很多软件包的支持XML，以JSON转换覆盖所有的情况，但他们没有大文件很好地工作。

• 很少有包（如xml-flow、xml-stream）支持大型 XML 文件转换，但转换过程会遗漏一些极端情况，即转换失败或提供不可预测的 JSON 结构（在此 SO 问题中解释）。

理想的解决方案是结合这两种方法的优点，这正是我所做的并提出了xtreamer node package。

简单来说，xtreamer就像xml-flow/一样接受重复节点，xml-stream但发出重复的 xml 节点而不是转换后的 JSON。这提供了以下优点 -

• 我们可以通过管道xtreamer传输任何可读流，因为它扩展了transform stream。
• 发出的 XML 节点可以传输到任何 XML 到 JSON 解析器以获得所需的 JSON。
• 我们可以更进一步，使用xtreamer&连接 JSON 解析器，它将调用 JSON 解析器并相应地发出 JSON。
• xtreamer已stream作为其唯一依赖＆是一个变换流的扩展，可以与灵活其它流管道。

如果 XML 结构不固定怎么办？

我设法想出了另一个sax基于节点的包xtagger，它读取 XML 文件并以以下格式提供文件的结构 -

structure: { [name: string]: { [hierarchy: number]: number } };

这个包允许找出重复的节点名称，然后可以将其传递给xtreamer解析。

我希望这有帮助。:)

Answer 2

考虑到你最后的答案，我想现在你已经有了一个工作流程。

无论如何，如果您已经使用 SAX 成功解析了传入数据，那么解决方案可能只是将数据放入您设计的对象中并用于将 yourStream.write(JSON.stringify(yourObject)) 其流式传输。