相关疑难解决方法(0)

使用jq如何将一个非常大的JSON文件拆分成多个文件,每个文件都有特定数量的对象?

我有一个大的JSON文件,我猜测有400万个对象.每个顶级都有几个嵌套在里面的级别.我想将它分成多个10000个顶级对象的文件(保留每个内部的结构).jq应该能够做到这一点吗?我不知道怎么做.

所以这样的数据:

[{
  "id": 1,
  "user": {
    "name": "Nichols Cockle",
    "email": "ncockle0@tmall.com",
    "address": {
      "city": "Turt",
      "state": "Th? Tr?n Yên Phú"
    }
  },
  "product": {
    "name": "Lychee - Canned",
    "code": "36987-1526"
  }
}, {
  "id": 2,
  "user": {
    "name": "Isacco Scrancher",
    "email": "iscrancher1@aol.com",
    "address": {
      "city": "Likwatang Timur",
      "state": "Biharamulo"
    }
  },
  "product": {
    "name": "Beer - Original Organic Lager",
    "code": "47993-200"
  }
}, {
  "id": 3,
  "user": {
    "name": "Elga Sikora",
    "email": "esikora2@statcounter.com",
    "address": {
      "city": "Wenheng",
      "state": "Piedra …
Run Code Online (Sandbox Code Playgroud)

json data-partitioning jq

6
推荐指数
2
解决办法
2802
查看次数

如何拆分 CSV 或 JSON 文件以获得最佳 Snowflake 摄取?

Snowflake 建议在摄取之前分割大文件:

为了优化负载的并行操作数量,我们建议目标是生成压缩后大小约为 100-250 MB(或更大)的数据文件。https://docs.snowflake.com/en/user-guide/data-load-considerations-prepare.html

分割大文件并压缩它们的最佳方法是什么?

gzip split command-line-interface snowflake-cloud-data-platform

5
推荐指数
1
解决办法
3526
查看次数