Google Cloud Storage对于小文件是否具有成本效益?

Joh*_*han 2 google-cloud-storage

我有很多小的非结构化json文件(每个文件少于1K),我想以某种方式(使用流传输)存储在Google云存储中。我宁愿避免将它们放入zip文件中(我认为),因为我正在考虑使用Apache Drill对它们执行查询。将多个json文档合并在一起而不是一张一张地存储会更具成本效益吗?(我认为批量写入文件是件好事,无论它们是合并还是分开存储)

Bra*_*ugh 5

也许。这取决于您的使用模式。

GCS没有按对象收费。而是按每月存储的每千兆字节收费。分解文件完全不会影响。

但是,GCS还收取每笔操作费。在撰写本文时,每10,000次下载将花费您一分钱,每10,000次上传将花费您一角钱。如果您一次只有几千个文件或一次只能访问几个文件,那么这可能并没有太大的区别,但是如果您需要经常下载所有文件,或者需要经常替换它们,并且每天要进行数百万或数十亿次的单独上传,突然使用一些大文件可以为您节省很多钱。

如果您可以估算在每种情况下要进行多少次下载和上传,Google会提供一个计算器让您知道其成本:https//cloud.google.com/products/calculator/

  • 不,GCS 中没有 5MB 的东西。如果您存储 10.7 亿个 1 字节文件一个月,则您每月的存储成本应约为 1 GB 月存储。也就是说,由于其他原因,在 GCS 中存储数十亿个单字节文件可能不是最佳存储解决方案(Cloud BigTable 可能是更好的选择),但存储对象的成本不会产生任何计费开销。 (2认同)