标签: database-recommendation

使用 RDBMS 查询数十 TB 的时间序列数据?

我偶然发现了一个关于 SO的算法/数据结构问题,我将简短引用:

(...) 关于用于索引时间序列的最佳数据结构的意见(又名列数据,又名扁平线性)。

需要的查询:

All values in the time range [t0,t1]

All values in the time range [t0,t1] that are greater/less than v0

All values in the time range [t0,t1] that are in the value range[v0,v1]
Run Code Online (Sandbox Code Playgroud)

数据集由汇总的时间序列组成 (...) 所讨论的数据集大小约为 15-20TB,因此以分布式方式进行处理 - 因为上述某些查询将产生数据集大于任何一个系统上可用的物理内存量。

在这种情况下,分布式处理还意味着将所需的数据特定计算与时间序列查询一起分派,以便计算可以尽可能靠近数据发生 - 从而减少节点到节点的通信(有点类似于 map/减少范式)-简而言之,计算和数据的接近度非常关键。

我很容易承认这种规模的问题超出了我的头脑,但是我的第一个预感(即使提到了数据大小)考虑到这个问题,我会问他们是否检查了大型 RDBMS(好吧,我猜是 Oracle ,或 Oracle,对吗?)可以以理智的方式处理这个问题。

所以这里的问题是:今天,(企业?)RDBMS 能否以可接受的性能与“手工编码”解决方案处理此类问题。

注意:希望这不是太模糊,并随时根据需要重新标记:-)

performance database-recommendation database-size

6
推荐指数
1
解决办法
1026
查看次数

本地数据库与 Amazon RDS

我正在对本地 MySQL 数据库进行大型 INSERT

我有 2,000,000 行,现在我真的开始注意到速度变慢了。我一直听说 MySQL 的可扩展性不是很好

我希望这个数据库变得更大,而且我还有很多东西要插入

在这里使用亚马逊微型实例会有什么好处吗?

我不认为我的上传速度会成为瓶颈,所以我的逻辑是他们的分布式处理将使数据库更快。

事实证明,这更多是 CPU 利用率问题,但亚马逊的解决方案是否会更好,也许会针对更多可用处理器进行更优化?使用此逻辑,更昂贵的实例将具有更好的性能

但是这里涉及这么多变量,有没有人有这方面的经验要说?

mysql database-recommendation amazon-rds

6
推荐指数
1
解决办法
1万
查看次数

存档后缩小,这也很糟糕吗?

我有一个增长到 20 GB 的数据库,在归档一些数据后,表的实际大小仅为 5GB。备份脚本会将备份副本保存到其他位置。移动 20GB 或 5Gb 确实有所不同,所以我想减小物理尺寸,但如果我不想影响性能,我读到的任何地方都不要缩小。

但是在这种(定期/每季度/每年)归档的情况下,是否仍然建议不要收缩?

database-recommendation shrink sql-server-2012

6
推荐指数
1
解决办法
1311
查看次数

DBA 任务 (SQL Server 2008) - 建议 - 维护计划

我是一家大公司的 JR DBA。我是 6 个月前被聘用的,我学东西的速度非常快(我是这里唯一的 DBA)。

老 DBA 将服务器和 SQL Server 实例留给我处理。

这是一个非常棒的结构(集群等)。

但是,他使用脚本和大量编程来进行备份、清理任务和所有其他 DBA 任务。一切都很好。我在这里和那里修复了一些东西,但一切都非常好。

我正在自己学习 SQL Server,并且正在阅读有关MAINTENANCE PLAN.

使用它是一个不错的选择吗?如果我被新公司录用,使用维护计划是一个不错的选择(对我来说,看起来太“简单”了,不想看起来像一个糟糕的 DBA)。

谢谢。

(作为补充,他使用脚本将数据库名称放在一个表上,然后他使用脚本查找该表并将其用于作业。我可以通过一个简单的维护计划来做到这一点。但他是一名高级 DBA。他告诉我他喜欢它,使用维护计划不是问题。我只是想要一些意见)

sql-server database-recommendation

6
推荐指数
1
解决办法
1683
查看次数

MySQL中小型查找表的最佳引擎

我有以下问题:我正在设计带有几十个小型查找表的 Web 应用程序:这些表通常包含三列(ID、名称、描述)和几行(大多数少于 50,最大约为 450)。

这些查找表预计很少更改(它们来自标准,几年更改一次)并且仅用于:

  • html select 中的填充选项
  • 加入报告中的其他记录

SELECT99% 的情况下,这些表上只会有语句,但会有相当多的语句。

我想知道,使用哪种数据库引擎最有效?

以下是我的考虑:

记忆

  • 亲:非常快
  • con:如果服务器崩溃,所有数据都丢失,需要重新创建
  • con:不支持外键

压缩的 MyISAM

  • 亲:快
  • con:不支持外键

数据库

  • 亲:外键支持

我想问的是,使用与InnoDB不同的东西是否会有显着的优势- 性能方面

谢谢,兹比内克

mysql innodb myisam storage-engine database-recommendation

6
推荐指数
1
解决办法
691
查看次数

多数据库面向对象代理

你知道是否有一种系统/产品/技术可以将一个或多个关系数据库“包装”到一个面向对象的虚拟数据库中(或者我们可以称之为“多数据库面向对象代理”)?

我来说明一下原理:

多数据库面向对象代理

因此,基本上,中间的粉红色部分(以下称为“对象代理”)将包含业务实体的定义及其到多个关系数据库中数据的映射。应用程序将从对象代理请求或插入/更新/删除数据,这将神奇地与底层关系数据库同步。

那可能吗?这样的系统存在吗?

database-recommendation

5
推荐指数
1
解决办法
668
查看次数

将 2 列 CSV 文件导入某种数据库....初步规划

每天我都有一个由脚本生成的 CSV 文件。它有两列。第 1 列是名称,第 2 列是其邮箱的大小。

我有这些文件一年的价值。我希望能够将它们导入数据库(我们内部有 SQL,或者我可以安装 MySQL,或其他任何与此相关的东西)

我希望能够看到随着时间的推移这些用户的增长模式。基本报告,这是我稍后将解决的另一个问题。现在我只想要数据库中的数据而不是数百个平面文件。

什么样的数据库对此有好处?简单是最好的。我不是 DB 人。你会怎么办?这对我来说主要是一个学习项目。

migration database-recommendation

5
推荐指数
1
解决办法
235
查看次数

哪些数据库或数据库样式可以使用 git(或其他 dvcs 架构)来管理跨站点复制?

我正在寻找用于字典的数据库软件包(例如您可能在家里某处的死树的大块)。我想要数据库

  1. 可以很好地扩展到一百万个键值对。对通常少于 20 个字符,通常少于 1000 个字符。
  2. 有完美的 UTF-8 支持。
  3. 处理分布式版本控制。我希望它能够很好地处理拥有大量分支和合并分支的情况。这可以是内置的,也可以由 git 之类的东西独立提供。
  4. 与 Ruby 有良好支持的互操作。我计划用 Ruby 编写一个与数据库对话的桌面程序。(如果发生,Ruby 也可以用于编写 Web 部件。)
  5. 反应相当灵敏(尽管我希望它很快)。
  6. 无论是在桌面上还是在为 Web 上的某些内容提供数据时,都可以很好地处理更改。(希望这个项目能够进入 Web 部件。)
  7. 是免费软件(由 RMS 定义)并且免费提供。

所有这些数据都将手工输入。

如果这个数据库有类似 github 的东西,那不会有什么坏处。不过,我不知道是否有人提供了类似的数据库。

没有人的工作、职业或公司依赖于这个决定。

有什么建议?

database-design database-recommendation

5
推荐指数
1
解决办法
288
查看次数

每秒处理数百万个请求的数据库硬件和软件?

我很好奇支持强大的 MMORPG 所需的硬件和软件要求。例如,如果我要构建一个可以同时包含数百万个请求并避免延迟的系统,我需要什么样的需求(硬件和软件)?如何通过有效处理请求来防止游戏出现故障?

我理解这取决于正确的编程和数据库结构。假设有 1 个表将为每个请求更新 2 行,并且有一百万个请求,我需要什么样的系统和数据库才能完美无延迟地做到这一点?处理所有这些请求需要多长时间?

只是想知道如果我要开发 MMORPG,我应该期待什么。

我真的很想得到您对此的反馈/回应。

database-design database-recommendation

5
推荐指数
1
解决办法
2639
查看次数

仅镜像/复制数据库的 1 个表

我需要一种很好的方法来在不同服务器和不同数据库之间复制 SQL Server 2012 中的单个表。我试过复制品,它工作得很好,但可能有更好/更简单的方法,我现在看不到。

也许有一种方法可以使用任务将数据作为作业导入。数据不需要一直同步。每隔 5-10 分钟,第二个数据库 [B] 就可以使用数据库 [A] 中的数据进行更新。

是否可以只为一张表设置镜像?

当然,我检查了网络,这给了我编写导入任务脚本的想法。

还有什么可能以及如何?

sql-server database-recommendation sql-server-2012

5
推荐指数
1
解决办法
1万
查看次数