标签: kairosdb

访问速度非常快的大数据

我面临一个问题:过程工厂的数据库.采样率为50 ms时,最多有50,000个传感器.所有测量值都需要存储至少3年,并且必须支持实时查询(即用户可以查看延迟小于1秒的历史数据).我最近阅读了一篇关于时间序列数据库的文章,现有很多选项:OpenTSDB,KairosDB,InfluxDB,......

我很困惑哪一个适合这个目的?任何人都知道这个请帮助我!

更新15.06.25

今天我运行一个基于OpenTSDB的测试.我使用Virtual Box创建了一个由3个CentOS x64 VM组成的集群(1个主服务器,2个从服务器).主机配置为8 GB RAM,核心i5.主VM配置为3 GB RAM,从站配置为1.5 GB RAM.我编写了一个python程序来向OpenTSDB发送数据,如下所示:

s = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
s.connect(("192.168.10.55", 4242))

start_time = time.time()
start_epoch = 1434192418;

for x in range(0, 1000000):
    curr_epoch = start_epoch + x

    tag1 = "put TAG_1 %d 12.9 stt=good\n" % (curr_epoch)
    tag2 = "put TAG_2 %d 12.9 stt=good\n" % (curr_epoch)
    tag3 = "put TAG_3 %d 12.9 stt=good\n" % (curr_epoch)
    tag4 = "put TAG_4 %d 12.9 stt=good\n" % (curr_epoch)
    tag5 = "put TAG_5 %d 12.9 …
Run Code Online (Sandbox Code Playgroud)

hbase phoenix opentsdb kairosdb influxdb

8
推荐指数
1
解决办法
898
查看次数

对于最大值16777216,17076203字节的突变太大

我在cassandra设置中有"commitlog_segment_size_in_mb:32",但下面的错误表明最大大小是16777216,大约是16mb.我正在查看修正下面错误的正确设置吗?

我指的是基于http://mail-archives.apache.org/mod_mbox/cassandra-user/201406.mbox/%3C53A40144.2020808@gmail.com%3E上提供的建议.

我正在使用2.1.0-2 for Cassandra.

我使用的是Kairosdb,写缓冲区最大大小为0.5Mb.

WARN  [SharedPool-Worker-1] 2014-10-22 17:31:03,163 AbstractTracingAwareExecutorService.java:167 - Uncaught exception on thread Thread[SharedPool-Worker-1,5,main]: {}
java.lang.IllegalArgumentException: Mutation of 17076203 bytes is too large for the maxiumum size of 16777216
        at org.apache.cassandra.db.commitlog.CommitLog.add(CommitLog.java:216) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.db.commitlog.CommitLog.add(CommitLog.java:203) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.db.Keyspace.apply(Keyspace.java:371) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.db.Keyspace.apply(Keyspace.java:351) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.db.Mutation.apply(Mutation.java:214) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.db.MutationVerbHandler.doVerb(MutationVerbHandler.java:54) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.net.MessageDeliveryTask.run(MessageDeliveryTask.java:62) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471) ~[na:1.7.0_67]
        at org.apache.cassandra.concurrent.AbstractTracingAwareExecutorService$FutureTask.run(AbstractTracingAwareExecutorService.java:163) ~[apache-cassandra-2.1.0.jar:2.1.0]
        at org.apache.cassandra.concurrent.SEPWorker.run(SEPWorker.java:103) [apache-cassandra-2.1.0.jar:2.1.0]
        at java.lang.Thread.run(Thread.java:745) [na:1.7.0_67]
Run Code Online (Sandbox Code Playgroud)

cassandra kairosdb datastax

5
推荐指数
1
解决办法
4256
查看次数

Kairosdb没有运行

我正在尝试运行kairosdb和cassandra,但是在我收到以下错误后kairosdb关闭,我相信这是因为kairosdb无法与cassandra建立连接.Cassandra似乎运行正常,我无法理解为什么会出现这个错误:

18:33:08.463 [main] ERROR [HConnectionManager.java:71] - 无法启动主机localhost(127.0.0.1)的连接池:9160

注入构造函数时出错,org.kairosdb.core.exception.DatastoreException:me.prettyprint.hector.api.exceptions.HectorException:标记为关闭的所有主机池.重试负担被推送给客户....

另外,我注意到没有创建kairos_cache ix,这个链接中提到了.我从/ root将/ tmp /文件夹的权限更改为用户,但仍无法正常工作.

cassandra kairosdb

2
推荐指数
1
解决办法
1599
查看次数

标签 统计

kairosdb ×3

cassandra ×2

datastax ×1

hbase ×1

influxdb ×1

opentsdb ×1

phoenix ×1