有效地查询Hbase

Question

我正在使用Java作为查询Hbase的客户端.

我的Hbase表设置如下:

ROWKEY     |     HOST     |     EVENT
-----------|--------------|----------
21_1465435 | host.hst.com |  clicked
22_1463456 | hlo.wrld.com |  dragged
    .             .             .
    .             .             .
    .             .             .

我需要做的第一件事是让所有的清单ROWKEYs已host.hst.com与它相关联.

我可以在Column上创建一个扫描器,host对于每个行值,column value = host.hst.com我将添加相应ROWKEY的列表.看起来效率很高.O(n)获取所有行.

现在是困难的部分.对于ROWKEY列表中的每一个,我需要得到相应的EVENT.

如果我使用普通GET命令来获取单元格(ROWKEY, EVENT),我相信会创建一个扫描程序EVENT,需要O(n)时间才能找到正确的单元格并返回值.这对每个人来说都是非常糟糕的时间复杂性ROWKEY.结合这两者给了我们O(n^2).

有没有更有效的方法来解决这个问题？

非常感谢您提前帮助!

Answer 1

你n这里是什么？？有了 RowKey 在手 - 我想你的意思是HBase rowkey - 不是一些手工制作的？- 这对于 HBase 来说是快速/简单的。将其视为 O(1)。

如果 ROWKEY 是您创建的实际列..那么就有您的问题了。请改用 HBase 提供的 rowkey。

因此，让我们继续 - 假设您 (a) 已经正确使用提供的 hbase rowkey- 或者已经修复了您的结构来执行此操作。

在这种情况下，您可以简单地get为每个(rowkey, EVENT)值创建一个单独的值，如下所示：

Perform a `get` with the given `rowkey`. 
In your result then filter out EVENT in <yourEventValues for that rowkey>

因此，您最终将获取给定行键的所有最近（最新时间戳）条目。与 'n' 相比，这大概很小？那么过滤就是对一列的快速操作。

您还可以通过执行批处理来加快速度multiget。节省的成本来自于减少了 HBase 主服务器的往返次数以及主服务器/区域服务器的解析/计划生成。

更新感谢OP：我更清楚地了解情况。我建议简单地使用“host |”作为行键。然后，您可以执行范围扫描并从单个获取/扫描中获取条目。

另一个更新

HBase 支持基于 rowkey 前缀的范围扫描。因此，您有 foobarRow1、foobarRow2、.. 等，然后您可以对 (foobarRow、foobarRowz) 进行范围扫描，它将找到所有行键以foobarRow- 开头且后面带有任何字母数字字符的行。

看看这个 HBase (Easy): How to Perform Range Prefix Scan in hbase shell

这是一些说明性代码：

SingleColumnValueFilter filter = new SingleColumnValueFilter(
   Bytes.toBytes("columnfamily"),
   Bytes.toBytes("storenumber"),
   CompareFilter.CompareOp.NOT_EQUAL,
   Bytes.toBytes(15)
);
filter.setFilterIfMissing(true);
Scan scan = new Scan(
   Bytes.toBytes("20110103-1"),
   Bytes.toBytes("20110105-1")
);
scan.setFilter(filter);

请注意，20110103-1和20110105-1提供了一系列要搜索的行键。